СОЗДАТЕЛИ CHATGPT УЖЕ РЕПЕТИРУЮТ «ДЕНЬ ПОСЛЕ» ИИ-КАТАСТРОФЫ
И речь не о восстании терминаторов. По данным Axios, руководители OpenAI, Anthropic и других ИИ-компаний в закрытом режиме отрабатывают сценарии масштабного кризиса с участием искусственного интеллекта.
Самый неприятный вариант — крупная кибератака, после которой перестают работать банковские сервисы, пропадает интернет, а в худшем случае возникают перебои с электричеством и водоснабжением.
Но это не научный прогноз и тем более не объявленная дата катастрофы. В OpenAI подтвердили проведение подобных учений, подчеркнув, что не считают эти сценарии неизбежными. Anthropic от комментариев отказалась.
И вовсе не обязательно, чтобы нейросеть внезапно обрела сознание и решила захватить человечество.
😈 Достаточно злоумышленника, использующего мощный ИИ для кибератаки. Или автономного ИИ-агента, который получил слишком много полномочий и совершил действия, которых от него никто не ожидал.
Но у этих учений есть ещё одна любопытная сторона.
По информации Axios, компании заранее продумывают, как реагировать на общественное возмущение и что объяснять американским законодателям, если крупный инцидент действительно произойдёт.
Потому что после отключения банков или городской инфраструктуры разговоры о пользе нейросетей могут быстро смениться требованиями запретить или жёстко ограничить технологию.
И это уже касается не только разработчиков. Мы постепенно доверяем ИИ всё больше реальных задач, а последствия его ошибок могут выходить далеко за пределы экрана компьютера.
🖼️ Получается занятная картина: компании, которые обещают нам технологическое будущее, уже репетируют, как будут объяснять его возможный провал.
И очень хотелось бы, чтобы предотвращению катастрофы они уделяли не меньше внимания, чем подготовке к её последствиям ❗
max.ru/channel_v_seti
И речь не о восстании терминаторов. По данным Axios, руководители OpenAI, Anthropic и других ИИ-компаний в закрытом режиме отрабатывают сценарии масштабного кризиса с участием искусственного интеллекта.
Самый неприятный вариант — крупная кибератака, после которой перестают работать банковские сервисы, пропадает интернет, а в худшем случае возникают перебои с электричеством и водоснабжением.
Некоторые источники Axios внутри ИИ-индустрии считают, что подобный инцидент может произойти уже в ближайшие 6–12 месяцев.
Но это не научный прогноз и тем более не объявленная дата катастрофы. В OpenAI подтвердили проведение подобных учений, подчеркнув, что не считают эти сценарии неизбежными. Anthropic от комментариев отказалась.
И вовсе не обязательно, чтобы нейросеть внезапно обрела сознание и решила захватить человечество.
😈 Достаточно злоумышленника, использующего мощный ИИ для кибератаки. Или автономного ИИ-агента, который получил слишком много полномочий и совершил действия, которых от него никто не ожидал.
Но у этих учений есть ещё одна любопытная сторона.
По информации Axios, компании заранее продумывают, как реагировать на общественное возмущение и что объяснять американским законодателям, если крупный инцидент действительно произойдёт.
Потому что после отключения банков или городской инфраструктуры разговоры о пользе нейросетей могут быстро смениться требованиями запретить или жёстко ограничить технологию.
И это уже касается не только разработчиков. Мы постепенно доверяем ИИ всё больше реальных задач, а последствия его ошибок могут выходить далеко за пределы экрана компьютера.
🖼️ Получается занятная картина: компании, которые обещают нам технологическое будущее, уже репетируют, как будут объяснять его возможный провал.
И очень хотелось бы, чтобы предотвращению катастрофы они уделяли не меньше внимания, чем подготовке к её последствиям ❗
max.ru/channel_v_seti