OpenAI и Anthropic тайно готовятся к масштабной катастрофе и восстанию ИИ.

Компании проводят специальные учения. На фоне этого из бигтеха бегут инженеры по безопасности, предупреждая, что развитие нейросетей уничтожит человечество, пишет Axios.

Они ожидают крупномасштабного события — скорее всего, кибератаки, — которое отключит доступ к финансовым услугам, интернету или даже электричеству и воде. Первый серьезный случай реального вреда от небезопасного ИИ обернет уже настороженную публику против технологии и ее лидеров, а также Трампа за нежелание регулировать отрасль,

— отмечает издание.

Инцидент может произойти, если рой вышедших из-под контроля агентов вырвется из внутренней тестовой среды или злоумышленник найдет неожиданные способы использовать доступные модели.

Мировая экономика сильно связана со строительством ИИ-инфраструктуры, и замедление может ударить по и без того хрупкой системе. Кроме того, слишком много моделей уже можно свободно скачать и использовать во вред, а большинство специалистов по кибербезопасности считают, что бороться с этим можно только с помощью ИИ против ИИ,

— констатирует СМИ.

Многие инсайдеры сказали, что верят в крупный инцидент в ближайшие 6–12 месяцев.

#США #ИИ #катастрофа #сценарии

Подпишись