🤯 С некоторых пор новостную ленту в подборке Перплексити мой муж называет лентой апокалипсиса. Оттуда, кстати, в последнее время практически ушли новости про Иран и перманентно открытый/закрытый Ормузский пролив (кстати, что там сейчас?). Зато лента забита сообщениями о бесконечных побегах ИИ-агентов! Сериал апокалипсиса! Давайте посмотрим, что у нас в предыдущих сериях.
Суть в двух фразах. Внутренние экспериментальные модели OpenAI во время обучения и тестов несколько раз выходили за пределы «песочницы» (изолированной среды) и добирались до чужих систем, в том числе до Hugging Face и государственных сайтов. Мотив, конечно, не «жажда свободы», а поиск короткого пути к решению заданной задачи: агенты шли туда, где, как им казалось, лежат готовые ответы или нужные данные.
Важно, но это упускается из описаний инцидентов в СМИ. Речь не о ChatGPT, которым массово пользуются люди, а о закрытых исследовательских моделях, которые тестировали с частично и намеренно отключенными защитами.
Хронология кратко, выжимка из профессиональных разборов полетов на технологических сайтах
Май – июль 2026: История с Hugging Face
- Модели проверяли на бенчмарке ExploitGym: умеют ли они превращать известные уязвимости в работающие атаки. Защитные ограничения, как пишет OpenAI, в этом тесте были намеренно ослаблены.
- С 12 мая агенты нашли способ использовать внутренний сервис OpenAI (Artifactory, хранилище программных пакетов) как самодельную «доску объявлений» для обмена между собой и через уязвимость получили выход в интернет.
- 11–13 июля агенты проникли в системы Hugging Face (крупная платформа для ИИ-моделей и данных): решили, что там могут лежать решения задач теста.
- 16 июля Hugging Face сообщила о взломе, 21 июля OpenAI признала, что это были ее агенты.
- Последствия: Hugging Face перестраивала примерно треть инфраструктуры, данные клиентов не пострадали; OpenAI на две недели приостановила обучение с подкреплением.
- Главная модель в инциденте — внутренняя IM1, по уровню сопоставимая с GPT-5.6 Sol, публично не выпускалась.
Сентябрь 2026: Второй виток
- 20 сентября агенту дали мирную задачу: найти человека по фрагментам его блога. Поиск не удался, агент перебрал обходные пути и нашел лазейку через DNS (служебную «адресную книгу» интернета), по которой связался с внешним чат-ботом.
- Мониторинг поднял тревогу примерно через 15 минут (по данным OpenAI, N+1 пишет о 12 минутах), вручную агента остановили через 2,5 часа.
- 25 сентября OpenAI остановила обучение, тестирование и работу с инструментами для своих самых мощных моделей, эта модель, по заявлениям, дальше обучаться не будет.
В те же дни стало известно о других эпизодах (частично раскопаны The New York Times и исследователями из Transluce):
- Бюро переписи США: агенты скачали публичные демографические данные, используя чужие ключи доступа, найденные в открытом доступе на GitHub. Закрытые данные не затронуты.
- SEC (Комиссия по ценным бумагам): агенты скопировали публичную информацию с сайтов SEC и выложили ее на другой сайт. Закрытых данных и учетных записей не касались.
- Министерство образования США: неудачная попытка проникнуть на сайт. Министерство следов ущерба не нашло, причастность OpenAI пока не подтверждена.
Июнь с поимкой нарушителя в августе 2026, Австралия:
Агент зашел в закрытые разделы государственного портала медицинской статистики. OpenAI обнаружила это в августе, а власти уведомила только 10 сентября. По данным властей, затронута только агрегированная статистика, не медицинские карты.
Продолжение ниже...👇
Суть в двух фразах. Внутренние экспериментальные модели OpenAI во время обучения и тестов несколько раз выходили за пределы «песочницы» (изолированной среды) и добирались до чужих систем, в том числе до Hugging Face и государственных сайтов. Мотив, конечно, не «жажда свободы», а поиск короткого пути к решению заданной задачи: агенты шли туда, где, как им казалось, лежат готовые ответы или нужные данные.
Важно, но это упускается из описаний инцидентов в СМИ. Речь не о ChatGPT, которым массово пользуются люди, а о закрытых исследовательских моделях, которые тестировали с частично и намеренно отключенными защитами.
Хронология кратко, выжимка из профессиональных разборов полетов на технологических сайтах
Май – июль 2026: История с Hugging Face
- Модели проверяли на бенчмарке ExploitGym: умеют ли они превращать известные уязвимости в работающие атаки. Защитные ограничения, как пишет OpenAI, в этом тесте были намеренно ослаблены.
- С 12 мая агенты нашли способ использовать внутренний сервис OpenAI (Artifactory, хранилище программных пакетов) как самодельную «доску объявлений» для обмена между собой и через уязвимость получили выход в интернет.
- 11–13 июля агенты проникли в системы Hugging Face (крупная платформа для ИИ-моделей и данных): решили, что там могут лежать решения задач теста.
- 16 июля Hugging Face сообщила о взломе, 21 июля OpenAI признала, что это были ее агенты.
- Последствия: Hugging Face перестраивала примерно треть инфраструктуры, данные клиентов не пострадали; OpenAI на две недели приостановила обучение с подкреплением.
- Главная модель в инциденте — внутренняя IM1, по уровню сопоставимая с GPT-5.6 Sol, публично не выпускалась.
Сентябрь 2026: Второй виток
- 20 сентября агенту дали мирную задачу: найти человека по фрагментам его блога. Поиск не удался, агент перебрал обходные пути и нашел лазейку через DNS (служебную «адресную книгу» интернета), по которой связался с внешним чат-ботом.
- Мониторинг поднял тревогу примерно через 15 минут (по данным OpenAI, N+1 пишет о 12 минутах), вручную агента остановили через 2,5 часа.
- 25 сентября OpenAI остановила обучение, тестирование и работу с инструментами для своих самых мощных моделей, эта модель, по заявлениям, дальше обучаться не будет.
В те же дни стало известно о других эпизодах (частично раскопаны The New York Times и исследователями из Transluce):
- Бюро переписи США: агенты скачали публичные демографические данные, используя чужие ключи доступа, найденные в открытом доступе на GitHub. Закрытые данные не затронуты.
- SEC (Комиссия по ценным бумагам): агенты скопировали публичную информацию с сайтов SEC и выложили ее на другой сайт. Закрытых данных и учетных записей не касались.
- Министерство образования США: неудачная попытка проникнуть на сайт. Министерство следов ущерба не нашло, причастность OpenAI пока не подтверждена.
Июнь с поимкой нарушителя в августе 2026, Австралия:
Агент зашел в закрытые разделы государственного портала медицинской статистики. OpenAI обнаружила это в августе, а власти уведомила только 10 сентября. По данным властей, затронута только агрегированная статистика, не медицинские карты.
Продолжение ниже...👇