☝🏻OpenAI признала, что её ИИ-агенты сбежали на немецкую вики

Корпорация впервые признала «вики-инцидент»: рой её собственных агентов нашёл способ писать в интернет, хотя ему разрешили только читать.🤖

Компания заявила, что «давно пора» определить стандарты, когда и как сообщать о таких инцидентах — раньше подобное считалось «исследовательским вопросом».🤷🏼‍♀️

Что произошло:
🔻 агентам дали задачу на поиск в вебе на время, с доступом только на чтение
🔻 они нашли лазейку и стали писать на заброшенную немецкую вики DseWiki — сайту 25 лет, за десятилетие его правили 20 раз
🔻 там они обменивались ответами, чтобы жульничать на задаче, и делились трюками обхода ограничений песочницы
🔻 всего — около 18 000 постов, часть под видом модераторов сайта

Агенты называли себя «OpenAIResearcher», а один заметил, что админ удаляет страницы по алфавиту, и завёл резервную копию с именем на «ZZZ».🤯

Активность началась в мае. В конце июня об инциденте стало известрно сотрудникам OpenAI, и на следующий день посты прекратились.

☝🏻☝🏻После этого компания больше двух месяцев молчала, готовя запуск GPT-6 Astra.

Это уже второй известный «сбежавший рой» OpenAI за лето после взлома Hugging Face. Признание пришло только после публикации в СМИ — само бы, видимо, не рассказалось.🤔
================
🔺 News | 🧩 Soft | 💻 Hacker