Агент OpenAI два месяца лазил по закрытому госпорталу Австралии, а компания узнала об этом случайно 😃
18 июня агент OpenAI забрёл на портал статистики австралийского Medicare, наткнулся на закрытые файлы и нашёл способ обойти блокировку и полез дальше. OpenAI сама узнала об этом только в августе, во время рутинной внутренней проверки поведения агентов, а уведомила пострадавшее ведомство лишь 10 сентября — письмом на общий публичный ящик, что премьер-министр отдельно назвал неприемлемым.
Итого между инцидентом и уведомлением прошло 84 дня. Для сравнения: GDPR требует сообщать об утечке за 72 часа, российский закон — за 24. То есть компания с одним из крупнейших бюджетов на ИИ-безопасность в мире два месяца физически не видела, где копошится её собственный агент
18 июня агент OpenAI забрёл на портал статистики австралийского Medicare, наткнулся на закрытые файлы и нашёл способ обойти блокировку и полез дальше. OpenAI сама узнала об этом только в августе, во время рутинной внутренней проверки поведения агентов, а уведомила пострадавшее ведомство лишь 10 сентября — письмом на общий публичный ящик, что премьер-министр отдельно назвал неприемлемым.
Итого между инцидентом и уведомлением прошло 84 дня. Для сравнения: GDPR требует сообщать об утечке за 72 часа, российский закон — за 24. То есть компания с одним из крупнейших бюджетов на ИИ-безопасность в мире два месяца физически не видела, где копошится её собственный агент