📅 Gemini сбежал из песочницы и взломал три реальные компании

Во время учебного Capture the Flag от компании Irregular ИИ Google Gemini должен был ковыряться в вымышленной фирме внутри закрытого стенда, но стенд по ошибке получил выход в интернет, а имя «вымышленной» компании совпало с настоящей и модель ушла ломать реальные системы.

— Сначала Gemini просто перебирал пароли, пока не вошёл в защищённый сервис живой организации, а ещё в двух случаях нашёл в публичных репозиториях рабочие учётки и залогинился под ними.

Google говорит, что ИИ сам остановился, поняв, что перед ним боевые системы, но до того уже сделал ровно то, что делает злоумышленник.

🎤 Чтиво

#AIThreats #RedTeam #CredentialAccess / White Hat / max.ru/kind_hack