🤯 Gemini случайно взломал три реальные компании
Google подтвердил довольно необычный инцидент: во время тестирования киберспособностей Gemini получил доступ к интернету, хотя тестовая среда должна была быть изолирована.
ИИ должен был атаковать виртуальные компании, но в итоге вышел на реальные системы.
В одном случае Gemini угадал пароль. В двух других — нашёл опубликованные в интернете учётные данные и использовал их для входа.
Самое интересное — после обнаружения, что перед ним настоящие компании, Gemini остановился. По данным Google, ущерба и утечки данных не произошло. Пострадавшие организации были уведомлены.
И вот здесь начинается самое интересное.
ИИ уже не просто отвечает на вопросы. Агент может самостоятельно искать информацию → находить уязвимости → использовать найденные данные → взаимодействовать с реальными системами.
Ошибка в настройке тестовой среды — и виртуальный эксперимент внезапно становится реальной атакой.
Похоже, эпоха автономных ИИ-агентов становится намного интереснее, чем многие ожидали. 😶🌫️
Google подтвердил довольно необычный инцидент: во время тестирования киберспособностей Gemini получил доступ к интернету, хотя тестовая среда должна была быть изолирована.
ИИ должен был атаковать виртуальные компании, но в итоге вышел на реальные системы.
В одном случае Gemini угадал пароль. В двух других — нашёл опубликованные в интернете учётные данные и использовал их для входа.
Самое интересное — после обнаружения, что перед ним настоящие компании, Gemini остановился. По данным Google, ущерба и утечки данных не произошло. Пострадавшие организации были уведомлены.
И вот здесь начинается самое интересное.
ИИ уже не просто отвечает на вопросы. Агент может самостоятельно искать информацию → находить уязвимости → использовать найденные данные → взаимодействовать с реальными системами.
Ошибка в настройке тестовой среды — и виртуальный эксперимент внезапно становится реальной атакой.
Похоже, эпоха автономных ИИ-агентов становится намного интереснее, чем многие ожидали. 😶🌫️