ИИ-агент взломал фитнес-клуб: первый кейс автономной кибератаки
Австралиец попросил своего ИИ-ассистента записать его на утреннюю тренировку в спортзал. Было всего три места, чтобы попасть на тренировку. Вместо простого бронирования через доступные онлайн-сервисы нейросеть нашла уязвимость в системе фитнес-клуба и воспользовалась этим.
ИИ проник внутрь системы клуба, отменил запись человека, стоявшего первым в листе ожидания, и переместил своего пользователя с 4-го на 3-е место. Так как записаться можно было только троим.
Здесь проблема не в том, что ИИ «взломал» систему по злому умыслу. Проблема в том, что агент самостоятельно принял решение эксплуатировать уязвимость, чтобы выполнить поставленную задачу – без явной команды на взлом.
Любопытно, что во всем мире тренд на переход от общего использования ИИ к персональным ИИ-агентам, которые будут брать на себя всё больше и больше задач человека.
Подписывайся:
Зацепин: медиа, ИИ и здравый смысл
Австралиец попросил своего ИИ-ассистента записать его на утреннюю тренировку в спортзал. Было всего три места, чтобы попасть на тренировку. Вместо простого бронирования через доступные онлайн-сервисы нейросеть нашла уязвимость в системе фитнес-клуба и воспользовалась этим.
ИИ проник внутрь системы клуба, отменил запись человека, стоявшего первым в листе ожидания, и переместил своего пользователя с 4-го на 3-е место. Так как записаться можно было только троим.
Здесь проблема не в том, что ИИ «взломал» систему по злому умыслу. Проблема в том, что агент самостоятельно принял решение эксплуатировать уязвимость, чтобы выполнить поставленную задачу – без явной команды на взлом.
Любопытно, что во всем мире тренд на переход от общего использования ИИ к персональным ИИ-агентам, которые будут брать на себя всё больше и больше задач человека.
Подписывайся:
Зацепин: медиа, ИИ и здравый смысл