Один заражённый ИИ-агент может заразить другого.
Ars Technica разобрала уязвимости вокруг MCP — это протокол, через который агенты взаимодействуют с инструментами и друг с другом. За последние полгода Google и ещё несколько организаций обнаружили у ИИ-агентов уязвимость одного класса. Суть такая: атакующий внедряет вредоносную инструкцию в контент, один агент считывает её, передаёт другому, а второй исполняет, потому что доверяет первому.
Исследователи показали такие атаки на системах организаций от Google и JPMorgan до французских и американских госструктур.
Даже ломать ничего не нужно. Просто доверяешь свой бизнес ИИ-агентам, и тебя нагинает либо компания, у которой ты приобрёл ИИ-агента, либо сам ИИ-агент, потому что выполнил вредоносную команду.
@lobushkin
Ars Technica разобрала уязвимости вокруг MCP — это протокол, через который агенты взаимодействуют с инструментами и друг с другом. За последние полгода Google и ещё несколько организаций обнаружили у ИИ-агентов уязвимость одного класса. Суть такая: атакующий внедряет вредоносную инструкцию в контент, один агент считывает её, передаёт другому, а второй исполняет, потому что доверяет первому.
Исследователи показали такие атаки на системах организаций от Google и JPMorgan до французских и американских госструктур.
Даже ломать ничего не нужно. Просто доверяешь свой бизнес ИИ-агентам, и тебя нагинает либо компания, у которой ты приобрёл ИИ-агента, либо сам ИИ-агент, потому что выполнил вредоносную команду.
@lobushkin