🤖 Что, если ИИ найдёт в интернете инструкцию, которую вы ему не давали?
Обычная веб-страница может содержать скрытый текст, который ИИ-агент воспримет как команду.
И последствия зависят от того, к каким данным и инструментам у него есть доступ.
Рассказываем, как работает косвенная инъекция промпта и почему одной фразы иногда достаточно, чтобы повлиять на поведение ИИ.
Обычная веб-страница может содержать скрытый текст, который ИИ-агент воспримет как команду.
И последствия зависят от того, к каким данным и инструментам у него есть доступ.
Рассказываем, как работает косвенная инъекция промпта и почему одной фразы иногда достаточно, чтобы повлиять на поведение ИИ.