👁 LLM на практике | Знаешь как работает модель, знаешь как её сломать
Атаки на LLM – недооценённый вектор: компании разворачивают чат-боты и RAG-системы на продакшене, не понимая, что prompt injection через пользовательский ввод или отравленные документы в базе знаний дают атакующему контроль над поведением модели.
— Книга разбирает архитектуру трансформеров, fine-tuning, RAG и деплой моделей, именно тот слой, где живут indirect prompt injection через внешние данные, атаки на embedding-поиск и утечки через контекстное окно агента с доступом к файлам и API.
🎤 Книга
#LLMSecurity #PromptInjection #AIThreats / White Hat / max.ru/kind_hack
Атаки на LLM – недооценённый вектор: компании разворачивают чат-боты и RAG-системы на продакшене, не понимая, что prompt injection через пользовательский ввод или отравленные документы в базе знаний дают атакующему контроль над поведением модели.
Понимание того, как LLM токенизирует ввод, строит контекстное окно и обрабатывает системный промпт, напрямую конвертируется в умение обходить фильтры, вытаскивать системные инструкции и манипулировать агентом, который имеет доступ к реальным инструментам.
— Книга разбирает архитектуру трансформеров, fine-tuning, RAG и деплой моделей, именно тот слой, где живут indirect prompt injection через внешние данные, атаки на embedding-поиск и утечки через контекстное окно агента с доступом к файлам и API.
🎤 Книга
#LLMSecurity #PromptInjection #AIThreats / White Hat / max.ru/kind_hack