AI Safety - новая большая область инженерных знаний и пратических приёмов: бум моделей тащит за собой бум проблем безопасности. Кто-то нападает, а кто-то защищается, но и тем и другим придётся объединять старые приёмы и новые приёмы.

+ AI Security. Кому и зачем это надо
https://habr.com/ru/companies/ntc-vulkan/articles/1054760/
+ Что такое MLSecOps, или Как безопасность искусственного интеллекта стала заботой DevSecOps
https://habr.com/ru/companies/pt/articles/832190/
+ Стартап Abliteration.ai начал продавать через API доступ к нейросети GLM-5.3 с ослабленными системами защиты
https://habr.com/ru/news/1079652/