«Яндекс» выводит на российский рынок решение AI-SPM для комплексной защиты ИИ-систем. Новая разработка позволяет постоянно отслеживать ИИ-инфраструктуру, выявлять опасные настройки и заранее находить потенциальные уязвимости.

Искусственный интеллект постепенно становится частью самых разных процессов — от корпоративных сервисов и разработки программного обеспечения до промышленности и государственного управления. А значит, вместе с ростом числа ИИ-систем растет и цена возможных ошибок или атак.

Как заявляют разработчики, AI-SPM помогает выявлять риски подмены обучающих данных, попытки взлома модели через специально сформированные запросы, а также проблемы с разграничением доступа. Фактически речь идет о переходе от защиты отдельных компонентов к постоянному контролю всей ИИ-инфраструктуры.

И это закономерный следующий этап развития технологий. Пока ИИ был в основном чат-ботом, главным вопросом была точность его ответов. Сегодня модели становятся частью более сложных систем и ИИ-агентов, которые могут работать с данными, обращаться к внешним сервисам и выполнять конкретные действия.
Поэтому безопасность должна закладываться не после внедрения технологии, а на каждом этапе ее жизненного цикла.

Принципиально важно, что подобные решения сегодня появляются на нашем рынке. Технологический суверенитет — это не только собственные модели и вычислительные мощности. Это еще и собственные инструменты для их защиты.

Чем активнее мы внедряем ИИ в экономику, тем важнее становится способность самостоятельно обеспечивать безопасность этой инфраструктуры. И здесь задача государства и бизнеса одна — создавать условия, при которых развитие искусственного интеллекта будет идти одновременно с развитием технологий его защиты.