Согласно свежим данным InfoWatch, примерно каждый шестой зафиксированный инцидент и успешный взлом сетей в мире сегодня связан с прямым применением ИИ. А 86% фишинговых атак, которые используются для первоначального проникновения в корпоративные сети, создаются или оптимизируются с помощью искусственного интеллекта.

Еще более показательная цифра — за год объем трафика вредоносных ИИ-ботов и разведывательных агентов вырос на 187%. Трафик автономных ИИ-агентов, которые самостоятельно сканируют сетевые периметры в поисках уязвимостей, увеличился почти в 80 раз.

При этом ИИ работает и на стороне защиты. Такие системы позволяют быстрее выявлять аномалии, фильтровать фишинговые сообщения и снижать нагрузку на специалистов по информационной безопасности. В России технологии машинного обучения уже несколько лет используются в SIEM, анализе сетевого трафика, антифроде и других системах защиты.

Получается принципиально новая ситуация. Раньше ИИ в кибербезопасности в основном воспринимался как дополнительный инструмент специалиста. Теперь он постепенно становится самостоятельным участником противостояния — причем с обеих сторон. И здесь особенно важно не отдавать искусственному интеллекту право принимать критические решения без контроля человека. Чем больше полномочий получает ИИ-агент, тем важнее понимать, к каким данным и системам у него есть доступ, какие действия ему разрешены и где требуется подтверждение специалиста.

Для нас это еще один аргумент в пользу развития собственных технологий информационной безопасности. Нам нужны не только отечественные ИИ-модели, но и собственные средства их защиты, инфраструктура мониторинга и специалисты, способные работать с новыми типами угроз.

Кибербезопасность постепенно становится одной из ключевых задач развития ИИ. И закладывать ее в технологию нужно одновременно с ее созданием, а не после первого серьезного инцидента.