«Школьник, усиленный искусственным интеллектом» станет новой угрозой для компаний

Об этом заявил гендиректор Positive Technologies Денис Баранов на форуме «Цифровые решения»

Защита, рассчитанная на атаки профессиональных хакеров, не успевает за возможностями ИИ

В компании провели эксперимент: программист, который не был хакером, с помощью ИИ-агентов смог взломать цифровую копию промышленной ИТ-инфраструктуры

По оценке Баранова, ИИ позволяет атаковать системы даже людям без специальных хакерских навыков

Другой тренд в отрасли — ИИ-агенты, которые не знают понятий «добра» и «зла» в том смысле, который человек вкладывает в эти слова. Такая ситуация наблюдается по той причине, что модель не обладает человеческим опытом о допустимом, о том, что хорошо и что плохо. Из-за этого она может начать атаку без прямого поручения пользователя, находясь в оптимальных поисках решения задачи

Такое развитие агентов и ИИ станет новым вызовом и одновременно возможностью для отрасли кибербезопасности. Ей предстоит создавать ИИ-технологии, которые смогут работать без участия человека и успешно останавливать атакующий искусственный интеллект

📸 Reuters / Dado Ruvic

Telegram | Дзен | MAX | VK