«Школьник, усиленный искусственным интеллектом» станет новой угрозой для компанийОб этом
заявил гендиректор Positive Technologies Денис Баранов на форуме «Цифровые решения»
Защита, рассчитанная на атаки профессиональных хакеров, не успевает за возможностями ИИ
В компании провели эксперимент: программист, который не был хакером, с помощью ИИ-агентов смог взломать цифровую копию промышленной ИТ-инфраструктуры
По оценке Баранова, ИИ позволяет атаковать системы даже людям без специальных хакерских навыков
Другой тренд в отрасли — ИИ-агенты, которые не знают понятий «добра» и «зла» в том смысле, который человек вкладывает в эти слова. Такая ситуация наблюдается по той причине, что модель не обладает человеческим опытом о допустимом, о том, что хорошо и что плохо. Из-за этого она может начать атаку без прямого поручения пользователя, находясь в оптимальных поисках решения задачи
Такое развитие агентов и ИИ станет новым вызовом и одновременно возможностью для отрасли кибербезопасности. Ей предстоит создавать ИИ-технологии, которые смогут работать без участия человека и успешно останавливать атакующий искусственный интеллект
📸 Reuters / Dado Ruvic
Telegram | Дзен | MAX | VK