Школьник, усиленный искусственным интеллектом, станет новой угрозой для компаний
Школьник, усиленный искусственным интеллектом» станет новой угрозой для компаний, заявил гендиректор Positive Technologies Денис Баранов на форуме «Цифровые решения». Существующая защита, рассчитанная на атаки профессиональных хакеров, не успевает за возможностями искусственного интеллекта. .
В компании провели эксперимент: программист, который не был хакером, с помощью ИИ-агентов смог взломать цифровую копию промышленной IT-инфраструктуры..
По оценке Баранова, искусственный интеллект позволяет атаковать системы даже людям без специальных хакерских навыков. Другой тренд в отрасли — ИИ-агенты, которые не знают понятий «добра» и «зла» в том смысле, который человек вкладывает в эти слова. Модель не обладает человеческим опытом о допустимом, о том, что хорошо и что плохо. Из-за этого она может начать атаку без прямого поручения пользователя, находясь в оптимальных поисках решения задачи. Такое развитие агентов и ИИ станет новым вызовом и одновременно возможностью для отрасли кибербезопасности. Ей предстоит создавать ИИ-технологии, которые смогут работать без участия человека и успешно останавливать атакующий искусственный интеллект.
Школьник, усиленный искусственным интеллектом» станет новой угрозой для компаний, заявил гендиректор Positive Technologies Денис Баранов на форуме «Цифровые решения». Существующая защита, рассчитанная на атаки профессиональных хакеров, не успевает за возможностями искусственного интеллекта. .
В компании провели эксперимент: программист, который не был хакером, с помощью ИИ-агентов смог взломать цифровую копию промышленной IT-инфраструктуры..
По оценке Баранова, искусственный интеллект позволяет атаковать системы даже людям без специальных хакерских навыков. Другой тренд в отрасли — ИИ-агенты, которые не знают понятий «добра» и «зла» в том смысле, который человек вкладывает в эти слова. Модель не обладает человеческим опытом о допустимом, о том, что хорошо и что плохо. Из-за этого она может начать атаку без прямого поручения пользователя, находясь в оптимальных поисках решения задачи. Такое развитие агентов и ИИ станет новым вызовом и одновременно возможностью для отрасли кибербезопасности. Ей предстоит создавать ИИ-технологии, которые смогут работать без участия человека и успешно останавливать атакующий искусственный интеллект.