NCSC: ИИ даёт атакующим больше, чем защитникам 😱
Технический директор NCSC Дэйв Чизмон сказал прямо: атакующим ИИ даёт больше, чем защитникам. И это не потому, что ИИ слабый — потому что асимметрия задач. Атака — техническая: эксплойт сработал или нет, результат однозначен, автоматизация легко его измеряет. Защита — политическая: не всегда понятно, что считать успехом, а цена ошибки высока. Поставил патч — сломал VPN. Добавил правило фаервола — нарушил бизнес-процесс. Защитник создаёт ровно тот сбой, который пытался предотвратить.
А "совет директоров не видит разницы между атакой, выведшей из строя ИТ-системы, и неудачной попыткой их защитить с тем же результатом — но в случае атаки ему некому звонить и устраивать разнос". Поэтому каждое действие защитника взвешивает человек, и ИИ не может действовать так же свободно, как у атакующих.
NCSC сама разрабатывает систему Cyber Shield с ИИ-агентами для защиты госсетей — но Чизмон признаёт, что доверять ИИ самостоятельную защиту пока нельзя.
Технический директор NCSC Дэйв Чизмон сказал прямо: атакующим ИИ даёт больше, чем защитникам. И это не потому, что ИИ слабый — потому что асимметрия задач. Атака — техническая: эксплойт сработал или нет, результат однозначен, автоматизация легко его измеряет. Защита — политическая: не всегда понятно, что считать успехом, а цена ошибки высока. Поставил патч — сломал VPN. Добавил правило фаервола — нарушил бизнес-процесс. Защитник создаёт ровно тот сбой, который пытался предотвратить.
А "совет директоров не видит разницы между атакой, выведшей из строя ИТ-системы, и неудачной попыткой их защитить с тем же результатом — но в случае атаки ему некому звонить и устраивать разнос". Поэтому каждое действие защитника взвешивает человек, и ИИ не может действовать так же свободно, как у атакующих.
NCSC сама разрабатывает систему Cyber Shield с ИИ-агентами для защиты госсетей — но Чизмон признаёт, что доверять ИИ самостоятельную защиту пока нельзя.