В Deloitte выпустили отчет о том, как ИИ-агенты будут встраиваться в вашу организацию. Цифра на входе: средняя компания из Fortune 500 к 2028 году будет (со)держать порядка 150 тысяч ИИ-агентов. Две трети опрошенных руководителей говорят, что мультиагентные системы серьезно изменят характер работы в течение двух-трех лет. Правда, готовыми к этому себя пока считает примерно четверть
Но меня в отчете зацепило не это - а то, что почти 70% респондентов называют главным барьером неспособность доверять агентам и управлять ими. То есть барьер не технологический, а управленческий. Знакомая история - мы это уже проходили с облаками. И ещё одна цифра, которая объясняет, почему так: 91% инвестиций в ИИ уходит в технологическую инфраструктуру и только 7% — в вопросы процессов и людей
Теперь к тому, что из этого следует для нас. Отчет формулирует ключевой принцип управления через фразу финансового руководителя в интервью: машина никогда не будет подотчетной. Поэтому рекомендация - моделировать агентные процессы, заранее определить, где подотчетность человека обязательна, и встроить контрольные точки, которые нельзя обойти
Переведу на язык подразделений:
- SOC. Агент может закрыть 80% алертов. Вопрос не в проценте автоматизации, а в том, кто подписывается под решением «это не инцидент». В отчёте есть прямое предупреждение: следите за моментом, когда скорость согласования становится главным KPI - тогда человеческий контроль превращается в бессмысленный штамп
- AppSec. Здесь тот же риск, но с другой стороны: если премируют тех, кто быстрее всех собрал агента, проверки качества и безопасности отваливаются первыми. Отсюда простое следствие — KPI должны включать долю ошибок и качество результата наравне со скоростью и внедрением
- Data Security. Отчёт описывает сценарий, где агенты общаются с агентами и часть шагов процесса просто исчезает из поля зрения человека. С точки зрения данных это значит, что периметр согласований перестает совпадать с периметром доступа. Мы к этому давно привыкли - но ситуация будет еще хуже
- Awareness. Самое неожиданное наблюдение. Исследование HBR, на которое ссылается отчёт: 53% признались, что отправляли коллегам сгенерированную работу низкого качества, потому что были перегружены. Это уже не про фишинг. Это про то, что перегруженный человек перестаёт быть контролем - и никакой курс это не лечит, лечит только запас времени в процессе human-in-the-loop
Отдельно про руководителей среднего звена. Deloitte пишет, что менеджеры, которые сами не работают с агентами, становятся не мостом доверия, а разрывом: люди идут к ним за советом, а они меньше и хуже всех готовы его дать. Посмотри на своих тимлидов в ИБ и честно оцени их AI Readiness
Практический вывод один. Прежде чем обсуждать, сколько агентов мы внедрим, надо ответить - в каких точках процесса человек обязан остановиться и подумать. Отчет называет это “спроектированным замедлением” — и настаивает, что человек нужен не только на финальном согласовании, но и там, где остаются неоднозначность, исключения и значимые компромиссы
Но меня в отчете зацепило не это - а то, что почти 70% респондентов называют главным барьером неспособность доверять агентам и управлять ими. То есть барьер не технологический, а управленческий. Знакомая история - мы это уже проходили с облаками. И ещё одна цифра, которая объясняет, почему так: 91% инвестиций в ИИ уходит в технологическую инфраструктуру и только 7% — в вопросы процессов и людей
Теперь к тому, что из этого следует для нас. Отчет формулирует ключевой принцип управления через фразу финансового руководителя в интервью: машина никогда не будет подотчетной. Поэтому рекомендация - моделировать агентные процессы, заранее определить, где подотчетность человека обязательна, и встроить контрольные точки, которые нельзя обойти
Переведу на язык подразделений:
- SOC. Агент может закрыть 80% алертов. Вопрос не в проценте автоматизации, а в том, кто подписывается под решением «это не инцидент». В отчёте есть прямое предупреждение: следите за моментом, когда скорость согласования становится главным KPI - тогда человеческий контроль превращается в бессмысленный штамп
- AppSec. Здесь тот же риск, но с другой стороны: если премируют тех, кто быстрее всех собрал агента, проверки качества и безопасности отваливаются первыми. Отсюда простое следствие — KPI должны включать долю ошибок и качество результата наравне со скоростью и внедрением
- Data Security. Отчёт описывает сценарий, где агенты общаются с агентами и часть шагов процесса просто исчезает из поля зрения человека. С точки зрения данных это значит, что периметр согласований перестает совпадать с периметром доступа. Мы к этому давно привыкли - но ситуация будет еще хуже
- Awareness. Самое неожиданное наблюдение. Исследование HBR, на которое ссылается отчёт: 53% признались, что отправляли коллегам сгенерированную работу низкого качества, потому что были перегружены. Это уже не про фишинг. Это про то, что перегруженный человек перестаёт быть контролем - и никакой курс это не лечит, лечит только запас времени в процессе human-in-the-loop
Отдельно про руководителей среднего звена. Deloitte пишет, что менеджеры, которые сами не работают с агентами, становятся не мостом доверия, а разрывом: люди идут к ним за советом, а они меньше и хуже всех готовы его дать. Посмотри на своих тимлидов в ИБ и честно оцени их AI Readiness
Практический вывод один. Прежде чем обсуждать, сколько агентов мы внедрим, надо ответить - в каких точках процесса человек обязан остановиться и подумать. Отчет называет это “спроектированным замедлением” — и настаивает, что человек нужен не только на финальном согласовании, но и там, где остаются неоднозначность, исключения и значимые компромиссы