Автономные ИИ-агенты постепенно переходят от инструментов для генерации контента к системам, способным самостоятельно принимать решения и выполнять действия в финансовой, корпоративной и цифровой инфраструктуре. Вместе с ростом их возможностей увеличиваются и риски: ошибка алгоритма может масштабироваться быстрее, чем человек успеет вмешаться. Где проходит граница между технологической автономностью и необходимостью контроля, и способна ли система регулирования поспеть за развитием ИИ? На эти вопросы «Актуальным комментариям» ответила медиатехнолог, член Экспертного клуба «Дигория», директор по развитию Корпорации AIR Екатерина Набатникова.

— Задача регулирования — не остановить развитие ИИ, а установить правила его применения там, где ошибка может иметь системные последствия. Чем больше автономных полномочий получает система, тем жестче должны быть ограничения ее доступа к критической инфраструктуре.

Полностью читайте на сайте «Актуальных комментариев».