Репост из: АРПП «Отечественный софт»
В АРПП оценили безопасность внедрения ИИ
Ассоциация «Отечественный софт» и AppSec Solutions провели совместное исследование применения искусственного интеллекта в российских ИТ-компаниях. В опросе приняли участие более 50 компаний-членов АРПП.
📊 Искусственный интеллект в бизнес-процессы внедрили 100% участников исследования, при этом только 23% компаний с собственной разработкой используют базовые системы контроля безопасности ИИ.
Большие языковые модели применяют 81% опрошенных, ИИ-ассистенты кода — 72%, локальные языковые модели — 61%, RAG — 57%, ML-модели — 44%.
🔐 ИИ-агенты в корпоративный контур уже внедрили 72% опрошенных, передав моделям часть «человеческих» полномочий.
С подтвержденными атаками официально столкнулись 4% респондентов, при этом более 90% компаний не проводили оценку угроз и не могут оценить потенциал ИИ-атак.
❗️Среди основных рисков: утечки конфиденциальных данных, промпт-инъекции, утечки через RAG-системы, обход встроенных ограничений и атаки на цепочку поставок ML.
🔗 Подробнее на сайте
Ассоциация «Отечественный софт» и AppSec Solutions провели совместное исследование применения искусственного интеллекта в российских ИТ-компаниях. В опросе приняли участие более 50 компаний-членов АРПП.
📊 Искусственный интеллект в бизнес-процессы внедрили 100% участников исследования, при этом только 23% компаний с собственной разработкой используют базовые системы контроля безопасности ИИ.
Большие языковые модели применяют 81% опрошенных, ИИ-ассистенты кода — 72%, локальные языковые модели — 61%, RAG — 57%, ML-модели — 44%.
🔐 ИИ-агенты в корпоративный контур уже внедрили 72% опрошенных, передав моделям часть «человеческих» полномочий.
С подтвержденными атаками официально столкнулись 4% респондентов, при этом более 90% компаний не проводили оценку угроз и не могут оценить потенциал ИИ-атак.
❗️Среди основных рисков: утечки конфиденциальных данных, промпт-инъекции, утечки через RAG-системы, обход встроенных ограничений и атаки на цепочку поставок ML.
«Результат исследования требует внимания рынка: скорость внедрения ИИ втрое опережает скорость выстраивания его защиты. Приказ ФСТЭК № 117 и методика 2026 года уже сегодня помогают определить важные ориентиры для обеспечения безопасности ИИ в организациях. Задача Ассоциации — помочь разработчикам освоить этот каркас: дать разъяснения и практики, в том числе на площадке Дня безопасной разработки ПО, который мы традиционно проводим», - рассказал Ренат Лашин, исполнительный директор АРПП «Отечественный софт».
🔗 Подробнее на сайте