Честный разговор об искусственном интеллекте: барьеры, риски и перспективы применения в бюджетном процессе
Технологии искусственного интеллекта (ИИ) могут стать надежным помощником для специалистов финансовых и контрольно-счетных органов. При правильном подходе эти технологии способны значительно повысить эффективность бюджетного процесса и контроля за его исполнением.
Александр Николаевич Домбровский, научный редактор журнала «Бюджет», председатель Союза развития цифровизации общественных финансов, председатель наблюдательного совета Союза развития государственных финансов
Предлагаю начать с матчасти. Что же такое ИИ?
Термин «искусственный интеллект» придумал в 1956 году Джон Маккарти — американский информатик, изобретатель языка Лисп, лауреат премии Тьюринга. Вот одно из первых определений ИИ, данное им: «это свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека».
Можно утверждать, что «искусственный интеллект» — это маркетинговый термин. Используй Маккарти название «имитационный алгоритм», это было бы честнее, зато менее привлекательно для инвестиций.
Почему ИИ — это не интеллект (взгляд скептика)
1. То, что сегодня называется ИИ, — это гигантская таблица умножения вероятностей. ИИ не знает «почему», он знает, «с чем это чаще сочетается» в выборке. В его основе — математика XIX века: он подбирает следующее слово, исходя из статистической вероятности. ИИ — это высокоточный калькулятор паттернов, который не выходит за пределы своей обучающей выборки.
2. ИИ — это «черный ящик». В госуправлении цена ошибки критически высока: каждый результат требует тщательной проверки человеком.
3. Беспристрастных алгоритмов не бывает. Любая система машинного обучения по определению предвзята: она обучается на ограниченных наборах данных (датасетах). Для госсектора это означает, что каждый алгоритм обязан проходить аудит на предвзятость — например, чтобы ИИ не предлагал сокращать финансирование социальных статей на основе исторических данных недофинансирования социальных расходов в предыдущие годы.
4. Нейросети склонны выдавать вымышленные факты за реальные («галлюцинации»). ИИ не создает нового смысла: он перекомбинирует паттерны, найденные в обучающей выборке.
5. Имитация личности не равна личности. Внутри ИИ нет «центра принятия решений». Это циркуляция данных по весам нейросети. ИИ не понимает смысла, а просто очень точно имитирует того человека, который мог бы такое написать или сказать. Языковая модель мастерски имитирует разум, как попугай имитирует речь, не зная языка.
6. ИИ не знает, что такое «справедливость», «долг» или «смысл закона». Он оперирует векторами чисел. Выдать красивую раскладку по КБК он может, а вот оценить социальный эффект от недофинансирования школы — нет.
7. ИИ — помощник и советчик, но не замена живого человека. В политике и стратегии автоматизация принципиально невозможна: здесь нужны моральная оценка и учет человеческого фактора.
8. Человеческий интеллект опирается на сенсорный опыт (боль, холод, голод). ИИ опирается на библиотеку текстов. ИИ имитирует связки слов, а не мыслительные процессы. Это не мышление, это инженерия правдоподобия.
Итак, ИИ — это высокоточный калькулятор паттернов и продвинутый генератор информации. Он выдает «среднюю температуру по больнице», потому что оптимизирован на правдоподобие, а не на истину.
https://bujet.ru/article/527055.php
Технологии искусственного интеллекта (ИИ) могут стать надежным помощником для специалистов финансовых и контрольно-счетных органов. При правильном подходе эти технологии способны значительно повысить эффективность бюджетного процесса и контроля за его исполнением.
Александр Николаевич Домбровский, научный редактор журнала «Бюджет», председатель Союза развития цифровизации общественных финансов, председатель наблюдательного совета Союза развития государственных финансов
Предлагаю начать с матчасти. Что же такое ИИ?
Термин «искусственный интеллект» придумал в 1956 году Джон Маккарти — американский информатик, изобретатель языка Лисп, лауреат премии Тьюринга. Вот одно из первых определений ИИ, данное им: «это свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека».
Можно утверждать, что «искусственный интеллект» — это маркетинговый термин. Используй Маккарти название «имитационный алгоритм», это было бы честнее, зато менее привлекательно для инвестиций.
Почему ИИ — это не интеллект (взгляд скептика)
1. То, что сегодня называется ИИ, — это гигантская таблица умножения вероятностей. ИИ не знает «почему», он знает, «с чем это чаще сочетается» в выборке. В его основе — математика XIX века: он подбирает следующее слово, исходя из статистической вероятности. ИИ — это высокоточный калькулятор паттернов, который не выходит за пределы своей обучающей выборки.
2. ИИ — это «черный ящик». В госуправлении цена ошибки критически высока: каждый результат требует тщательной проверки человеком.
3. Беспристрастных алгоритмов не бывает. Любая система машинного обучения по определению предвзята: она обучается на ограниченных наборах данных (датасетах). Для госсектора это означает, что каждый алгоритм обязан проходить аудит на предвзятость — например, чтобы ИИ не предлагал сокращать финансирование социальных статей на основе исторических данных недофинансирования социальных расходов в предыдущие годы.
4. Нейросети склонны выдавать вымышленные факты за реальные («галлюцинации»). ИИ не создает нового смысла: он перекомбинирует паттерны, найденные в обучающей выборке.
5. Имитация личности не равна личности. Внутри ИИ нет «центра принятия решений». Это циркуляция данных по весам нейросети. ИИ не понимает смысла, а просто очень точно имитирует того человека, который мог бы такое написать или сказать. Языковая модель мастерски имитирует разум, как попугай имитирует речь, не зная языка.
6. ИИ не знает, что такое «справедливость», «долг» или «смысл закона». Он оперирует векторами чисел. Выдать красивую раскладку по КБК он может, а вот оценить социальный эффект от недофинансирования школы — нет.
7. ИИ — помощник и советчик, но не замена живого человека. В политике и стратегии автоматизация принципиально невозможна: здесь нужны моральная оценка и учет человеческого фактора.
8. Человеческий интеллект опирается на сенсорный опыт (боль, холод, голод). ИИ опирается на библиотеку текстов. ИИ имитирует связки слов, а не мыслительные процессы. Это не мышление, это инженерия правдоподобия.
Итак, ИИ — это высокоточный калькулятор паттернов и продвинутый генератор информации. Он выдает «среднюю температуру по больнице», потому что оптимизирован на правдоподобие, а не на истину.
https://bujet.ru/article/527055.php