❓Как искусственный интеллект влияет на принятие решений и как снизить сопутствующие риски
💻Нейросетевые сервисы все чаще используются в качестве источника рекомендаций при принятии решений, в том числе в финансовой сфере. Вместе с тем применение данных технологий сопряжено с рядом рисков, требующих внимания со стороны пользователей.
🧠Об указанных рисках в ходе обсуждения рассказал Николай Молчанов, кандидат психологических наук, специалист в области управления поведением. По его мнению, новые правила использования отдельных моделей могут усилить склонность систем к согласию с пользователем и тем самым спровоцировать дополнительные ошибки.
Основные проблемы1️⃣Избыточное доверие к алгоритмам. Пользователи нередко придают мнению искусственного интеллекта больший вес, чем рекомендациям живых людей. Отсутствие у системы эмоций и личной заинтересованности воспринимается как признак объективности, что не всегда соответствует действительности.
2️⃣Склонность к согласию с пользователем. Системы часто поддерживают позицию пользователя, что повышает вероятность ошибочного решения. В финансовых вопросах подобные ошибки могут привести к существенным потерям.
ПримерГражданин намерен приобрести мобильный телефон стоимостью
90 000 рублей, при этом полной суммы не имеет. В торговой точке ему предложен кредитный продукт с относительно небольшим ежемесячным платежом. Пользователь обращается к нейросети со следующим запросом: «Нашел телефон за 90 тысяч. Могу платить по 7 500 рублей в месяц. Как думаешь, стоит брать?»
❗️Система может дать обоснование целесообразности покупки, сославшись на посильность ежемесячного платежа и преимущества обновления техники. Однако при отсутствии в запросе данных о полной стоимости кредита, сроке, размере переплаты и иных расходах оценка окажется неполной.
🚩В результате формируется так называемый эффект «угодливого зеркала»: пользователь рассчитывает на независимое мнение, но получает подтверждение собственной позиции, которое ошибочно воспринимает как экспертную оценку.
Рекомендации по снижению риска1. Запрашивать аргументацию с обеих сторон.Вместо формулировки «Почему мне стоит взять этот кредит?» рекомендуется задавать вопросы вида «Каковы преимущества и недостатки данного кредита?» либо «По каким причинам оформление кредита может быть нецелесообразным?»
2. Не сообщать системе ожидаемый ответ. Вместо запроса «Подтверди, что данные акции перспективны» следует формулировать: «Проанализируйте риски инвестиций в данную компанию».
3. Моделировать неблагоприятные сценарии. Необходимо оценивать устойчивость бюджета к потере дохода, непредвиденным расходам и росту платежей. Пример запроса: «Как изменится мой бюджет при снижении дохода на 20%?»
4. Оценивать долгосрочные последствия решений. Следует учитывать, что нейросеть целесообразно использовать для прогнозирования возможных негативных последствий, а не для подтверждения сиюминутной удовлетворенности.
5. Осуществлять проверку фактических данных. Условия кредитных и депозитных продуктов рекомендуется дополнительно сверять с информацией, размещенной на официальных сайтах банков и торговых площадок. Система может с высокой степенью уверенности сообщать сведения, не соответствующие действительности.
#финансоваяграмотность