Вы не гений, вам просто поддакивают: зампред ЦБ о ловушке ИИ-советников

▫️ По мнению зампреда Банка России Михаила Мамуты, ключевая проблема ИИ-агентов в инвестиционном планировании - их склонность подстраиваться под пользователя. Со временем модель начинает подыгрывать инвестору и льстить ему, из-за чего человек теряет критичность мышления.

Человеку кажется, что это он такой умный, потому что ИИ-модель ему говорит: "Ты классно все придумал, это отличный сценарий", а на самом деле она просто ему льстит. И человек... он начинает все больше и больше слепо полагаться на эту рекомендацию

Судя по заявлению Мамуты, ЦБ боится, что неопытные инвесторы, которых уже много, получат персонального «льстеца» и будут брать больше риска.

▫️ И когда ИИ-советники все же по-настоящему массово придут в инвестиции, у ЦБ уже будет аргумент для жёстких требований: раскрытие рисков, запрет на «гарантии», обязательное участие человека.

Подписывайтесь на AI для бизнеса