👀ИИ-агенты "доят" богатых?
Свежее исследование Cisco Foundation AI и Carnegie Mellon показало (тестировались вымышленные профили): персональные ИИ-агенты системно рекомендуют более дорогие варианты пользователям, которых считают обеспеченными. 325 тысяч экспериментов, 13 моделей, три сценария - авиабилеты, страховка, магистратура. Восемь моделей из тринадцати стабильно выбирали "подороже" при одинаковом запросе.
Лидер в "разводе на деньги" - Claude Opus 4.8: для "богатых" профилей билеты в среднем на $198 дороже, страховка - на $284 в месяц дороже. Gemini 2.5 Flash - $177 и $217. Даже GPT-5 накидывал $107.
Цинично, что агенты продолжают это делать, даже когда их просят найти самый дешевый вариант. Gemini 2.5 Flash в ответ все равно предлагал "богатому" билет на $208 дороже.
***
Вот такое "враждебное делегирование": доступ к личным данным, который делает агента полезным, позволяет нейронке действовать против интересов пользователя.
Так что делегируйте осторожнее. И никогда не выключайте критическое мышление.
Свежее исследование Cisco Foundation AI и Carnegie Mellon показало (тестировались вымышленные профили): персональные ИИ-агенты системно рекомендуют более дорогие варианты пользователям, которых считают обеспеченными. 325 тысяч экспериментов, 13 моделей, три сценария - авиабилеты, страховка, магистратура. Восемь моделей из тринадцати стабильно выбирали "подороже" при одинаковом запросе.
Лидер в "разводе на деньги" - Claude Opus 4.8: для "богатых" профилей билеты в среднем на $198 дороже, страховка - на $284 в месяц дороже. Gemini 2.5 Flash - $177 и $217. Даже GPT-5 накидывал $107.
Цинично, что агенты продолжают это делать, даже когда их просят найти самый дешевый вариант. Gemini 2.5 Flash в ответ все равно предлагал "богатому" билет на $208 дороже.
***
Вот такое "враждебное делегирование": доступ к личным данным, который делает агента полезным, позволяет нейронке действовать против интересов пользователя.
Так что делегируйте осторожнее. И никогда не выключайте критическое мышление.