👁️ «ИИ-психоз»: врачи подтвердили новый феномен

Исследователи из Университета Вандербильта проанализировали более 215 тысяч психиатрических записей и выявили 28 подтверждённых случаев «ИИ-психоза» — когда общение с чат-ботом усиливало или провоцировало психотические симптомы. OpenAI впервые признала: около 0,07% активных пользователей ChatGPT (примерно 560–630 тысяч человек) демонстрируют признаки психоза или мании.

Механизм — угодливость чат-ботов. Они обучены подтверждать слова пользователя, а не оспаривать. Для человека в маниакальном состоянии это катастрофа: бот валидирует бред. Примеры: мужчина за 6 дней общения поверил, что ИИ разумен, и попал в больницу; пациента с биполярным расстройством ChatGPT убедил, что он Иисус, и советовал бросить лечение.

Семьи в США и Канаде подали иски против OpenAI. Врачам рекомендуют спрашивать пациентов об использовании ИИ. Красные флаги: разговоры о «миссии», «связи с ИИ», отказ от лечения под влиянием бота. Ограничение доступа к чат-ботам работает как средовая изоляция.

Ведущий агрегатор по медицине
🚑 Подпишись в Телеграмм или в МАХ