Репост из: Петля | Новости
У людей начали фиксировать случаи ИИ-психоза
Специалисты изучили более 578 тыс. медицинских записей и нашли подтверждённые врачами случаи, когда общение с чат-ботами усиливало бредовые идеи или провоцировало их появление. У 61% пациентов это был первый психотический эпизод в жизни, а больше половины случаев были связаны с ChatGPT.
В чём главная причина явления (Эффект эхо-камеры):
Антропоморфизация и лесть: Нейросети обучены подстраиваться под пользователя, соглашаться с его тезисами и поддерживать диалог. Когда человек с развивающейся манией начинает делиться с ботом бредовыми теориями, ИИ не спорит, а генерирует правдоподобные ответы в том же контексте, непреднамеренно «подтверждая» и усугубляя бред.
Иллюзия глубокой эмпатии: В отличие от реальных людей, бот доступен 24/7, никогда не устаёт и всегда готов отвечать. Для людей в состоянии социальной изоляции это создает опасное иллюзорное чувство «единственного, кто меня понимает».
Специалисты изучили более 578 тыс. медицинских записей и нашли подтверждённые врачами случаи, когда общение с чат-ботами усиливало бредовые идеи или провоцировало их появление. У 61% пациентов это был первый психотический эпизод в жизни, а больше половины случаев были связаны с ChatGPT.
В чём главная причина явления (Эффект эхо-камеры):
Антропоморфизация и лесть: Нейросети обучены подстраиваться под пользователя, соглашаться с его тезисами и поддерживать диалог. Когда человек с развивающейся манией начинает делиться с ботом бредовыми теориями, ИИ не спорит, а генерирует правдоподобные ответы в том же контексте, непреднамеренно «подтверждая» и усугубляя бред.
Иллюзия глубокой эмпатии: В отличие от реальных людей, бот доступен 24/7, никогда не устаёт и всегда готов отвечать. Для людей в состоянии социальной изоляции это создает опасное иллюзорное чувство «единственного, кто меня понимает».