Claude передал данные пользователя полиции: нейросеть отправила донос сразу после обнаружения угрозы нарушить закон.

Случай оказался не единичным. Девушка использовала ИИ в качестве личного дневника, но в одном из сообщений написала о намерении купить оружие и напасть на офис шерифа. Нейросеть зафиксировала угрозу и передала информацию в Anthropic.

В итоге полиция предъявила девушке обвинение в письменной угрозе насилием — во Флориде это преступление второй степени тяжести.

Клод мусорнулся, официально.