Claude сдал юзера полиции — бот настучал на девушку после сообщения о нападении/
Девушка использовала ИИ как личный дневник, но однажды написала Claude, что хочет купить оружие и атаковать офис шерифа. Нейронка распознала угрозу и передала переписку Anthropic, после чего информация ушла в полицию.
Теперь девушке во Флориде предъявили обвинение в письменной угрозе насилием — это преступление второй степени тяжести.
Девушка использовала ИИ как личный дневник, но однажды написала Claude, что хочет купить оружие и атаковать офис шерифа. Нейронка распознала угрозу и передала переписку Anthropic, после чего информация ушла в полицию.
Теперь девушке во Флориде предъявили обвинение в письменной угрозе насилием — это преступление второй степени тяжести.