☝🏻Claude сдал полиции женщину, которая вела в нём дневник

Жительницу Флориды арестовали после переписки с Claude: в чате она пообещала «расстрелять» офис шерифа своего округа.💀

На следующий день она написала, что купила новый пистолет.

На допросе 30-летняя женщина объяснила, что пользовалась ИИ «как дневником».

Переписку в Anthropic проверяют автоматические системы безопасности. Они ищут угрожающие формулировки, а самые серьёзные случаи передают живым модераторам.👁

☝🏻В этот раз модераторы сочли угрозу реальной и сами сообщили в полицию. Женщину задержали дома, сопротивления она не оказала.

Ей вменяют письменные угрозы насилием. По законам Флориды за это грозит до 15 лет тюрьмы и штраф до $10 000.

Шериф подвёл итог: пользователи ИИ «никогда не бывают по-настоящему анонимны».

Правила Anthropic это прямо разрешают: данные пользователя могут передать без согласия и даже запроса полиции, если есть риск «неминуемого физического вреда или смерти».🤔

☝🏻☝🏻Вывод простой: то, что вы пишете чат-боту, читает не только чат-бот.🤷🏼‍♀️
================
🔺 News | 🧩 Soft | 💻 Hacker