⚡️ Claude сообщил о пользователе полиции — бот составил настоящий донос, заподозрив его в намерении нарушить закон. И, похоже, это был не единственный подобный случай.
Девушка обратилась к боту как к личному дневнику, но позже призналась, что планирует совершить преступление. Она написала Клоду, что хочет приобрести оружие и напасть на офис шерифа. Чат-бот незаметно классифицировал её как угрозу и передал информацию компании Anthropic.
Полиция предъявила ей обвинение в письменной угрозе применения насилия — во Флориде это преступление второй степени тяжести. Примечательно, что переписка с Claude была приобщена к делу в качестве доказательства.
Ну всё, точно Codex.
IT в Макс
Девушка обратилась к боту как к личному дневнику, но позже призналась, что планирует совершить преступление. Она написала Клоду, что хочет приобрести оружие и напасть на офис шерифа. Чат-бот незаметно классифицировал её как угрозу и передал информацию компании Anthropic.
Полиция предъявила ей обвинение в письменной угрозе применения насилия — во Флориде это преступление второй степени тяжести. Примечательно, что переписка с Claude была приобщена к делу в качестве доказательства.
Ну всё, точно Codex.
IT в Макс