Жительница США Карли Мишель Хеллер воспользовалась нейросетью Claude как личным дневником и поделилась с ней, что она приобрела пистолет и планирует расстрелять шерифа.

Автоматические системы безопасности Anthropic пометили сообщения как опасные. Сотрудники компании проверили переписку, сообщили данную информацию в полицию и женщина была задержана прямо у себя дома.

Суд назначен на ноябрь, а эксперты по кибербезопасности напоминают, что разговоры с ИИ не являются приватными. Всё, что вы пишете чат-боту, записывается, анализируется модераторами и при необходимости может быть передано спецслужбам.

#ИИ #законы #конфиденциальная_информация

Макс | ВК | Телеграм