☝🏻Claude используют для атак на США

Anthropic опубликовала свежий отчёт о злоупотреблениях Claude, и самые мрачные кейсы там из Ирана и Йемена.💀

Ячейка с севера Йемена использовала Claude Code вместо живых программистов в трёх ракетных программах:
🔻 управляемая ракета на «телефонном» полётном компьютере с самонаведением на финальном участке
🔻 многоступенчатая баллистическая ракета с целевой дальностью более 2000 км
🔻 семейство R2000 с гиперзвуковым планирующим вариантом

ИИ писал софт наведения и стабилизации, прикручивал открытый автопилот, собирал прошивку и гонял симуляции. Одна копия Claude писала код, вторая копала матчасть, третья делала код-ревью.🤖

Защита Anthropic блокировала многие запросы, но не все: задачи маскировали и дробили на разные сессии.

Боевого образца пока нет, а тестовый пуск, похоже, провалился. Разбираться, почему, через несколько часов пришли обратно к Claude.🤷🏼‍♀️

☝🏻Отдельно связанный с Ираном аккаунт готовил рекомендации для ударов по кораблям ВМС США: транспондеры, спутниковые снимки, имена военных из подписей к фото и уязвимости корабельной связи.👁

☝🏻☝🏻Аккаунты забанены, но у йеменцев уже есть офлайн-симулятор, которому Claude больше не нужен.
================
🔺 News | 🧩 Soft | 💻 Hacker