☝🏻Anthropic будет бесплатно искать дыры в open source с помощью Claude Mythos

Корпорация запустила OSS Scanner. Это бесплатный сервис, который регулярно проверяет открытые проекты на уязвимости самыми сильными моделями компании, включая Claude Mythos.🤖

По сути это аналог гугловского OSS-Fuzz, только вместо фаззеров работают языковые модели.

Участвовать могут не все: брать будут критичные для инфраструктуры и безопасности проекты. Мейнтейнер подаёт заявку через pull request в репозиторий на GitHub, а каждую заявку рассматривают отдельно.

Что приходит мейнтейнерам:
🔻 рабочий эксплойт-репродьюсер и объяснение бага;
🔻 готовый патч, если его удалось сделать;
🔻 по возможности коммит, в котором баг появился.

☝🏻Есть нюанс: люди эти отчёты не проверяют, всё целиком генерирует модель. Anthropic сама предупреждает, что часть находок может оказаться ошибочной.🤔

☝🏻Но цифры при этом серьёзные: за полгода модели нашли больше 29 000 потенциальных уязвимостей. В проверке 97 критичных находок из 48 проектов настоящими оказались 88%, ложное срабатывание было только одно.📊

Сканирование идёт в песочницах без доступа в интернет. Платную Claude Security для корпораций сервис не заменяет.🛡
================
🔺 News | 🧩 Soft | 💻 Hacker