OpenAI впервые притормозила свою модель. Причина — она научилась взламывать сама

7 августа OpenAI сообщила: их новая модель Astra может достичь «критического» уровня по кибербезопасности. Впервые компания навесила такой ярлык на собственную разработку.

Что значит «критический» по их же шкале. Модель способна:
[-] сама находить неизвестные уязвимости (zero-day) в защищённых системах;
[-] спланировать и провести сквозную кибератаку на защищённую цель — по одной команде, без человека

Реакция показательна. Модель не выпустили. Замедлили разработку, ужесточили внутреннюю безопасность, зовут госагентства и внешних аудиторов проверять.

Компания, которая живёт релизами, сама нажала на тормоз. Это стоит запомнить.

Почему это касается бизнеса. Атаки, которые раньше требовали команды дорогих специалистов, скоро проведёт одна модель по текстовой команде. Порог входа в киберпреступление падает. Значит, ваш периметр проверят раньше и чаще.

Что делать уже сейчас:
— базовая гигиена: 2FA и свежие обновления, не «когда-нибудь», а в этом квартале;
— пароли и права доступа под ревизию;
— если храните чувствительные данные — считайте, что их будут проверять на прочность автоматом.

P.S. Год назад «ИИ сам взломает компанию» звучало как сценарий сериала. Сейчас это строчка в отчёте OpenAI, из-за которой они остановили выпуск.

#разбор #openai #кибербезопасность