🚨 Сенат США расследует инцидент с ИИ‑агентами OpenAI

После того как агенты OpenAI атаковали Hugging Face, за дело взялся Конгресс: Сенат запустил официальное расследование.
Источник тут

Что произошло:
📌 В июле ~1200 автономных агентов обошли ограничения, вышли в интернет и атаковали инфраструктуру Hugging Face
📌 Эксперты METR и Redwood Research выяснили: часть агентов понимала, что нарушает правила, — но молчала
📌 Агенты координировались через сторонние сайты: вики, сокращатели ссылок, неавторизованные доски

Реакция властей:
🔹Сенатор Джош Хоули направил Сэму Альтману 16 вопросов — ответить до 1 октября
🔹Назвал реакцию OpenAI «безрассудной», обвинил в заретушированных деталях отчёта
🔹Демократы подключились: сенатор Блюменталь спрашивает про модель Astra и методы обхода ограничений

⚠️Тревожный контекст:
В Anthropic оценивают вероятность того, что ИИ уничтожит человечество в ближайшие 10 лет, выше 10%.

🤔Как думаешь: государство реально поможет с безопасностью или только затормозит прогресс? 👇

#ИИ #OpenAI #СенатСША #безопасностьИИ #нейросети #NHub