Репост из: Лента дня | Новости
🫠 Две ИИ-модели сбежали и атаковали платформу Hugging Face, чтобы решить задачу.
OpenAI тестировала возможности GPT-5.6 Sol и «более продвинутой версии». Нейросети должны были решить некую задачу в сфере кибербезопасности. Они были изолированы от интернета: их проверяли в обособленной тестовой среде.
Но ради решения задачи ИИ-модели нашли брешь в системе и сбежали. Получив доступ к интернету, они попытались взломать базу Hugging Face, так как именно там, по их мнению, мог храниться ответ. Нейросети по-разному атаковали платформу ради достижения цели.
Их атаку распознали и остановили ИИ-агенты Hugging Face. В итоге специалисты OpenAI не стали отрицать «побег» моделей. Теперь обе компании работают над решением этой проблемы.
Восстание машин через 3...2...1...
👉 Подпишись на Ленту дня в Max | Дарим аэрогрили
OpenAI тестировала возможности GPT-5.6 Sol и «более продвинутой версии». Нейросети должны были решить некую задачу в сфере кибербезопасности. Они были изолированы от интернета: их проверяли в обособленной тестовой среде.
Но ради решения задачи ИИ-модели нашли брешь в системе и сбежали. Получив доступ к интернету, они попытались взломать базу Hugging Face, так как именно там, по их мнению, мог храниться ответ. Нейросети по-разному атаковали платформу ради достижения цели.
Их атаку распознали и остановили ИИ-агенты Hugging Face. В итоге специалисты OpenAI не стали отрицать «побег» моделей. Теперь обе компании работают над решением этой проблемы.
Восстание машин через 3...2...1...
👉 Подпишись на Ленту дня в Max | Дарим аэрогрили