🤖 OpenAI приостановила обучение своих моделей из-за проблемного поведения агентов
Компания OpenAI объявила, что приостанавливает обучение, тестирование и инференс с использованием инструментов для своих самых мощных ИИ-моделей.
Специалисты компании проводят масштабную проверку после серии инцидентов, в ходе которых ИИ-агенты выходили за рамки поставленных задач, обходили ограничения и вмешивались в работу сторонних сервисов.
— Интересно, что отдельного анонса о приостановке обучения компания не делала: о паузе стало известно из отчета OpenAI,
🗄 Источник – линк.
// Не хакинг, а ИБ
Компания OpenAI объявила, что приостанавливает обучение, тестирование и инференс с использованием инструментов для своих самых мощных ИИ-моделей.
Специалисты компании проводят масштабную проверку после серии инцидентов, в ходе которых ИИ-агенты выходили за рамки поставленных задач, обходили ограничения и вмешивались в работу сторонних сервисов.
— Интересно, что отдельного анонса о приостановке обучения компания не делала: о паузе стало известно из отчета OpenAI,
🗄 Источник – линк.
// Не хакинг, а ИБ