Из Anthropic бегут исследователи — Джо Бентон ливнул из команды безопасности и заявил: компании гонятся за сверхумным ИИ, а человечество можем этого не пережить 😖

И это уже не первый случай: ранее об уходе объявил Джейкоб Коксон, занимавшийся обучением моделей в OpenAI и Anthropic. По его словам, обе компании ставят победу в гонке выше безопасности 😬

Бентон перешёл в некоммерческую METR, которая независимо оценивает риски ИИ. Главная его претензия: общество может даже не узнать о том, что безумный ИИ сбежал из серверов, ведь Anthropic и OpenAI могут просто отмолчаться

При этом СЕО Антропиков, Дарио Амодей, подавал свою лабораторию, как более безопасную альтернативу OpenAI.

Но деньги оказались важнее 💃