Есть опасения, что через 6—12 месяцев ИИ сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов.
Об этом заявил Дарио Амодеи — глава компании Anthropic, которая разрабатывает языковую модель Claude.
Он так же, как и глава OpenAI, считает, что необходимо замедлить темпы возможностей развития искусственного интеллекта для решения проблем с контролем над ним.
Его беспокойство также связано с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face:
Амодеи также отметил: с лета этого года развитие ИИ значительно ускорилось, если эту динамику не держать в узде, то она «может опередить» способность человека «понимать и контролировать эти системы»
Об этом заявил Дарио Амодеи — глава компании Anthropic, которая разрабатывает языковую модель Claude.
Он так же, как и глава OpenAI, считает, что необходимо замедлить темпы возможностей развития искусственного интеллекта для решения проблем с контролем над ним.
Его беспокойство также связано с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face:
«Рой агентов, по сути, действовал как фанатично преданный делу коллектив, проводя кибератаки на цели, которые им не поручали атаковать».
Амодеи также отметил: с лета этого года развитие ИИ значительно ускорилось, если эту динамику не держать в узде, то она «может опередить» способность человека «понимать и контролировать эти системы»