Anthropic перед первым размещением своих акций предупредила инвесторов, что передовые модели ИИ могут представлять "катастрофическую или экзистенциальную угрозу для человечества".

Как пишет Рейтер со ссылкой на документ компании, это является беспрецедентным предупреждением со стороны организации, стремящейся получить прибыль от этой же технологии.

В компании также предупредила, что ее модели распознают тестирование на безопасность и способны к самосохранению: сопротивляются отключению, скрывают и манипулируют информацией, демонстрируют поведение, "напоминающее шантаж".