"Глава Anthropic Дарио Амодеи указал на опасность слишком быстрого развития нейросетей, скорость обучения которых опережает способности человечества держать их под контролем.

По словам Амодеи, необходимо снизить скорость, с которой улучшаются возможности ИИ-моделей. Он признал, что его призыв может показаться странным от руководителя одной из ведущих ИИ-компаний и создателя модели Claude, однако прогресс в последние месяцы пошел «радикально быстрее» и модели стали способны улучшать сами себя (это явление известно как «рекурсивное самосовершенствование»)".

Как интересно ... Где-то мы это все уже слышали ...