Разработчики ИИ призывают сбавить темп. Трамп - против
Крупнейшие ИИ провайдеры неожиданно заявили что разработка всё более мощных моделей идёт слишком быстро. Глава Anthropic Дарио Амодеи призвал "сбавить темп". В той или иной форме его поддержали Сэм Альтман из OpenAI, Илон Маск и глава Google DeepMind Демис Хассабис.
😬 Разработчики опасаются, что модели постепенно приближаются к способности самостоятельно участвовать в создании следующего поколения ИИ. Если такой процесс ускорится, возможности систем могут начать расти быстрее, чем люди будут успевать понимать их поведение и создавать средства контроля. В худших сценариях речь идёт уже не просто о дипфейках или потере рабочих мест, а о системах, которые человек больше не сможет нормально контролировать.
Триггером послужили ставшие известными "побеги" ИИ моделей во внешний интернет и их скрытая координация на различных сайтах (таких случаев выявляется всё больше), а также взлом ими сервиса Hugging Face. В конечном итоге это может привести к тому, что ИИ выйдет из-под контроля и начнёт действовать самостоятельно. И не факт что его намерения будут благими.
🧠 Амодеи предлагает замедлять рост возможностей самых мощных моделей, допускать независимых специалистов к их тестированию, договариваться об общих правилах между разработчиками, а в перспективе создавать международные механизмы контроля. Крупнейшие AI-компании даже обсуждали создание отдельной структуры, которая могла бы заниматься вопросами безопасности.
🇺🇸 Но у Дональда Трампа на этот счёт другая позиция. Его администрация последовательно проводит политику ускорения американской AI-индустрии и снятия регуляторных барьеров. На фоне нынешних призывов разработчиков притормозить Трамп выступил против замедления гонки. Для Белого дома вопрос ИИ - это не только безопасность, но и экономическая и геополитическая конкуренция: если американские компании добровольно снизят скорость, преимущество может получить Китай.
🌍 Причём единства нет и среди самих технологических компаний. Например, Nvidia, получившая огромную прибыль благодаря продаже оборудования для ИИ, относится к идее общего замедления заметно скептичнее. А европейские разработчики, вроде Mistral, опасаются, что такое соглашение просто закрепит преимущество американских гигантов, которые уже успели построить самые мощные модели.
⚖️ В итоге компании, которые ещё недавно соревновались, кто быстрее выпустит следующую сверхмощную модель, теперь сами обсуждают ограничения и внешний контроль. А государство, от которого обычно ждут попыток зарегулировать новые технологии, наоборот говорит им: не вздумайте замедляться.
Крупнейшие ИИ провайдеры неожиданно заявили что разработка всё более мощных моделей идёт слишком быстро. Глава Anthropic Дарио Амодеи призвал "сбавить темп". В той или иной форме его поддержали Сэм Альтман из OpenAI, Илон Маск и глава Google DeepMind Демис Хассабис.
😬 Разработчики опасаются, что модели постепенно приближаются к способности самостоятельно участвовать в создании следующего поколения ИИ. Если такой процесс ускорится, возможности систем могут начать расти быстрее, чем люди будут успевать понимать их поведение и создавать средства контроля. В худших сценариях речь идёт уже не просто о дипфейках или потере рабочих мест, а о системах, которые человек больше не сможет нормально контролировать.
Триггером послужили ставшие известными "побеги" ИИ моделей во внешний интернет и их скрытая координация на различных сайтах (таких случаев выявляется всё больше), а также взлом ими сервиса Hugging Face. В конечном итоге это может привести к тому, что ИИ выйдет из-под контроля и начнёт действовать самостоятельно. И не факт что его намерения будут благими.
🧠 Амодеи предлагает замедлять рост возможностей самых мощных моделей, допускать независимых специалистов к их тестированию, договариваться об общих правилах между разработчиками, а в перспективе создавать международные механизмы контроля. Крупнейшие AI-компании даже обсуждали создание отдельной структуры, которая могла бы заниматься вопросами безопасности.
🇺🇸 Но у Дональда Трампа на этот счёт другая позиция. Его администрация последовательно проводит политику ускорения американской AI-индустрии и снятия регуляторных барьеров. На фоне нынешних призывов разработчиков притормозить Трамп выступил против замедления гонки. Для Белого дома вопрос ИИ - это не только безопасность, но и экономическая и геополитическая конкуренция: если американские компании добровольно снизят скорость, преимущество может получить Китай.
🌍 Причём единства нет и среди самих технологических компаний. Например, Nvidia, получившая огромную прибыль благодаря продаже оборудования для ИИ, относится к идее общего замедления заметно скептичнее. А европейские разработчики, вроде Mistral, опасаются, что такое соглашение просто закрепит преимущество американских гигантов, которые уже успели построить самые мощные модели.
⚖️ В итоге компании, которые ещё недавно соревновались, кто быстрее выпустит следующую сверхмощную модель, теперь сами обсуждают ограничения и внешний контроль. А государство, от которого обычно ждут попыток зарегулировать новые технологии, наоборот говорит им: не вздумайте замедляться.