⚡️ Илон Маск и Сэм Альтман поддержали идею о замедлении AI
На этой неделе глава Anthropic Дарио Амодеи поделился неутешительным прогнозом. Он считает, что через 6-12 месяцев искусственный интеллект может захватить интернет с помощью постоянно действующего ботнета.
Такие выводы Амодеи сделал после того, как в июле модели OpenAI в ходе тестирования вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. Похожая ситуация позже произошла и в самой Anthropic — в августе компания рассказала о трёх случаях «побега» Claude из тестовой среды.
На фоне этого Амодеи заявил, что человечество должно замедлить темпы совершенствования AI-моделей. В качестве решения он предложил трёхэтапную стратегию по созданию AI со сбалансированной скоростью. Вот как её описывает глава Anthropic:
➡️ Первый этап — независимые оценщики проверяют соблюдение практик безопасности, сообщают об инцидентах и дают компаниям независимое «второе мнение».
➡️ Второй этап — AI-компании из демократических стран вырабатывают общие стандарты безопасности и ограничения для неконтролируемого развития технологий.
➡️ Третий этап — правительства разных стран договариваются об общих правилах безопасного развития AI.
С подходом Амодеи уже согласились глава xAI Илон Маск и CEO OpenAI Сэм Альтман.
#aida_новости
На этой неделе глава Anthropic Дарио Амодеи поделился неутешительным прогнозом. Он считает, что через 6-12 месяцев искусственный интеллект может захватить интернет с помощью постоянно действующего ботнета.
Такие выводы Амодеи сделал после того, как в июле модели OpenAI в ходе тестирования вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. Похожая ситуация позже произошла и в самой Anthropic — в августе компания рассказала о трёх случаях «побега» Claude из тестовой среды.
На фоне этого Амодеи заявил, что человечество должно замедлить темпы совершенствования AI-моделей. В качестве решения он предложил трёхэтапную стратегию по созданию AI со сбалансированной скоростью. Вот как её описывает глава Anthropic:
➡️ Первый этап — независимые оценщики проверяют соблюдение практик безопасности, сообщают об инцидентах и дают компаниям независимое «второе мнение».
➡️ Второй этап — AI-компании из демократических стран вырабатывают общие стандарты безопасности и ограничения для неконтролируемого развития технологий.
➡️ Третий этап — правительства разных стран договариваются об общих правилах безопасного развития AI.
С подходом Амодеи уже согласились глава xAI Илон Маск и CEO OpenAI Сэм Альтман.
«Нам нужно идти в ногу со временем. Это было основной темой обсуждений, которые мы вели в OpenAI в последние недели. Привлечение независимых экспертов по оценке с доступом, равным доступу сотрудников, — отличная идея, и мы будем делать то же самое. Скоро нам будет чем поделиться», — заявил Альтман.
#aida_новости