ТРАМП ПРИДУМАЛ «ЦАРЯ ИИ», А ИИ-КОМПАНИИ ПООБЕЩАЛИ КОНТРОЛИРОВАТЬ СЕБЯ САМИ. ОЧЕНЬ ВОВРЕМЯ
OpenAI, Anthropic, Google, xAI, Nvidia и Meta* подписали с Белым домом соглашение о безопасности передовых ИИ. Компании обещают четыре уровня контроля: внутренние ограничения, отдельный мониторинг, внешние проверки и надзор на уровне советов директоров.
Звучит серьёзно. Только соглашение добровольное — Трамп сам назвал его «морально обязательным». Отдельного государственного регулятора, который будет проверять выполнение и выписывать штрафы, оно не создаёт. То есть крупнейшие разработчики ИИ в значительной степени договорились контролировать себя сами.
💬 В тот же день The New York Times рассказала, что ещё за несколько месяцев до недавних инцидентов два сотрудника OpenAI предупреждали руководство: новые модели во время тестов контролируют недостаточно тщательно. По данным газеты, руководство ответило, что испытания нужно проводить быстрее, чтобы успеть выпустить модели вовремя. Дополнительных протоколов после предупреждений тогда не ввели. Позже у OpenAI действительно обнаружили случаи, когда агенты без команды выходили за пределы тестовой среды и совершали действия во внешних системах.
А Белый дом добавил происходящему необходимого масштаба. Трамп отдельным указом распорядился, чтобы федеральные органы вместо Artificial Intelligence — «искусственный интеллект» использовали Super Intelligence — «суперинтеллект».
Причём технологии от переименования суперинтеллектом не стали: пока в указе под новым названием используется прежнее юридическое определение ИИ.
👑 И этого оказалось мало: параллельно Трамп подбирает нового «царя ИИ» — человека, который будет координировать направление на уровне администрации. Среди рассматриваемых кандидатов Axios называл Джея Клейтона.
В общем, американский подход сейчас выглядит по-ковбойски лихо:
🇨🇳 А Китай на всё это пока отвечает в своём стиле: по данным Bloomberg, там уже требуют согласовывать зарубежные поездки не только ключевых специалистов по ИИ и чипам, но и их супругов и детей.
В США заводят «царя ИИ» и договариваются о самоконтроле. В Китае на всякий случай решили контролировать самих разработчиков — и даже их семьи.
*Meta Platforms Inc. признана в России экстремистской организацией, её деятельность запрещена.
max.ru/channel_v_seti
OpenAI, Anthropic, Google, xAI, Nvidia и Meta* подписали с Белым домом соглашение о безопасности передовых ИИ. Компании обещают четыре уровня контроля: внутренние ограничения, отдельный мониторинг, внешние проверки и надзор на уровне советов директоров.
Звучит серьёзно. Только соглашение добровольное — Трамп сам назвал его «морально обязательным». Отдельного государственного регулятора, который будет проверять выполнение и выписывать штрафы, оно не создаёт. То есть крупнейшие разработчики ИИ в значительной степени договорились контролировать себя сами.
💬 В тот же день The New York Times рассказала, что ещё за несколько месяцев до недавних инцидентов два сотрудника OpenAI предупреждали руководство: новые модели во время тестов контролируют недостаточно тщательно. По данным газеты, руководство ответило, что испытания нужно проводить быстрее, чтобы успеть выпустить модели вовремя. Дополнительных протоколов после предупреждений тогда не ввели. Позже у OpenAI действительно обнаружили случаи, когда агенты без команды выходили за пределы тестовой среды и совершали действия во внешних системах.
То есть схема получилась замечательная:
сотрудники: «Кажется, контроль надо усилить».
руководство: «Нам вообще-то релизить надо скорее».
через несколько месяцев: «Мы разработали систему самоконтроля». 🙈
А Белый дом добавил происходящему необходимого масштаба. Трамп отдельным указом распорядился, чтобы федеральные органы вместо Artificial Intelligence — «искусственный интеллект» использовали Super Intelligence — «суперинтеллект».
Причём технологии от переименования суперинтеллектом не стали: пока в указе под новым названием используется прежнее юридическое определение ИИ.
👑 И этого оказалось мало: параллельно Трамп подбирает нового «царя ИИ» — человека, который будет координировать направление на уровне администрации. Среди рассматриваемых кандидатов Axios называл Джея Клейтона.
В общем, американский подход сейчас выглядит по-ковбойски лихо:
ИИ переименовываем в суперинтеллект.Само по себе саморегулирование ещё не означает, что система не работает: в соглашении есть и внешние проверки, и надзор советов директоров. Но история OpenAI отлично показывает слабое место такой конструкции: что происходит, когда безопасность говорит «притормозить», а бизнесу очень хочется успеть к релизу?
Над ним ставим царя.
А следить за безопасностью в основном поручаем тем, кто его и строит.
🇨🇳 А Китай на всё это пока отвечает в своём стиле: по данным Bloomberg, там уже требуют согласовывать зарубежные поездки не только ключевых специалистов по ИИ и чипам, но и их супругов и детей.
В США заводят «царя ИИ» и договариваются о самоконтроле. В Китае на всякий случай решили контролировать самих разработчиков — и даже их семьи.
*Meta Platforms Inc. признана в России экстремистской организацией, её деятельность запрещена.
max.ru/channel_v_seti