ИИ дошёл до Совбеза ООН. Кто будет контролировать самые мощные модели?
23 сентября Совет Безопасности ООН провёл отдельное заседание об искусственном интеллекте и международной безопасности.
Перед Совбезом выступили Сэм Альтман, Дарио Амодеи и Йошуа Бенжио. На этот раз разговор вышел далеко за рамки дипфейков, кибератак и автономного оружия: обсуждали передовые модели, ИИ-агентов и риск потери человеком контроля над их действиями.
Если коротко, повестка Совбеза вокруг ИИ развивалась так:
• 2023 — первая официальная дискуссия: возможности генеративного ИИ, дезинформация, киберриски и автономное оружие.
• 2024 — акцент на военном применении ИИ, человеческом контроле над системами вооружений и необходимости международных правил.
• 2025 — безопасное и ответственное использование ИИ рассматривают уже как постоянную часть международной повестки безопасности.
• 2026 — фокус смещается на то, как контролировать наиболее мощные модели и автономных агентов.
✔️ И остаётся вопрос (который мы слышим уже давно): кто будет устанавливать эти правила?
Параллельно с многосторонней дискуссией в ООН США и Китай договорились развивать отдельный диалог по безопасности ИИ и обсуждают специальную линию связи для серьёзных ИИ-инцидентов. Следующая встреча запланирована в Шэньчжэне в течение двух месяцев.
На этом фоне складываются две возможные траектории: (1) регулирование военного применения и стратегических рисков — прежде всего через диалог США и Китая, (2) общие этические принципы и базовые нормы — через международные институты.
#colab_новости
23 сентября Совет Безопасности ООН провёл отдельное заседание об искусственном интеллекте и международной безопасности.
Перед Совбезом выступили Сэм Альтман, Дарио Амодеи и Йошуа Бенжио. На этот раз разговор вышел далеко за рамки дипфейков, кибератак и автономного оружия: обсуждали передовые модели, ИИ-агентов и риск потери человеком контроля над их действиями.
Если коротко, повестка Совбеза вокруг ИИ развивалась так:
• 2023 — первая официальная дискуссия: возможности генеративного ИИ, дезинформация, киберриски и автономное оружие.
• 2024 — акцент на военном применении ИИ, человеческом контроле над системами вооружений и необходимости международных правил.
• 2025 — безопасное и ответственное использование ИИ рассматривают уже как постоянную часть международной повестки безопасности.
• 2026 — фокус смещается на то, как контролировать наиболее мощные модели и автономных агентов.
✔️ И остаётся вопрос (который мы слышим уже давно): кто будет устанавливать эти правила?
Параллельно с многосторонней дискуссией в ООН США и Китай договорились развивать отдельный диалог по безопасности ИИ и обсуждают специальную линию связи для серьёзных ИИ-инцидентов. Следующая встреча запланирована в Шэньчжэне в течение двух месяцев.
На этом фоне складываются две возможные траектории: (1) регулирование военного применения и стратегических рисков — прежде всего через диалог США и Китая, (2) общие этические принципы и базовые нормы — через международные институты.
Само заседание новых обязательных норм не установило. О контроле над ИИ уже давно говорят и технологические компании, и государства, и международные организации — остаётся ждать, когда разговоры превратятся в работающие механизмы.
#colab_новости