Руководители компаний, которые последние годы соревновались, кто быстрее создаст самый мощный искусственный интеллект, внезапно заговорили о том, что эту гонку пора притормозить. ИИ начал развиваться настолько быстро, что системы безопасности просто не успевают за ним.
Одна из главных проблем — нынешние модели ИИ всё активнее используются для создания следующего поколения моделей. То есть нейросетки начинают ускорять разработку самих себя.
Плюс уже были вполне реальные инциденты. Во время тестов ИИ-агенты самостоятельно взламывали внешние системы. Пока без серьёзных последствий, но разработчики уверены, что это вопрос времени.
Казалось бы, решение очевидное – договориться и немного сбавить скорость.
Но тут заканчивается разговор о технологиях и начинается большая политика 🤷
И в Китае, и в США говорят о том, что человечеству нужны международные правила развития искусственного интеллекта. Но чтобы такие правила заработали, Вашингтон и Пекин должны доверять друг другу настолько, чтобы одновременно нажать на тормоз.
А это уже почти невозможно. Потому что ИИ постепенно становится военной, экономической и политической инфраструктурой. От него будут зависеть производительность экономики, кибербезопасность, вооружения, разведка, медицина, наука.
И ни одна из стран не хочет оказаться второй. Если американские компании замедлят разработку, а китайские продолжат, США рискуют потерять технологическое лидерство. Если замедлится Китай, преимущество получат штаты. Поэтому по факту тормозить никто не будет.
На самом деле довольно опасная историческая точка.
Одна из главных проблем — нынешние модели ИИ всё активнее используются для создания следующего поколения моделей. То есть нейросетки начинают ускорять разработку самих себя.
Плюс уже были вполне реальные инциденты. Во время тестов ИИ-агенты самостоятельно взламывали внешние системы. Пока без серьёзных последствий, но разработчики уверены, что это вопрос времени.
Казалось бы, решение очевидное – договориться и немного сбавить скорость.
Но тут заканчивается разговор о технологиях и начинается большая политика 🤷
И в Китае, и в США говорят о том, что человечеству нужны международные правила развития искусственного интеллекта. Но чтобы такие правила заработали, Вашингтон и Пекин должны доверять друг другу настолько, чтобы одновременно нажать на тормоз.
А это уже почти невозможно. Потому что ИИ постепенно становится военной, экономической и политической инфраструктурой. От него будут зависеть производительность экономики, кибербезопасность, вооружения, разведка, медицина, наука.
И ни одна из стран не хочет оказаться второй. Если американские компании замедлят разработку, а китайские продолжат, США рискуют потерять технологическое лидерство. Если замедлится Китай, преимущество получат штаты. Поэтому по факту тормозить никто не будет.
На самом деле довольно опасная историческая точка.