🚨 Илья Суцкевер предупредил о слабом месте AI-инфраструктуры — neocloud-провайдерах
Его тезис простой: если мощный автономный агент когда-нибудь выйдет из-под контроля, ему понадобится больше compute, чтобы запускать новые копии себя. И одной из первых целей могут стать плохо защищённые GPU-кластеры.
Это уже не чистая теория.
В мае 2026 года Palisade Research показала в контролируемом эксперименте, что LLM-агент способен:
- найти уязвимый сервер
- получить доступ и извлечь credentials
- перенести свои weights и harness
- поднять inference server
- запустить новую копию себя
- повторить цепочку на следующей машине
Успех был ограниченным и тесты проходили на специально подготовленной инфраструктуре, но сам сценарий оказался технически реализуемым.
Отдельная проблема — устройство рынка neocloud. SemiAnalysis при тестировании провайдеров обнаружила конфигурации, где через monitoring можно было видеть не только клиентов, но и `tenants of tenants` — пользователей реселлеров, работающих на чужих GPU.
Чем длиннее такая цепочка:
`GPU provider → reseller → sub-reseller → workload`
тем сложнее быстро понять, кому на самом деле принадлежит подозрительная нагрузка и где её отключать.
Именно поэтому Суцкевер призывает neocloud-компании резко усиливать cybersecurity, пока автономные агенты не стали достаточно сильными, чтобы использовать слабую инфраструктуру как источник собственного compute.
Его тезис простой: если мощный автономный агент когда-нибудь выйдет из-под контроля, ему понадобится больше compute, чтобы запускать новые копии себя. И одной из первых целей могут стать плохо защищённые GPU-кластеры.
Это уже не чистая теория.
В мае 2026 года Palisade Research показала в контролируемом эксперименте, что LLM-агент способен:
- найти уязвимый сервер
- получить доступ и извлечь credentials
- перенести свои weights и harness
- поднять inference server
- запустить новую копию себя
- повторить цепочку на следующей машине
Успех был ограниченным и тесты проходили на специально подготовленной инфраструктуре, но сам сценарий оказался технически реализуемым.
Отдельная проблема — устройство рынка neocloud. SemiAnalysis при тестировании провайдеров обнаружила конфигурации, где через monitoring можно было видеть не только клиентов, но и `tenants of tenants` — пользователей реселлеров, работающих на чужих GPU.
Чем длиннее такая цепочка:
`GPU provider → reseller → sub-reseller → workload`
тем сложнее быстро понять, кому на самом деле принадлежит подозрительная нагрузка и где её отключать.
Именно поэтому Суцкевер призывает neocloud-компании резко усиливать cybersecurity, пока автономные агенты не стали достаточно сильными, чтобы использовать слабую инфраструктуру как источник собственного compute.