Почему в ИИ-ЦОДах остаются полупустые стойки?

Место под серверы есть, а поставить их уже нельзя: не хватает питания и охлаждения. Об этом рассказал Михаил Лобоцкий, генеральный директор Cloud․ru, в выпуске «Промкаста».

Если раньше мы заходили в ЦОДы — серверные стойки целиком забиты оборудованием, то в ИИ-ЦОДах стоят полупустые стойки с двумя HGX на стойку. Остальное — пустое пространство, потому что они очень требовательны к энергопитанию.

▪️ По словам Лобоцкого, классическая ИТ-инфраструктура привыкла к 5–6 кВт на стойку. Облачная подняла планку до 10–15 кВт, а новое поколение систем для ИИ выходит уже на 150 кВт.

▪️ Даже там, где электричество кажется доступным, конкретная площадка может упереться в ограничения. Большую мощность нужно подвести к каждой стойке, а затем обеспечить отвод тепла.

▪️ Как эти требования меняют облачную инфраструктуру и экономику вычислений? Что происходит с китайскими альтернативами NVIDIA и какие нагрузки принесут ИИ-агенты? Об этом — в полном выпуске «Промкаста».

Выпуски на других платформах:
▪️ YouTube
▪️ VK Video
▪️ Яндекс Музыка
▪️ MAX

Подписывайтесь на Серверную