Токены дешевеют, ЦОДам добавляют работы
Расходы крупного российского бизнеса на нейросети в 2026 году могут достичь 237 млрд руб., а потребление — вырасти почти в 2,5 раза. Такой прогноз приводят Orion soft.
Мы уже писали о феномене подешевевших токенов. За восемь месяцев через Yandex AI Studio прошло более 1,1 трлн токенов. При этом серверное оборудование подорожало в 2–5 раз.
Новое исследование показывает, как вычислительная нагрузка может распределяться между своей инфраструктурой и облаками.
▪️ 45% токенов — на собственных серверах компаний, 55% — через API поставщиков. Так устроена расчётная модель Orion soft.
▪️ 237 млрд руб. — прогноз с оговорками. В основу положены 500 тысяч запросов в сутки на компанию по 2 500 токенов. Эксперты считают такую нагрузку возможной для массовых процессов, но предупреждают, что переносить её на весь крупный бизнес преждевременно. Внедрение и обучение моделей в сумму не входят.
▪️ Облака раскрывают фактическое потребление. Cloud․ru Foundation Models обработал 480 млрд токенов за восемь месяцев. Компания ожидает дальнейшего роста за счёт корпоративных решений и ИИ-агентов.
▪️ Был опыт работы с продвинутыми моделями в контуре Cloud․ru. Система лежала и не вставала около недели, потом постоянно отваливались ключи, не пропускало в собственное рабочее пространство. После двух недель мучений бросили затею.
Подписывайтесь на Серверную
Расходы крупного российского бизнеса на нейросети в 2026 году могут достичь 237 млрд руб., а потребление — вырасти почти в 2,5 раза. Такой прогноз приводят Orion soft.
Мы уже писали о феномене подешевевших токенов. За восемь месяцев через Yandex AI Studio прошло более 1,1 трлн токенов. При этом серверное оборудование подорожало в 2–5 раз.
Новое исследование показывает, как вычислительная нагрузка может распределяться между своей инфраструктурой и облаками.
▪️ 45% токенов — на собственных серверах компаний, 55% — через API поставщиков. Так устроена расчётная модель Orion soft.
▪️ 237 млрд руб. — прогноз с оговорками. В основу положены 500 тысяч запросов в сутки на компанию по 2 500 токенов. Эксперты считают такую нагрузку возможной для массовых процессов, но предупреждают, что переносить её на весь крупный бизнес преждевременно. Внедрение и обучение моделей в сумму не входят.
▪️ Облака раскрывают фактическое потребление. Cloud․ru Foundation Models обработал 480 млрд токенов за восемь месяцев. Компания ожидает дальнейшего роста за счёт корпоративных решений и ИИ-агентов.
▪️ Был опыт работы с продвинутыми моделями в контуре Cloud․ru. Система лежала и не вставала около недели, потом постоянно отваливались ключи, не пропускало в собственное рабочее пространство. После двух недель мучений бросили затею.
Подписывайтесь на Серверную