⚡ Ускорители ждут данных: где теперь тормозит ИИ

Тысяча ускорителей в одной стойке ещё не гарантирует скорость. Если кластер плохо связан, его GPU большую часть времени ждут данные, а выработка токенов может составить лишь десятую долю расчётной.

Отсюда главная тема Всемирной конференции по ИИ 2026 года в Шанхае — суперузлы: сотни или тысячи ускорителей объединяют в систему с общей памятью. Biren Tech показала оптический суперузел на 1 024 карты: они используют общую память, а данные между ними идут по оптическим соединениям.

Но задача не сводится к одинаковым чипам. Infinigence Cloud показала программный слой, который собирает разрозненные ускорители разных китайских производителей в виртуальный суперкластер и распределяет между ними задачи.

Поэтому новое узкое место ИИ-инфраструктуры — уже не пиковая мощность отдельного чипа, а пропускная способность и управление всей системой. Конкуренция идёт не за максимум операций на бумаге, а за реально полученные токены на вложенный доллар.