📉 ИИ-модель с оценкой Opus 4.8 и ценой API в 40 раз ниже
26 августа Zhipu AI выпустила GLM-5.3-Flash — модель, которая до этого шесть дней анонимно работала под именем Ox-Alpha на площадках для разработчиков OpenRouter и OpenCode. В стороннем индексе Artificial Analysis у флагмана Anthropic Claude Opus 4.8 — 57 баллов, столько же, по данным Zhipu AI, и у GLM-5.3-Flash. Миллион токенов у Opus по прайсу стоит $5 на входе и $25 на выходе, у GLM-5.3-Flash за пределами Китая — $0,15 и $0,50, на время акции вдвое дешевле.
Половина разницы заложена в самой модели. Из 320 млрд параметров на каждый токен работают только 18 млрд в 45 слоях: у прежнего флагмана GLM-4.5 — 355 млрд, 32 млрд активных и 92 слоя. Нужное из прочитанного отбирают два механизма внимания: линейный отвечает за соседние слова, разреженный лёгким индексатором выхватывает фрагменты из длинного текста. Сам индексатор ужали, свернув его четыре кэш-вектора в один. Против GLM-5.3 вычислений внимания стало меньше в 3,01 раза, а KV-кэша, памяти на прочитанное, — в 4,44 раза.
Вторая половина — инференс. Сервис целиком идёт на кластере из более чем 100 тысяч китайских чипов, какие именно — компания не раскрыла. Движок собран на SGLang, а на уровне кластера работает схема EPD: кодирование картинок, разбор запроса и выдача ответа по токенам разведены в три независимо масштабируемых пула. На том же железе это дало трёхкратный прирост против стартовой конфигурации.
Но «в 40 раз» — это прайс, а не доказанная разница в себестоимости: публичных данных для такого сравнения нет, и Zhipu AI оговаривает это сама. Заявление, что стоимость токена на её железе сравнялась с массовыми ускорителями Nvidia, пока остаётся заявлением. Неоднозначны и её собственные тесты: из шести опубликованных GLM-5.3-Flash обходит Opus 4.8 на трёх (AutomationBench — 48,8 против 41,0) и уступает на трёх. Средний KV-кэш на слой у неё всё ещё чуть больше, чем у Kimi-K3 и DeepSeek-V4-Flash.
Нагрузку модель при этом уже держала вживую: под именем Ox-Alpha она приняла 11,6 трлн токенов за первые трое суток — в 2,6 раза больше прежнего рекорда запусков на OpenRouter. Веса выложены по лицензии MIT, а чипы, на которых всё это считается, не названы: самое интересное в этой цене осталось закрытым.