Для команд в Китае практическое преимущество GLM API в том, что официальный сервис находится внутри страны и не требует отдельной схемы для трансграничной сети и зарубежных платежей. Но «доступен» не значит «стабилен в продакшене»: устойчивость определяется DNS, TLS, параллелизмом, ограничениями, повторами, счетами и переключением при сбое.
Ниже сравнение двух решений — прямого подключения к официальному сервису и работы через API-шлюз — с методами сетевой диагностики, подходами к планированию ёмкости и чек-листом проверки перед запуском. Вывод не предопределён: для глубокого использования одной модели и для единого доступа к нескольким моделям подходят разные варианты.
Примечание: Zhipu, GLM и BigModel — товарные знаки соответствующих правообладателей. Статья носит технический характер; автор не связан с Zhipu отношениями подчинения, представительства или авторизации. Адреса интерфейсов, правила ограничений и условия сервиса определяются официальной документацией открытой платформы Zhipu и консолью шлюза.
1. Когда подходит прямое подключение
Прямое подключение означает, что бизнес обращается к официальному интерфейсу Zhipu. Оно подходит командам, которые используют только серию GLM, хотят первыми получать новые модели и параметры, уже имеют развитые мониторинг и повторы, а финансовый отдел может рассчитываться с поставщиком напрямую.
Преимущество — короткий маршрут и понятные границы ответственности. При сбое в цепочке только три звена: бизнес, сеть и официальный сервис, поэтому диагностика проще. Новые возможности обычно появляются сначала в официальном интерфейсе, и прямое подключение удобнее для ранней проверки.
Цена решения — зависимость от одной точки. Ограничения на уровне аккаунта, недостаток баланса и перегрузка платформы напрямую влияют на бизнес; при стратегии с несколькими моделями команда сама ведёт несколько ключей, Base URL и счетов. Небольшие команды часто недооценивают эти управленческие издержки.
2. Что дополняет шлюз
API-шлюз сводит нескольких поставщиков к одному входу, совместимому с OpenAI. Обычно он даёт четыре вещи: единый Base URL, единый ключ, единый баланс и счета, единый мониторинг. Командам, которые одновременно используют GLM, DeepSeek и Claude, не нужно писать отдельную адаптацию под каждого поставщика.
После регистрации в ZSQH AI Gateway можно вызывать подключённые модели одним ключом; актуальный набор моделей и правила биллинга смотрите на странице тарифов. Поддерживается ли автоматическое переключение при сбое и как настраивается его порядок, зависит от текущих возможностей шлюза — уточняйте в консоли или у поддержки и не предполагайте, что «со шлюзом автоматически появляется высокая доступность».
Шлюз добавляет и новую зависимость: лишний сетевой переход, дополнительный слой ограничений и ещё один сервис, который нужно мониторить. Его выбирают ради снижения управленческих издержек, а не потому, что он устраняет все сбои.
3. Как локализовать сетевую проблему
Разложите «сетевую проблему» на четыре уровня: DNS, TCP-соединение, TLS-рукопожатие и HTTP-ответ. curl -v показывает длительность и состояние каждого этапа. Минимальная диагностическая команда:
curl -v --connect-timeout 5 --max-time 30 \
https://open.bigmodel.cn/api/paas/v4/chat/completions \
-H "Authorization: Bearer $GLM_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"glm-5.3","messages":[{"role":"user","content":"ping"}]}'
Смотрите на три показателя: аномальный time_namelookup указывает на проблему DNS; слишком длинный time_appconnect — на проблему TLS или канала; time_starttransfer намного выше ожидаемого — на очередь на сервере или перегрузку сети. Если возвращается сетевой код вроде 1234 с идентификатором ошибки, сохраните время запроса и ID для диагностики на стороне платформы.
В продакшене также проверяйте переменные прокси, DNS контейнера, лимит пула соединений и настройки Keep-Alive. Многие «случайные тайм-ауты» связаны не с поставщиком, а с исчерпанием клиентского пула или несогласованной конфигурацией прокси.
4. Ограничения и планирование ёмкости
Официальная документация Zhipu указывает, что ограничения скорости рассчитываются в основном по числу параллельных запросов, лимиты разных моделей независимы и действуют на уровне аккаунта. При превышении лимита аккаунта возвращается 1302; при общей перегрузке платформы — 1305; при достижении верхней границы квоты возможен 1308. Обработка различается: 1302 требует снижения параллелизма или очереди, 1305 — задержки и повтора, 1308 — изменения квоты или ожидания обновления.
Планируйте ёмкость не по среднему, а по пиковому параллелизму с запасом на повторы и всплески; сглаживайте пики очередью, чтобы задачи не стартовали все одновременно в начале часа; офлайн-нагрузку отправляйте в Batch или асинхронный интерфейс, оставляя онлайн-параллелизм для реального времени. Для повышения лимита официальная консоль предоставляет заявку; срок рассмотрения определяется правилами платформы.
| Решение | Сетевой маршрут | Набор моделей | Лимиты и сбои | Сценарии |
|---|---|---|---|---|
| Прямое официальное подключение | Бизнес → официальный интерфейс | GLM и продукты платформы | Лимит на уровне аккаунта, зависимость от одной точки | Одна модель, глубокое использование |
| API-шлюз | Бизнес → шлюз → модель | Несколько моделей, подключённых к шлюзу | Лимиты шлюза, настраиваемое переключение | Несколько моделей, единый счёт |
5. Оплата, счета и комплаенс данных
При выборе для команд в Китае оплата и счета часто важнее технических показателей. Прямое пополнение идёт в юанях, счёт формируется по фактическому расходу; пополнение шлюза оплачивается по счетам шлюза. Оба варианта уменьшают сложности трансграничных платежей и курсовых колебаний, но сторона выставления счёта, тип документа и сроки различаются — уточняйте до закупки.
Комплаенс данных оценивайте отдельно. Сначала классифицируйте данные: открытые материалы, внутренние документы, персональные данные, чувствительные бизнес-данные. Разным уровням соответствуют разные требования к хранению, обезличиванию и аудиту. Перед использованием любого стороннего API изучите условия обработки данных: используются ли они для обучения, сколько хранятся и где находятся. Если затронуты персональные данные или отраслевое регулирование, направьте решение юристам и команде безопасности до запуска, а не после.
6. Как выбрать между прямым подключением и шлюзом
Практичный критерий — три вещи: число моделей, сложность счетов и допустимость сбоев.
Если используется только GLM и команда способна поддерживать мониторинг и повторы, прямое подключение проще. Если одновременно используются три и более модели и финансы хотят единый счёт, шлюз снижает управленческие издержки. Если бизнес крайне чувствителен к перерывам, при любом выборе нужны схема переключения основной и резервной систем и деградация, а не опора на единственный вход.
Часто встречается гибридный вариант: основной бизнес идёт напрямую к официальному сервису, некритичные или экспериментальные задачи — через шлюз; либо основной маршрут через шлюз, резервный — напрямую. Главное — вынести Base URL, ключ и имя модели в конфигурацию, чтобы переключение не требовало правки кода.
Для переключения при сбое определите условия запуска: серия тайм-аутов, рост доли 5xx или превышение задержки первого байта. Резервную модель оцените заранее, чтобы после переключения качество не упало. В процессе нужны размыкание цепи и половинная проба, иначе восстановление может быть сразу перегружено трафиком.
7. Чек-лист проверки перед запуском
- Выполните тесты DNS, TLS и задержки первого байта из производственной сети.
- Прогоните реальные промпты и сравните качество и расход.
- Проведите нагрузочный тест на пиковом параллелизме и посмотрите условия появления 1302 и 1305.
- Проверьте работу тайм-аутов, повторов, идемпотентности и сглаживания очередью.
- Отработайте переключение основной и резервной систем, зафиксируйте время восстановления и целостность данных.
- Сверьте правила биллинга, счета и распределение затрат.
- Завершите классификацию данных и комплаенс-оценку, сохраните журналы аудита.
8. Частые вопросы
Нужна ли особая сеть для доступа к GLM API в Китае?
Официальный сервис ориентирован на пользователей в Китае и обычно не требует дополнительного трансграничного канала. Если в корпоративной сети есть прокси, белые списки или ограничения DNS, попросите эксплуатацию разрешить соответствующие домены.
Что стабильнее: прямое подключение или шлюз?
Абсолютного ответа нет. Прямой маршрут короче, но сильнее зависит от одной точки; шлюз даёт единый вход и переключение, но добавляет зависимость. Стабильность обеспечивают повторы, очередь, мониторинг и учения, а не сам вход.
Переключает ли шлюз модели автоматически?
Зависит от реализации и конфигурации. До подключения уточните условия переключения, резервные модели, пороги тайм-аута и правила биллинга и проведите практическую отработку. Не предполагайте, что функция включена по умолчанию.
Что делать при ограничении скорости?
Сначала различите 1302 и 1305. При лимите аккаунта снижайте параллелизм, ставьте запросы в очередь или запрашивайте повышение квоты; при перегрузке платформы используйте задержку и повтор, чтобы частые попытки не усилили перегрузку.
Как оформить счета и договор?
Сторона выставления счёта у официального сервиса и шлюза различается. До закупки уточните сторону договора, тип счёта, налоговую ставку и сроки оплаты, чтобы путь платежа совпадал с плательщиком по документам.
