Транзит и прокси Qwen API — это не просто «другой адрес». При выборе нужно ответить на четыре вопроса: как считаются деньги, стабильна ли сеть, кто отвечает за сбои, соблюдаются ли требования к ключам и данным.

Ниже сравниваются четыре схемы, приведены порядок сверки биллинга, проверка стабильности и чек-лист миграции. Цены — по странице цены на модели.

Примечание: Qwen, Tongyi Qianwen, Alibaba Cloud, Bailian и DashScope — товарные знаки Alibaba Group и связанных компаний. Статья носит технический характер и не подразумевает аффилированности или агентских отношений с Alibaba Group. Рынок транзитных сервисов меняется быстро; статья описывает типичные формы на октябрь 2026 года и не является рекомендацией конкретного поставщика.

1. Сначала определения: транзит, прокси и шлюз — не одно и то же

  • API-транзит: пересылает запросы upstream и может добавлять биллинг, лимиты и журналы. Некоторые «транзиты» — лишь общий или перепродаваемый ключ, и стабильность зависит от оператора.
  • Сетевой прокси: HTTP, SOCKS или обратный прокси решает только задачу доступности; ключ остаётся вашим.
  • Собственный прокси: вы разворачиваете обратный прокси или открытый шлюз и сами управляете ключами, журналами и маршрутизацией, но аккаунт upstream и эксплуатацию берёте на себя.
  • Единый AI-шлюз: OpenAI-совместимый вход, объединяющий несколько моделей, с едиными ключами, счетами и консолью.

Если смешать четыре понятия, сетевую проблему легко принять за проблему модели. До договора уточните: какой уровень сервиса предоставляется и кому принадлежит ключ.

2. Четыре схемы в одной таблице

Критерий Прямое подключение Собственный прокси Коммерческий транзит Единый AI-шлюз
Прозрачность биллинга Счёт Alibaba Cloud Счёт upstream плюс затраты Зависит от оператора, нужна сверка Единый счёт в кабинете
Стабильность сети Зависит от локального выхода Зависит от сервера и линии Зависит от линии транзита Зависит от шлюза и upstream
Лимиты и параллелизм RPM/TPM уровня аккаунта Свой контроль, но лимиты upstream действуют Возможен общий пул, нужно уточнять По правилам шлюза и тарифа
Покрытие моделей Qwen и модели Bailian Зависит от upstream Шире, требуется проверка Несколько моделей, см. страницу цен
Риск ключа Ключ у вас Ключ у вас Возможны общий доступ или перепродажа Обычно выдаётся отдельный ключ

Если используется только Qwen, а сеть и оплата работают нормально, выбирайте прямое подключение. Нужны фиксированный выход и аудит — собственный прокси. Нет ресурсов на эксплуатацию — оценивайте коммерческий транзит. Нужны несколько моделей и единый счёт — смотрите на шлюз.

3. Биллинг: не смотрите только на «коэффициент»

Типичное предложение транзита — «официальная цена умножается на коэффициент» или «пакет токенов». Низкий коэффициент не означает низкую итоговую стоимость. Как минимум уточните:

  1. Раздельно ли тарифицируются вход и выход и одинаков ли коэффициент.
  2. Есть ли скидка на вход при попадании в кэш и как она считается.
  3. Включаются ли reasoning-токены thinking в оплату выхода.
  4. Тарифицируются ли неудачные и повторные запросы.
  5. Полностью ли возвращается usage при стриминге.
  6. Есть ли минимальная сумма пополнения, срок действия и правила возврата.
  7. Выставляются ли счета, какая валюта расчётов и кто эмитент.
  8. Можно ли разбить расход по проектам, ключам и моделям.

В Bailian Qwen тарифицируется по токенам, вход и выход считаются раздельно, часть моделей поддерживает кэш контекста и скидку Batch. Если транзит даёт только «сводный коэффициент», различия трудно проверить; реальную стоимость покажет прогон одной и той же партии запросов.

4. Стабильность: проверяйте данными, а не рекламой

Смотрите как минимум шесть метрик: доля успеха, задержка P50/P95, время до первого токена, доля тайм-аутов, доля 429 и скорость вывода. Тестируйте реальными промптами, покрывая стриминг, длинный контекст и параллелизм, и сравнивайте с прямым подключением как базовой линией.

import os
import time
from openai import OpenAI

prompt = "Опишите в 200 словах основные этапы исполнения заказов в трансграничной электронной коммерции."
targets = {
    "direct": OpenAI(
        api_key=os.environ["DASHSCOPE_API_KEY"],
        base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
        max_retries=0,
        timeout=60,
    ),
    "relay": OpenAI(
        api_key=os.environ["RELAY_API_KEY"],
        base_url=os.environ["RELAY_BASE_URL"],
        max_retries=0,
        timeout=60,
    ),
}

for name, client in targets.items():
    start = time.perf_counter()
    try:
        resp = client.chat.completions.create(
            model=os.environ["QWEN_MODEL"],
            messages=[{"role": "user", "content": prompt}],
            max_tokens=512,
        )
        ms = (time.perf_counter() - start) * 1000
        print(name, f"{ms:.0f}ms", resp.model, resp.usage)
    except Exception as exc:
        print(name, type(exc).__name__, exc)

Это минимальный зонд, а не нагрузочный тест. Рекомендуется наблюдать семь дней подряд, прогоняя замеры в пиковые и непиковые часы. У коммерческого транзита смотрите вечерний пик и длинные запросы; у собственного прокси — выход и лимиты upstream; у шлюза — прозрачность переключения и сходимость счетов.

5. Риски ключей и комплаенс: важнее цены

Самое частое упущение — принадлежность ключа. Общие или перепродаваемые ключи и квоты неизвестного происхождения несут четыре риска:

  • при блокировке или изменении квоты upstream бизнес останавливается, а апелляция затруднена;
  • несколько арендаторов используют один ключ, лимиты и сбои влияют друг на друга;
  • запросы проходят через третью сторону, а журналы и политика хранения непрозрачны;
  • перепродажа или общий доступ могут нарушать условия, и при споре не будет договорной основы.

Ключ Bailian привязан к региону; вызов из другого региона вернёт 401. Если транзит не указывает регион upstream, вы не можете понять, где хранятся данные, и не сможете построить региональное резервирование.

При выборе поставщика уточните хотя бы юридическое лицо, условия сервиса, политику конфиденциальности, счета и контакт для сбоев. Не отправляйте запросы с персональными данными, секретами или текстом договора, если поставщик не объясняет путь данных. В строго регулируемых сценариях сначала оценивайте прямое подключение, частное развёртывание или возможность подписать соглашение об обработке данных.

6. Лимиты и переключение при сбоях: транзит не равен высокой доступности

Лимиты Bailian применяются на уровне основного аккаунта Alibaba Cloud: все ключи одного аккаунта делят квоту, а для разных моделей заданы отдельные RPM и TPM. Если транзит обслуживает многих клиентов через один upstream-аккаунт, в пиковые часы вероятность 429 выше, а занятость пула вы не видите.

До подключения задайте четыре вопроса: используется ли для каждого клиента отдельный upstream-аккаунт или ключ; лимиты считаются на клиента или на весь пул; при 429 запрос ставится в очередь, возвращается ошибка или меняется модель; уведомляют ли о смене модели и по какой модели тарифицируют.

Для переключения при сбоях определите триггеры: серия тайм-аутов, рост доли 5xx или превышение задержки первого байта. Резервную модель оцените заранее, переключение должно сопровождаться предохранителем и полуоткрытой проверкой. Транзит может молча подменить модель: качество падает, а счёт остаётся прежним. Требуйте белый список моделей, журнал переключений и детализацию расхода.

7. Чек-лист миграции: с прямого подключения на транзит или шлюз

  1. Зафиксируйте текущее состояние: долю успеха, задержку P50/P95, расход токенов и счета.
  2. Инвентаризируйте ID моделей и параметры: стриминг, tools, JSON-вывод, thinking.
  3. Создайте тестовый и производственный ключи с отдельными бюджетами и оповещениями.
  4. Измените только base_url и api_key, прогоните минимальный запрос в предпродакшене.
  5. Воспроизведите реальные промпты, сравните качество, время и usage.
  6. Проверьте сопоставление 401, 402, 429, 5xx и тайм-аутов; убедитесь, что повторы не усиливают сбой.
  7. Пустите 5–10% трафика на 3–7 дней, сохранив прямое подключение для отката.
  8. После полного переключения сверяйте счета неделю и подтвердите соответствие расходу.

При миграции не меняйте одновременно модель, промпты и шлюз, иначе причину не определить. Меняйте по одной переменной.

8. Как проверить надёжность транзита

Поле model может быть переписано, поэтому надёжнее комбинированная проверка:

  • Задержка: повторяйте один промпт и сравнивайте P50/P95; если сервис долго медленнее прямого подключения — это тревожный знак.
  • Доля ошибок: считайте 429, 5xx и тайм-ауты; концентрация сбоев в пик говорит о нехватке ёмкости.
  • Расход: сравнивайте usage в ответе с счётом; расхождение или отсутствие usage при стриминге — аномалия.
  • Идентичность модели: сравнивайте границы возможностей и стиль вывода на фиксированном наборе тестов.
  • Изоляция ключей: подтвердите отдельный ключ, возможность ротации и понятный регион.
  • Договор и поддержка: проверьте субъект, условия, счета и механизм выхода.

Красные флаги: цена значительно ниже официальной, обещание «нулевых сбоев», отказ предоставить детализацию расхода, требование передать официальный ключ, отсутствие информации о месте хранения данных. В таких случаях сначала проверяйте на малом трафике и не мигрируйте всё сразу.

9. Когда лучше собственный прокси

Собственный прокси подходит командам с инженерными ресурсами: нужен фиксированный выходной IP, единый аудит, маршрутизация между несколькими upstream или полный контроль над ключами. Типовая схема — обратный прокси с управлением ключами, лимитами, журналами и оповещениями, при этом upstream остаётся официальным аккаунтом.

Затраты нужно учитывать: сервер, трафик, сертификаты, обновления и дежурство. Без эксплуатационной команды собственный прокси часто дороже и не обходит лимиты и условия upstream.

10. Рекомендации по выбору

Сначала оцените сеть и оплату: если вход стабильно доступен и пополнение проходит, выбирайте прямое подключение. Затем контроль и охват моделей: нужны фиксированный выход, аудит и частные ключи — рассматривайте собственный прокси; нужен один вход для нескольких моделей — смотрите на единый шлюз. В конце оцените сервис: понятны ли субъект, условия, счета и политика данных.

Если нужен единый вход для нескольких моделей, создайте тестовый ключ в ZSQH AI Gateway, прогоните цепочку и только затем мигрируйте; цены и доступные модели — на странице цены на модели. Учитывайте также стоимость миграции и сбоев.

Часто задаваемые вопросы

Чем транзит Qwen API отличается от прямого подключения к Bailian?

Прямое подключение обращается к Alibaba Cloud Bailian напрямую: ключ, счета и лимиты находятся в вашем аккаунте. Транзит добавляет посредника: принадлежность ключа, пул лимитов и путь данных зависят от оператора.

Транзит считает по «коэффициенту» — как сверять?

Запросите детализацию по моделям и отдельно по входу и выходу, затем прогоните одну партию запросов напрямую и через транзит, сравнив число токенов и стоимость. Уточните правила кэша, Batch и usage при стриминге.

Можно ли собственным прокси обойти лимиты Bailian?

Нет. Прокси меняет только путь запроса; upstream по-прежнему применяет RPM/TPM к аккаунту Alibaba Cloud. Собственный прокси решает задачи выхода, аудита и управления ключами, но не расширяет квоту.

Влияет ли смена модели в транзите на качество вывода?

Да. Границы возможностей и стиль разных моделей отличаются, а молчаливая подмена делает результаты несопоставимыми. До подключения зафиксируйте белый список моделей и условия переключения, регулярно проверяйте фиксированным набором тестов.

Как снизить риск перерыва при миграции?

Сохраните прямое официальное подключение для отката, сначала пустите 5–10% трафика на 3–7 дней; вынесите Base URL, ключ и название модели в конфигурацию; настройте предохранитель и задержку для 429 и 5xx, заранее отрепетируйте обратное переключение.

Похожие материалы