«API-релей» — распространённое в Китае название прослойки AI API-шлюза: OpenAI, Claude, Gemini, DeepSeek и другие модели сводятся к одному интерфейсу с едиными ключами, биллингом и журналами.

Ниже — как оценивать такой сервис с точки зрения закупки, как сравнивать цены, какие вопросы задавать по комплаенсу и как тестировать перед запуском.

Примечание: все упомянутые бренды — товарные знаки соответствующих правообладателей. Материал носит технический характер; цены и политики смотрите на сайтах платформ.

1. Какие задачи решает API-релей

  • Нестабильный доступ к зарубежным моделям из Китая.
  • Много поставщиков, ключей и отдельных счетов.
  • Нужны лимиты на уровне участников и проектов.
  • Нужны единые журналы и разбор ошибок.
  • Нужно быстро переключать модели.

Сервис не производит модели и не меняет их возможности; его ценность — в стабильном, прозрачном и управляемом слое доступа. Отдельный плюс — возможность быстро отключить проблемный канал, не меняя код приложения. Это особенно важно, когда поставщик меняет условия или модель выводится из эксплуатации.

2. Восемь критериев выбора

Критерий Что уточнить
Покрытие моделей Все ли нужные модели и версии доступны
Совместимость протоколов OpenAI/Anthropic, потоковый вывод, вызов инструментов
Стабильность Доля ошибок, P95, ограничения, повторы
Биллинг Вход, выход, кеш, коэффициенты, минимальный расход
Лимиты Ограничения для участников, ключей и проектов
Журналы Токены, время и ошибки каждого вызова
Поддержка Документация, тикеты, счета
Комплаенс Хранение данных, договор, условия обработки

Оценивайте критерии по фактическим данным: попросите пример журнала, статистику за месяц и описание обработки ошибок. Страница с тарифами не показывает, что происходит при 429 и как быстро отвечает поддержка.

3. Как сравнивать цены

Не смотрите только на цену за миллион токенов. Учитывайте:

Месячная стоимость =
  входные токены × цена входа
+ выходные токены × цена выхода
+ повторные/неуспешные запросы
+ дополнительные расходы на длинный контекст
+ мультимодальные входы

Затем сравните коэффициенты, минимальный расход, правила возврата и счета у разных поставщиков.

4. Какие вопросы задать по комплаенсу

Для корпоративной закупки как минимум выясните:

  1. Сохраняются ли запросы и ответы? Как долго?
  2. Используются ли данные для обучения?
  3. Можно ли подписать соглашение об обработке данных или договор?
  4. Какой тип счёта и каков срок выставления?
  5. Есть ли у поставщика права на перепродажу или представление моделей и допускают ли условия upstream такую схему?
  6. Как уведомляют об утечке данных?

5. Тесты перед запуском

  1. Запросы без потока и с потоком.
  2. Вызов инструментов и структурированный вывод.
  3. Длинный контекст.
  4. 5, 10 и 20 параллельных запросов.
  5. Коды 401, 404, 429 и 5xx.
  6. Сверка счёта на фиксированном наборе запросов.
  7. Наблюдение 3–7 дней.

Если тест выявил единичные сбои, выясните их причину: сеть, upstream или сам шлюз. Для повторяющихся ошибок зафиксируйте время и идентификатор запроса — это ускорит разбор.

6. Типичные ловушки

  • Поддержка только части моделей, которые могут исчезнуть в любой момент.
  • Низкая цена при жёстких ограничениях частоты и дорогих повторах.
  • Устаревшие имена моделей и внезапные 404 в продакшене.
  • Ключи без лимитов, которые выжигает скрипт.
  • Отсутствие счетов и договора — компания не сможет провести расход.
  • Размытые условия обработки данных и высокий комплаенс-риск.

7. Собственный шлюз или готовый сервис

Если есть техническая команда и нужен контроль над данными или глубокая кастомизация, можно развернуть New API, One API или LiteLLM самостоятельно. Если нет ресурсов на эксплуатацию, проще взять управляемый сервис. Подробнее о критериях — в статье Как выбрать платформу LLM API.

Гибридный вариант — собственный шлюз для чувствительных данных и внешний сервис для остальных задач — встречается чаще, чем полностью самостоятельная инфраструктура.

Частые вопросы

Законен ли API-релей?

Сам по себе это шлюз или прокси-сервис; соответствие требованиям зависит от прав upstream, обработки данных и местного законодательства. До корпоративного использования проверьте условия и договор.

Видит ли релей мои данные?

Зависит от архитектуры. Уточните, сохраняются ли данные, как долго и используются ли для обучения.

Почему некоторые релеи такие дешёвые?

Причинами могут быть акции, общие лимиты, кеш, слабый upstream или скрытые ограничения. Сначала тестируйте на малом трафике.

Что дальше

Если нужен доступный из Китая, совместимый с OpenAI интерфейс с оплатой по факту, зарегистрируйтесь в ZSQH AI Gateway и проверьте его на ключе с небольшим лимитом. Модели и цены — на странице тарифов.

Похожие материалы: