В 2026 году разговор о «доступе к Llama API из Китая» начинается не с выбора маршрута, а с уточнения, о каком уровне идёт речь: о собственном хостинговом интерфейсе Meta или об «API, который вызывает модели Llama». Первый уже отключён, у второго остаётся несколько путей. Это напрямую влияет на закупку, миграцию и оценку соответствия требованиям.
Ниже сравниваются сеть, оплата и счета, соответствие, оборудование и переключение при сбоях, а также приводится чек-лист проверки перед запуском.
Примечание: Meta, Llama и Llama 4 — товарные знаки Meta Platforms, Inc.; названия AWS, Azure, Google Cloud, Oracle и других принадлежат их правообладателям. Материал носит технический характер, не означает аффилированности или сотрудничества с перечисленными компаниями и не является юридической консультацией. Модели, регионы и цены определяются официальной документацией платформ и страницей цены; цены могут меняться.
1. Уточним: что такое «Llama API» в 2026 году
В 2025 году Meta представила публичную предварительную версию Llama API с собственным хостингом моделей Llama. Эта версия была отключена 6 июля 2026 года, и запросы на старый адрес получают уведомление о прекращении работы. Важно понимать: остановлен собственный хостинговый интерфейс Meta, а не сама модель.
Веса Llama по-прежнему доступны на странице загрузки Meta Llama и на Hugging Face и используются по лицензии сообщества Llama; AWS, Azure, Google Cloud и другие облачные платформы, а также ряд провайдеров инференса продолжают предлагать модели Llama. У Meta сейчас есть отдельный Model API для серии Muse Spark — это не та же продуктовая линейка, и при закупке не следует смешивать названия.
Поэтому сегодня команда из Китая, говоря «подключаем Llama API», обычно выбирает одну из трёх ролей: облачный хостинг, провайдер инференса или локальный шлюз, самостоятельный хостинг. Рассмотрим каждую.
2. Маршрут первый: облачный хостинг
Основные варианты — AWS Bedrock, Azure AI Foundry, Google Cloud Vertex AI Model Garden; некоторые команды также рассматривают Oracle OCI Generative AI. Их общая черта: аккаунт, права, аудит и счета привязаны к облачному аккаунту, что подходит командам с уже действующим облачным договором и обязательствами по объёму.
Нужно учитывать три момента. Во-первых, регионы и модели синхронизируются не полностью: доступность Llama 4 Scout, Maverick и других моделей в конкретных регионах проверяйте по региональному каталогу каждой облачной платформы. Во-вторых, интерфейсы различаются: в Bedrock обычно используют Converse или InvokeModel, у Azure и Vertex свои SDK, а OpenAI-совместимый слой часто приходится добавлять самостоятельно или через шлюз. В-третьих, оплата чаще идёт в иностранной валюте, а юридическое лицо, валюта и сроки платежа зависят от способа заключения договора.
У облачных провайдеров более полные материалы по соответствию, приватное подключение и корпоративная поддержка; цена этого — долгий процесс подключения и необходимость заранее согласовать межрегиональное размещение данных.
3. Маршрут второй: провайдеры инференса и локальные AI-шлюзы
К провайдерам инференса относятся Groq, Together AI, Fireworks, DeepInfra, OpenRouter и другие. Groq известен низкой задержкой; Together AI, Fireworks и DeepInfra предлагают оплату по факту или выделенное развёртывание; OpenRouter агрегирует нескольких поставщиков. Большинство предоставляет OpenAI-совместимый интерфейс, поэтому при миграции обычно меняются только Base URL, ключ и идентификатор модели.
Локальные AI-шлюзы сводят этих поставщиков в одну точку входа и предлагают пополнение в национальной валюте и управление ключами в личном кабинете. ZSQH AI Gateway относится к этой категории, регистрация — на странице регистрация; доступные модели, контекст и тарификация определяются списком моделей и страницей цены. При выборе шлюза уточняйте: кто вышестоящий поставщик, применяется ли квантование, как тарифицируются неудачные запросы и сколько хранятся данные.
4. Маршрут третий: самостоятельный хостинг
Источник при самостоятельном хостинге — веса модели, а не некий API. Веса берут со страницы загрузки Meta Llama или с Hugging Face; распространённые фреймворки инференса — vLLM, SGLang, TGI, llama.cpp и Ollama. После выхода новой модели поддержка во фреймворках обычно появляется через одну-две версии, поэтому перед развёртыванием читайте примечания к версии.
Для оценки оборудования есть два грубых ориентира: веса BF16 занимают около 2 ГБ на каждый миллиард параметров, веса INT4 — примерно 0,5–0,6 ГБ на миллиард параметров, плюс запас на KV Cache, фреймворк и параллельные запросы. Meta приводит ориентир для Llama 4 Scout: одна H100 в режиме INT4; для Maverick нужен узел с несколькими H100; Llama 3.3 70B в BF16 также требует нескольких карт. Точные данные — в карточке модели и документации фреймворка.
Самостоятельный хостинг решает задачи размещения данных в собственном центре обработки, контроля версий и стабильной нагрузки; взамен вы берёте на себя GPU, драйверы, поддержку фреймворков, мониторинг, масштабирование и безопасность.
5. Три маршрута в одной таблице
| Критерий | Облачный хостинг | Провайдер инференса / локальный шлюз | Самостоятельный хостинг |
|---|---|---|---|
| Сетевая точка входа | Эндпоинт облачного региона, возможен приватный канал | Точка входа провайдера; локальный шлюз обычно доступен из страны | Собственный ЦОД или облачный сервер |
| Подключение и оплата | Облачный аккаунт, иностранная валюта или корпоративный договор | Регистрация и пополнение, чаще в национальной валюте | Закупка или аренда GPU плюс электроэнергия и эксплуатация |
| Счёт-фактура | По договору с облаком | По правилам провайдера | Своими силами |
| Данные и соответствие | Регионы, аудит и договорные материалы полнее | Зависит от провайдера, проверять по пунктам | Граница данных наиболее прозрачна |
| Контроль версий | Платформа решает, что подключить и отключить | Решает вышестоящий поставщик, нужна проверка соответствия | Веса фиксируются самостоятельно |
| Стоимость эксплуатации | Низкая | От низкой до средней | Высокая |
| Эластичность | Хорошая, ограничена квотами | Хорошая, ограничена лимитами поставщика | Зависит от собственных GPU |
| Кому подходит | Есть облачный договор, важны требования | Небольшие команды, нужен доступ к нескольким моделям | Чувствительные данные, стабильная нагрузка, компетенции по GPU |
6. Как проверить сеть, оплату и счета
«Соединение устанавливается» не означает «сервис стабильно вызывается». На трансграничном маршруте в вечерние часы растёт задержка, случаются тайм-ауты и обрывы потока. Смотрите время до первого байта, P95 общего времени, долю тайм-аутов и обрывов потока, а не один результат ping.
export LLAMA_BASE_URL="https://your-gateway.example.com/v1"
export LLAMA_API_KEY="sk-..."
curl -o /dev/null -sS \
-w "dns=%{time_namelookup}s tcp=%{time_connect}s tls=%{time_appconnect}s ttfb=%{time_starttransfer}s total=%{time_total}s code=%{http_code}\n" \
"$LLAMA_BASE_URL/models" \
-H "Authorization: Bearer $LLAMA_API_KEY"
Запускайте набор утром, днём и вечером несколько дней подряд. Медленный DNS указывает на разрешение имён, медленный TCP — на маршрут, медленный TLS — на рукопожатие, а медленный первый байт чаще означает очередь на стороне поставщика.
Оплату и счета нужно уточнить заранее: валюта, тип карты, возврат остатка, реквизиты для счёта, сроки платежа и минимальный расход. Запишите это в закупочную документацию, чтобы не обнаружить проблему с финансовым процессом после запуска.
7. Соответствие и лицензия: три отдельные проверки
Первая — соответствие сервиса. Предоставление генеративных AI-услуг населению может требовать регистрации или оценки безопасности по применимым правилам; требования к внутренним разработкам и внешнему бизнесу различаются, точные условия определяют регулятор и юристы.
Вторая — соответствие данных. Трансграничный вызов передаёт промпты и ответы за границу; вопрос о персональных или важных данных, необходимости договорных условий или оценки трансграничной передачи решается по применимому законодательству. Самостоятельный хостинг оставляет данные в своём ЦОД, но не обеспечивает соответствие автоматически.
Третья — лицензия модели. Лицензия сообщества Llama разрешает коммерческое использование, но содержит требования к допустимому использованию, наименованию и указанию авторства; при достижении определённого масштаба месячной аудитории (в лицензии Llama 4 указано 700 млн) нужно получать отдельную лицензию. Условия версий различаются, поэтому перед коммерческим использованием пусть юристы прочитают оригинал.
8. Переключение при сбоях: не полагайтесь на один канал
У любого поставщика бывают обслуживание, лимиты и региональные сбои. Рабочий подход: для каждого класса задач иметь основной и резервный источник и единую таблицу соответствия моделей; переключаться при неудачной проверке здоровья; задавать разумные тайм-ауты, экспоненциальную задержку с разбросом; использовать предохранитель против шторма повторов; при необходимости переходить на меньшую модель; фиксировать имя поставщика и request ID для сверки и диагностики.
Помните, что повтор может привести к повторной оплате: операции записи должны быть идемпотентными, а для потоковых запросов нужно сохранять уже выданную часть. Процесс переключения лучше отработать до аварии.
9. Чек-лист проверки перед запуском
- Перечислите нужные бизнесу модели Llama, длину контекста, вызов инструментов и требования к потоковой передаче.
- Убедитесь, что целевой поставщик доступен в нужном регионе, и зафиксируйте идентификатор и версию модели.
- Проверьте протокол: OpenAI-совместимый, собственный SDK или фирменный протокол облака.
- Прогоните оценку на реальных бизнес-примерах: точность, задержка P95 и доля ошибок.
- Сверьте уровень квантования, максимальный вывод, системные промпты и различия в фильтрации контента.
- Уточните оплату, счета, возвраты, лимиты и тарификацию неудачных запросов.
- Подтвердите хранение данных, журналы, трансграничную передачу и условия договора.
- Настройте переключение основной/резервный канал, тайм-ауты, повторы, бюджетные оповещения и журналы запросов.
- Запустите 1–2 недели на малой доле трафика, затем постепенно увеличивайте.
10. Частые вопросы
Можно ли ещё напрямую вызывать Llama API от Meta?
Нет. Публичная предварительная версия собственного Llama API от Meta была отключена 6 июля 2026 года. Веса Llama по-прежнему можно скачать и вызывать через сторонние облачные платформы, провайдеров инференса или собственный хостинг.
Обязательна ли регистрация для команд из Китая, вызывающих Llama?
Зависит от назначения. Внутренние разработки, внутренние инструменты и публичные услуги для населения подчиняются разным требованиям; для последних может потребоваться регистрация или оценка безопасности. Рекомендуется уточнить у юристов на этапе выбора решения.
Сколько видеокарт минимум нужно для самостоятельного хостинга Llama?
Единого ответа нет: всё зависит от размера модели, квантования, длины контекста и параллелизма. Начните с оценки «BF16 около 2 ГБ на миллиард параметров, INT4 около 0,5–0,6 ГБ», добавьте KV Cache и накладные расходы фреймворка; окончательно ориентируйтесь на карточку модели и документацию по видеопамяти.
Как выбрать между облаком, шлюзом и собственным хостингом?
Если есть облачный договор и важны материалы по соответствию — облако; если нужны счета в национальной валюте и быстрый доступ к нескольким моделям — локальный шлюз; если данные чувствительны, нагрузка стабильна и есть компетенции по GPU — собственный хостинг. Варианты можно комбинировать.
Отличается ли Llama в шлюзе от оригинальной?
Может отличаться. Одноимённая модель у разных поставщиков может иметь другой уровень квантования, длину контекста и даже дополнительную доработку или фильтрацию. Перед подключением проверьте её на наборе оценок и по метаданным интерфейса, а не только по названию.
Итог
Подключение Llama в 2026 году — это управление тремя цепочками поставок: облаком, шлюзом и собственным хостингом. Сеть нужно измерять, оплату и счета согласовывать заранее, соответствие и лицензию оценивать отдельно, а переключение при сбоях отрабатывать. Сначала проверьте на малом трафике, затем выбирайте долгосрочное решение.
Полезное чтение: Доступ к OpenAI API из Китая, Доступ к DeepSeek API из Китая, Цены на модели. Если нужна единая точка входа, начните со страницы регистрация, цены смотрите на странице цены.
