Whisper API обычно означает хостинговый интерфейс транскрибации от OpenAI. Команды хотят его заменить по практическим причинам: в аудио есть клиентские данные, которые не должны покидать страну; длинные записи постоянно упираются в тайм-аут; при росте параллелизма появляются очереди; или расходы хочется перевести с «оплаты за минуту» на собственное железо. Но альтернатива — не только «развернуть свой Whisper».

Ниже три группы вариантов: self-hosted open source, речевые API облачных провайдеров, агрегирующие шлюзы и специализированные речевые модели. Сравниваем по шести измерениям — точность, языковое покрытие, задержка, приватность, стоимость и эксплуатация — и в конце даём таблицу сценариев и чек-лист миграции.

Примечание: OpenAI и Whisper — товарные знаки соответствующих правообладателей; статья носит технический характер и не подразумевает аффилированность или агентские отношения с этими компаниями. Модели, ограничения интерфейсов и методики тарификации могут меняться; ориентируйтесь на официальную документацию и материалы на сайте, а цены — на страницу тарифов.

1. Определите, какой слой вы заменяете

Термин «Whisper API» часто смешивают, хотя здесь как минимум три слоя:

  • Слой модели: Whisper — открытая модель распознавания речи от OpenAI с разными размерами, её можно развернуть самостоятельно.
  • Слой интерфейса: /v1/audio/transcriptions OpenAI предоставляет хостинговую транскрибацию с оплатой по длительности и лимитом на файл.
  • Слой доступа: шлюз приводит аудиоинтерфейс к OpenAI-совместимому протоколу, чтобы при смене поставщика не менять бизнес-код.

Если нестабильна только сеть, достаточно поменять слой доступа; если данные не могут покидать внутреннюю сеть, нужен слой модели; если плохо распознаются лишь отдельные языки, возможно, хватит другой модели или постобработки. Сначала локализуйте проблему — это сэкономит много времени.

2. Вариант первый: self-hosted Whisper

Обычно разворачивают faster-whisper, whisper.cpp или WhisperX, выбирая модель от tiny до large по видеопамяти и задержке. На GPU крупные модели дают лучшую пропускную способность; на CPU работают небольшие, но длинное аудио идёт заметно медленнее.

Плюсы очевидны: аудио не покидает внутреннюю сеть, нет оплаты за минуту, работа офлайн, модели и параметры настраиваются самостоятельно. Минусы тоже:

  • нужно обслуживать GPU, драйверы, файлы моделей и сервис инференса;
  • при росте параллелизма очередь, лимиты и масштабирование делать самому;
  • качество на шуме, акцентах и терминах нужно оценивать и настраивать;
  • на тишине возможны повторы или выдуманный текст, нужна постобработка;
  • обновления версий, мониторинг и диагностика — постоянные затраты.

Self-hosted подходит командам с чувствительным аудио, большим стабильным объёмом или требованиями к офлайн-работе. При малом объёме экономия на интерфейсе обычно не покрывает эксплуатацию.

3. Вариант второй: речевые API облачных провайдеров

Azure, Google Cloud, AWS, а также китайские Alibaba Cloud, Tencent Cloud, iFlytek и другие предлагают распознавание речи. У них обычно есть региональные узлы, SLA, потоковое распознавание, разделение говорящих и комплаенс-документы; по китайскому языку и диалектам у каждого свой опыт.

При выборе уточните: интерфейс синхронный, асинхронный или потоковый; длинное аудио идёт через транскрибацию файла или через фрагменты; поддерживаются ли тайм-коды, пунктуация и словари; политика хранения и трансграничной передачи; удобство SDK и аутентификации. Модели и возможности сильно различаются, нельзя ориентироваться только на рекламные цифры точности.

Цена — привязка: протокол, коды ошибок и биллинг у каждого свои, при миграции придётся менять код. Если бизнес уже активно использует OpenAI-совместимые интерфейсы, переход на SDK облачного провайдера потребует заметной переделки.

4. Вариант третий: агрегирующий шлюз и специализированные речевые модели

Идея агрегирующего шлюза — сохранить один OpenAI-совместимый вход, за которым подключено несколько сервисов транскрибации. Для бизнеса остаются тот же endpoint и то же управление ключами, а при смене поставщика меняется конфигурация, а не код. Шлюз обычно даёт статистику расхода, квоты участников, журналы и повторы при сбоях.

Такая схема подходит командам, уже использующим AI-шлюз и желающим объединить биллинг и права. Перед выбором уточните три вещи: действительно ли поддерживается загрузка аудио, каковы лимит файла и тайм-аут, как тарифицируются неудачные запросы. С методикой тарификации ZSQH AI Gateway можно ознакомиться на странице тарифов, регистрация — здесь.

Другая группа — специализированные речевые провайдеры вроде Deepgram, AssemblyAI и ElevenLabs: они могут быть сильнее в реальном времени, разделении говорящих или отдельных языках, но требуют отдельного подключения и оценки.

5. Как сравнивать по шести измерениям

Точность: не смотрите на общие рейтинги; соберите тестовый набор из 30–50 фрагментов своего бизнеса и считайте долю ошибок, имена собственные, числа, пунктуацию и поведение на тишине.

Языковое покрытие: у семейства Whisper хорошие мультиязычные способности, но малые языки и акценты различаются; китайские провайдеры могут быть устойчивее на диалектах. Тестируйте на реальных языках.

Задержка: для файловой транскрибации важны время до первого символа и общее время, для субтитров — потоковая задержка. Для длинного аудио смотрите политику очереди и P95, а не среднее.

Приватность: self-hosted оставляет данные во внутренней сети; у облака смотрите хранение, использование для обучения, трансграничную передачу и удаление; через шлюз аудио и текст тоже видны шлюзу.

Стоимость: учитывайте повторы, сбои, хранение, полосу и труд людей.

Месячная стоимость ≈
  минуты аудио × ставка за минуту
+ минуты сбоев и повторов × ставка
+ часы GPU при self-hosted × ставка
+ хранение, полоса и эксплуатация
+ тесты миграции и параллельная работа

Эксплуатация: для self-hosted нужны дежурные; у облака смотрите SLA и тикеты; у шлюза — прозрачность ошибок и скорость возврата на резерв.

6. Выбор по сценарию

Сценарий Приоритетный вариант Причина и на что смотреть
В аудио клиентские данные, вывоз запрещён Self-hosted или частное облако Границы данных понятнее, но примите затраты на GPU и эксплуатацию
Китайские протоколы совещаний, нужно разделение говорящих Облачный провайдер или специализированная модель Сначала тестируйте диалекты, наложение речи и нескольких говорящих
Есть OpenAI-совместимый код, нужен быстрый переход Агрегирующий шлюз Достаточно конфигурации; проверьте лимит загрузки и биллинг
Большие офлайн-объёмы, важна стоимость Self-hosted или пакетный интерфейс Сглаживайте пики очередью, сначала оцените загрузку GPU
Субтитры в реальном времени, контроль качества поддержки Потоковый речевой сервис Файловая транскрибация не подходит для низкой задержки
Много языков, состав не фиксирован Мультиязычная модель семейства Whisper Выборочная оценка по каждому языку, а не общий показатель

7. Как проверить точность

Подготовьте набор с выверенным вручную текстом, покрывающий тихие записи, шумную среду, телефонное качество, акценты, термины и смешение языков. Для китайского считайте долю ошибок в символах, для английского — в словах, отдельно числа, имена, топонимы и пунктуацию. Обязательно проверьте тишину и чисто музыкальные фрагменты на повторяющиеся «галлюцинации». Для тайм-кодов уточните, на уровне слов или сегментов они нужны и остаются ли непрерывными после нарезки.

8. Чек-лист миграции

  1. Инвентаризируйте текущие вызовы: интерфейсы, модели, форматы аудио, среднюю длительность, пиковый параллелизм и минуты в месяц.
  2. Создайте тестовый набор и базовую линию: текущая доля ошибок, задержка P95 и доля сбоев.
  3. Выберите вариант и сначала запустите малый трафик параллельно, не переключайте всё сразу.
  4. Сделайте адаптер на слое доступа, сведя различия поставщиков к одному внутреннему интерфейсу.
  5. Обработайте лимиты загрузки, тайм-ауты, фрагменты и повторы, добавьте очередь сбоев.
  6. Сверьте методику биллинга, настройте оповещения о расходе и лимит бюджета.
  7. Сохраните переключатель отката и отключайте старый канал через одну–две недели наблюдения.

9. Частые вопросы

Можно ли полностью заменить Whisper API открытым Whisper?

Интерфейс заменить можно, но качество и стоимость не обязательно эквивалентны. Открытая модель убирает плату за минуту, но добавляет железо и эксплуатацию; хостинговый интерфейс снимает эксплуатацию, но зависит от лимитов загрузки и сети. Решайте после тестов на своём аудио.

Какое железо нужно для self-hosted Whisper?

Зависит от размера модели и параллелизма. Небольшие модели работают на CPU, крупным обычно нужна видеопамять; для длинного аудио и высокой параллельности учитывайте батчинг и очередь. Сначала проведите нагрузочный тест на целевом железе, а не только читайте спецификации.

Облачное распознавание всегда точнее Whisper?

Нет. В общих сценариях, китайских диалектах и реальном времени силы различаются; нужна оценка на бизнес-аудио. Тестовый набор провайдера обычно отличается от вашего.

На что обратить внимание при вызове аудиоинтерфейса через шлюз?

Уточните поддержку multipart-загрузки, лимит файла, тайм-аут и стратегию повторов, а также тарификацию неудачных запросов. Аудио — чувствительные данные, поэтому спросите о хранении журналов и удалении.

Что чаще всего упускают при миграции?

Сборку тайм-кодов после нарезки, сопоставление кодов ошибок и сверку счетов. Первые два влияют на функции, третья — на стоимость, и обычно проявляются только после переключения трафика.

Если нужно сначала проверить транскрибацию через совместимый вход, начните с регистрации; конкретные квоты и тарификация — на странице тарифов и в материалах сайта.

Что читать дальше: