„API-Relay“ ist eine im chinesischen Entwicklerumfeld gebräuchliche Bezeichnung. Im Kern handelt es sich um eine KI-API-Gateway-Schicht, die Modelle von OpenAI, Claude, Gemini, DeepSeek und anderen unter einer Schnittstelle bündelt und Keys, Abrechnung und Protokollierung vereinheitlicht.

Dieser Artikel betrachtet das Thema aus Sicht von Einkauf und Auswahl: Wie bewertet man ein API-Relay, wie vergleicht man Preise, welche Compliance-Fragen sind zu stellen und wie testet man vor dem Produktivstart?

Hinweis: Alle genannten Marken sind Marken ihrer jeweiligen Inhaber. Dieser Artikel dient der technischen Diskussion; für Preise und Richtlinien sind die offiziellen Seiten der jeweiligen Plattformen maßgeblich.

1. Welche Probleme ein API-Relay löst

  • Der Zugang zu ausländischen Modellen ist aus dem Inland instabil.
  • Mehrere Anbieter, mehrere Keys und mehrere Abrechnungssysteme.
  • Teams benötigen Kontingente auf Mitglieds- und Projektebene.
  • Einheitliche Protokolle und Unterstützung bei der Fehlersuche werden benötigt.
  • Modelle sollen schnell gewechselt werden können.

Ein Relay produziert keine Modelle und verändert deren Fähigkeiten nicht. Sein Wert liegt in einer stabilen, transparenten und verwaltbaren Zugangsschicht. Wer diese Schicht auswählt, trifft damit auch eine Entscheidung über Abhängigkeiten: Fällt der Anbieter aus, sind alle darüber angebundenen Modelle betroffen.

2. Die acht Auswahlkriterien

Kriterium Was zu klären ist
Modellabdeckung Sind die benötigten Modelle und Versionen vollständig verfügbar?
Protokollkompatibilität OpenAI und Anthropic, Streaming, Tool-Aufrufe
Stabilität Fehlerrate, P95, Rate-Limits, Wiederholungen
Abrechnung Eingabe, Ausgabe, Caching, Multiplikatoren, Mindestumsatz
Kontingente Limits für Mitglieder, Keys und Projekte
Protokolle Token, Dauer und Fehler jeder Anfrage
Support Dokumentation, Ticketsystem, Rechnungen
Compliance Datenaufbewahrung, Verträge, Datenverarbeitungsbedingungen

3. Wie Sie Preise vergleichen

Schauen Sie nicht nur auf den „Preis pro Million Token“. Rechnen Sie Folgendes ein:

Monatskosten =
  Eingabe-Token × Eingabepreis
+ Ausgabe-Token × Ausgabepreis
+ Wiederholungen/fehlgeschlagene Anfragen
+ Zusatzkosten für langen Kontext
+ multimodale Eingaben

Vergleichen Sie anschließend Multiplikatoren, Mindestumsätze, Rückerstattungsregeln und Rechnungsstellung der Anbieter.

4. Welche Compliance-Fragen Sie stellen sollten

Beim Unternehmenseinkauf sollten Sie mindestens klären:

  1. Werden Anfragen und Antworten gespeichert? Wie lange?
  2. Werden Daten für das Training verwendet?
  3. Lässt sich eine Datenverarbeitungsvereinbarung oder ein Vertrag abschließen?
  4. Welcher Rechnungstyp und welche Abrechnungsperiode gelten?
  5. Verfügt der Upstream-Anbieter über die erforderlichen Rechte? Erlauben die Nutzungsbedingungen Weiterverkauf oder Proxy-Betrieb?
  6. Wie wird bei einem Datenleck informiert?

5. Tests vor dem Produktivstart

  1. Nicht-streamingbasierte und streamingbasierte Anfragen.
  2. Tool-Aufrufe und strukturierte Ausgaben.
  3. Langer Kontext.
  4. 5, 10 und 20 gleichzeitige Anfragen.
  5. Fehlercodes 401, 404, 429 und 5xx.
  6. Abrechnung mit festen Testanfragen abgleichen.
  7. Drei bis sieben Tage kontinuierlich beobachten.

6. Häufige Fallstricke

  • Nur ein Teil der Modelle wird unterstützt und kann jederzeit entfallen.
  • Niedriger Preis, aber strenge Rate-Limits und hohe Wiederholungskosten.
  • Veraltete Modellnamen führen plötzlich zu 404 im Produktivbetrieb.
  • Keys ohne Limit werden durch Skripte schnell aufgebraucht.
  • Keine Rechnungen oder Verträge, sodass Unternehmen nicht abrechnen können.
  • Unklare Datenbedingungen und damit hohe Compliance-Risiken.

7. Selbst bauen oder Service kaufen

Wenn Sie ein technisches Team haben und Datenkontrolle oder tiefgehende Anpassungen benötigen, können Sie New API, One API oder LiteLLM selbst betreiben. Fehlt die Kapazität für den Betrieb, ist ein verwalteter Dienst einfacher. Hinweise zur Auswahl finden Sie in unserem Leitfaden zur LLM-API-Plattform.

Häufige Fragen

Es handelt sich zunächst um einen Gateway- oder Proxy-Dienst. Ob er zulässig ist, hängt von der Autorisierung des Upstreams, der Datennutzung und den lokalen Vorschriften ab. Unternehmen sollten vor der Nutzung Bedingungen und Verträge prüfen.

Sieht das Relay meine Daten?

Das hängt von der Architektur ab. Fragen Sie, ob Daten gespeichert werden, wie lange und ob sie für das Training verwendet werden.

Warum sind manche Relays sehr günstig?

Mögliche Gründe sind Aktionen, gemeinsam genutzte Kontingente, Caching, schwächere Upstreams oder versteckte Einschränkungen. Testen Sie zuerst mit kleinem Volumen.

Nächster Schritt

Wenn Sie einen aus dem Inland erreichbaren, OpenAI-kompatiblen und nutzungsabhängig abgerechneten Einstiegspunkt benötigen, können Sie sich zunächst beim ZSQH AI Gateway registrieren und mit einem Key mit kleinem Volumen testen. Modelle und Preise finden Sie unter Modellpreise.

Weiterlesen: