DeepSeek API über Relay oder Proxy wird oft als Kleinigkeit behandelt, bei der man „nur die Adresse austauscht“. Bei der Auswahl geht es tatsächlich um vier Fragen: Wie wird abgerechnet, wie stabil ist das Netz, wer ist bei Störungen verantwortlich, und sind Key- und Datenverarbeitung compliant?
Dieser Artikel vergleicht die gängigen Varianten und liefert Checklisten für Migration und Anbieterprüfung. Konkrete Preise, Modellnamen und Verfügbarkeit entnehmen Sie unseren Modellpreisen und den Angaben des Anbieters.
Hinweis: DeepSeek ist eine Marke ihres jeweiligen Inhabers; dieser Artikel steht in keiner Verbindung zu DeepSeek. Der Relay-Markt verändert sich schnell; der Beitrag beschreibt die übliche Lage im Oktober 2026 und ist keine Empfehlung für einen bestimmten Anbieter.
1. Zuerst definieren: Relay, Proxy und Gateway sind nicht dasselbe
- API-Relay: Leitet Anfragen an den Upstream-Modelldienst weiter und bietet möglicherweise Abrechnung, Limits und Logs. Einige „Relays“ im Markt sind lediglich geteilte oder weiterverkaufte Keys; Stabilität und Compliance hängen dann vom Betreiber ab.
- Netzwerk-Proxy: HTTP-, SOCKS- oder Reverse-Proxy, der nur die Erreichbarkeit herstellt und die API-Semantik nicht verändert. Der Key bleibt Ihr eigener.
- Eigener Proxy: Sie betreiben einen Reverse-Proxy oder ein Open-Source-Gateway auf einem eigenen Server und kontrollieren Keys, Logs und Routing. Upstream-Konto, Bandbreite und Betrieb tragen Sie selbst.
- Einheitliches KI-Gateway: OpenAI-kompatibler Zugang, der mehrere Modelle bündelt und einheitliche Keys, Abrechnung und Konsole bietet. Kommerzielle Gateways und selbst betriebene Open-Source-Lösungen können darunter fallen.
Wer diese vier Begriffe vermischt, hält Netzwerkprobleme leicht für Modellprobleme. Klären Sie vor Vertragsabschluss: Welche Ebene bietet der Anbieter, und wem gehört der Key?
2. Vier Varianten in einer Tabelle
| Dimension | Offizielle Direktanbindung | Eigener Proxy | Kommerzielles Relay | Einheitliches KI-Gateway |
|---|---|---|---|---|
| Preistransparenz | Offizielle Rechnung, klare Grundlage | Upstream-Rechnung plus eigene Kosten | Vom Betreiber abhängig, Abgleich nötig | Einheitliche Abrechnung, Preisregeln prüfen |
| Netzstabilität | Vom lokalen Ausgang abhängig | Von Server und Route abhängig | Von der Relay-Route abhängig | Von Gateway-Route und Upstream abhängig |
| Raten und Parallelität | Limits auf offizieller Kontoebene | Selbst kontrolliert, aber Upstream-limitiert | Möglicher gemeinsamer Pool, prüfen | Laut Gateway-Regeln und Tarif |
| Modellabdeckung | Nur DeepSeek | Vom angebundenen Upstream abhängig | Meist größer, muss geprüft werden | Mehrere Modelle, laut Preisübersicht |
| Key-Risiko | Key bleibt beim Team | Key bleibt beim Team | Möglicherweise geteilte oder weiterverkaufte Keys | Meist eigener Key pro Kunde |
| Betrieb und Support | Offizielle Dokumentation | Vollständig selbst | Von der Leistungsfähigkeit des Anbieters abhängig | Konsole, Tickets und Dokumentation |
Keine Variante passt für alle Teams. Wer nur DeepSeek nutzt und bei Netz und Zahlung keine Probleme hat, fährt mit der Direktanbindung am direktesten. Wer einen festen Ausgang und Auditierung braucht, prüft einen eigenen Proxy. Ohne Betriebspersonal ist ein kommerzielles Relay eine Option; für mehrere Modelle mit einheitlicher Abrechnung kommt ein Gateway infrage.
3. Preis: nicht nur den „Multiplikator“ ansehen
Relays werben häufig mit „offizieller Preis mal Multiplikator“ oder „Token-Paketen“. Ein niedriger Multiplikator bedeutet nicht automatisch niedrigere Gesamtkosten. Klären Sie mindestens acht Punkte:
- Werden Eingabe und Ausgabe getrennt berechnet, und gilt derselbe Multiplikator?
- Werden Eingaben mit Cache-Treffer vergünstigt, und wie wird der Rabatt berechnet?
- Werden durch Thinking erzeugte Reasoning-Tokens als Ausgabe gezählt?
- Werden fehlgeschlagene und wiederholte Anfragen berechnet?
- Wird
usagebei Streaming-Anfragen vollständig zurückgegeben? - Gibt es Mindestaufladung, Gültigkeitsdauer und Rückerstattungsregeln?
- Sind Rechnungen möglich, und welche Währung gilt für Abrechnung und Wechselkurs?
- Lassen sich Nutzung und Rechnung nach Projekt, Key und Modell aufschlüsseln?
Schreiben Sie diese Punkte in eine Vergleichstabelle und messen Sie anschließend mit derselben Anfragecharge; erst dann kennen Sie die tatsächlichen Kosten. Maßgeblich sind unsere Modellpreise und die Rechnung des Anbieters.
4. Stabilität: mit Daten prüfen, nicht mit Werbung
Für die Stabilität sind mindestens sechs Kennzahlen relevant: Erfolgsrate, P50/P95-Latenz, Latenz bis zum ersten Token, Timeout-Quote, 429-Anteil und Ausgabegeschwindigkeit. Testen Sie mit Prompts realistischer Länge und decken Sie Streaming, lange Kontexte und Parallelität ab.
import os
import statistics
import time
from openai import OpenAI
client = OpenAI(
api_key=os.environ["RELAY_API_KEY"],
base_url=os.environ["RELAY_BASE_URL"],
max_retries=0,
timeout=60,
)
prompt = "Beschreibe in 200 Wörtern die wichtigsten Schritte der Auftragsabwicklung im grenzüberschreitenden E-Commerce."
latencies, errors, usage = [], 0, []
for i in range(20):
start = time.perf_counter()
try:
resp = client.chat.completions.create(
model=os.environ["RELAY_MODEL"],
messages=[{"role": "user", "content": prompt}],
max_tokens=512,
)
latencies.append((time.perf_counter() - start) * 1000)
usage.append(resp.usage.total_tokens if resp.usage else 0)
print(i, resp.model, resp.usage)
except Exception as exc:
errors += 1
print(i, type(exc).__name__, exc)
if latencies:
print("Erfolgreich", len(latencies), "Fehlgeschlagen", errors)
print("P50", statistics.median(latencies), "ms")
print("Maximum", max(latencies), "ms")
print("Durchschnittliche Tokens", sum(usage) / len(usage))
Das ist nur eine minimale Sonde, kein Lasttest. Beobachten Sie vor der Produktion sieben Tage lang und messen Sie je einmal in Spitzen- und Nebenzeiten; vergleichen Sie die Ergebnisse mit der offiziellen Direktanbindung. Bei kommerziellen Relays sind Abendspitzen und lange Anfragen entscheidend, bei eigenen Proxys der Serverausgang und die Upstream-Limits.
5. Key-Risiko und Compliance: wichtiger als der Preis
Am leichtesten übersehen wird beim Relay die Key-Zuordnung. Geteilte Keys, weiterverkaufte Keys oder Kontingente unklarer Herkunft können vier Probleme verursachen:
- Wird der Upstream gesperrt oder das Kontingent angepasst, fällt das Geschäft mit aus, und es gibt keine direkte Beschwerdemöglichkeit.
- Mehrere Kunden teilen einen Key; Ratenlimits und Störungen beeinflussen sich gegenseitig, die Ursache ist schwer zu finden.
- Anfrageinhalte laufen über Dritte; Logging, Caching und Aufbewahrungsregeln sind nicht transparent.
- Die Nutzungsbedingungen erlauben möglicherweise keinen Weiterverkauf und keine gemeinsame Nutzung; im Streitfall fehlt eine Vertragsgrundlage.
Prüfen Sie beim Anbieter mindestens Firmenidentität, Nutzungsbedingungen, Datenschutzerklärung, Rechnungsfähigkeit und Störungskontakt. Senden Sie keine Anfragen mit personenbezogenen Daten, Schlüsseln oder Vertragstexten an ein Relay, das die Datenwege nicht erklären kann. In stark regulierten Branchen wie Finanzen und Gesundheit sollten Direktanbindung, Private Deployment oder ein Anbieter mit Datenverarbeitungsvertrag priorisiert werden.
6. Migrationscheckliste: von der Direktanbindung zu Relay oder Gateway
- Ist-Zustand erfassen: Erfolgsrate, P50/P95-Latenz, Tokenverbrauch pro 1.000 Anfragen und Rechnung.
- Modellnamen und Parameter inventarisieren: Thinking, max_tokens, tools, JSON-Ausgabe, Streaming.
- Neue Test- und Produktions-Keys anlegen und jeweils Budget und Alarme setzen.
- Nur
base_urlundapi_keyändern und die minimale Anfrage in Staging testen. - Mit echten Prompts wiedergeben und Ausgabequalität, Laufzeit und
usagevergleichen. - Zuordnung von 401, 402, 429, 5xx und Timeouts prüfen und sicherstellen, dass Wiederholungen Störungen nicht verstärken.
- 5–10 % des Verkehrs schrittweise umstellen, 3–7 Tage beobachten und die offizielle Direktanbindung als Rückfall behalten.
- Nach vollständiger Umstellung eine Woche weiter abgleichen, ob Rechnung und Nutzungsstatistik übereinstimmen.
Ändern Sie bei der Migration nicht gleichzeitig Modell, Prompt und Gateway, sonst lässt sich die Ursache nicht zuordnen. Pro Schritt nur eine Variable ändern.
7. Wie man ein Relay auf Zuverlässigkeit prüft
Prüfen Sie zuerst das Feld model in der Antwort, verlassen Sie sich aber nicht darauf, denn es kann verändert werden. Verlässlicher ist eine Kombination:
| Prüfpunkt | Vorgehen | Warnsignal |
|---|---|---|
| Latenz | Gleichen Prompt mehrfach senden, P50/P95 vergleichen | Sehr starke Schwankungen oder dauerhaft deutlich langsamer als Direktanbindung |
| Fehlerrate | Anteil von 429, 5xx und Timeouts messen | Gehäufte Fehler in Spitzenzeiten |
| Nutzung | usage in der Antwort mit Abrechnung vergleichen |
Passt nicht, Streaming-usage fehlt |
| Modellidentität | Mit festem Testset Fähigkeitsgrenzen und Ausgabestil vergleichen | Deutlich schlechtere Fähigkeiten, kürzerer Kontext |
| Key-Isolation | Prüfen, ob eigener Key, ob Rotation möglich | Aussage zur Key-Herkunft wird verweigert |
| Vertrag und Support | Identität, Bedingungen, Rechnungen, Ticket-Reaktion prüfen | Nur private Kontaktdaten, keine Bedingungen |
Warnsignale sind: dauerhaft weit unter offiziellem Preis, das Versprechen „null Ausfälle“, verweigerte Nutzungsdetails, die Aufforderung, den offiziellen Key herauszugeben, oder keine Angabe zum Datenstandort. In solchen Fällen zuerst mit wenig Verkehr testen und nicht die gesamte Produktion auf einmal migrieren.
8. Wann ein eigener Proxy besser passt
Ein eigener Proxy eignet sich für Teams mit Engineering-Kapazität: Bedarf an fester Ausgangs-IP, einheitlichem Audit, Routing zu mehreren Upstreams oder daran, den Key selbst zu halten. Üblich ist ein Reverse-Proxy mit Key-Verwaltung, Ratenbegrenzung, Logging und Alarmierung; der Upstream bleibt ein offizielles Konto oder ein konformer Anbieter.
Die Kosten müssen mitgerechnet werden: Server, Bandbreite, Zertifikate, Updates, Schwachstellenbehebung und Bereitschaft. Bei seltenen Aufrufen ohne Betriebspersonal ist ein eigener Proxy oft teurer als eine kommerzielle Lösung. Auch ein eigener Proxy umgeht weder Upstream-Limits noch Nutzungsbedingungen.
9. Auswahlempfehlung: nach Rahmenbedingungen sortieren
- Zuerst Netz und Zahlung: Ist der offizielle Zugang stabil erreichbar und lässt sich aufladen? Wenn ja, priorisieren Sie die Direktanbindung.
- Dann Kontrolle: Brauchen Sie festen Ausgang, Audit-Logs oder private Keys? Wenn ja, prüfen Sie einen eigenen Proxy.
- Dann Modellumfang: Sollen mehrere Modelle über einen Zugang laufen? Wenn ja, prüfen Sie ein einheitliches Gateway.
- Zuletzt Leistungsfähigkeit: Sind Identität, Bedingungen, Rechnungen, Tickets und Datenrichtlinien nachvollziehbar?
Für einen einheitlichen Multi-Modell-Zugang können Sie im ZSQH AI Gateway einen Test-Key erstellen und zuerst die Verbindung testen, bevor Sie migrieren; Preise und verfügbare Modelle stehen in den Modellpreisen. „Günstig“ darf nicht das einzige Kriterium sein; Migrations- und Störungskosten zählen ebenfalls.
Weiterlesen:
- DeepSeek API einrichten: Key, Base URL und erster Aufruf
- DeepSeek API Preise und Abrechnung
- Modellpreise und Abrechnung
Häufige Fragen
Worin unterscheiden sich Relay und Proxy?
Ein Proxy bezeichnet meist die Weiterleitung auf Netzwerkebene und stellt nur Erreichbarkeit her; ein Relay umfasst zusätzlich Konto, Abrechnung oder Key-Verteilung. Die Begriffe werden oft vermischt; klären Sie vor Vertragsabschluss die Leistungsgrenze.
Kann ein Relay-Preis unter dem offiziellen Preis vertrauenswürdig sein?
Er kann aus Großeinkauf, Routensubventionen oder Kontingentweiterverkauf stammen, aber auch mit geteilten Keys, Ratenlimits oder instabilem Dienst einhergehen. Prüfen Sie Abrechnungsgrundlage, Nutzungsdetails und Vertragsbedingungen und testen Sie dann mit wenig Verkehr.
Wie erkennt man, ob ein Relay das Modell ausgetauscht hat?
Das Feld model in der Antwort reicht nicht. Vergleichen Sie mit einem festen Testset Fähigkeitsgrenzen, Kontextlänge, Ausgabestil und Struktur von usage und behalten Sie die offizielle Direktanbindung als Referenz. Bei deutlicher Verschlechterung zuerst den Verkehr stoppen.
Wie viel Code muss bei der Migration zu einem Gateway geändert werden?
Bei den meisten OpenAI-SDK-Projekten nur base_url und api_key; Modellnamen werden laut Gateway-Preisübersicht angepasst. Bei Thinking, Tools oder speziellen Antwortfeldern sind zusätzliche Kompatibilitätstests nötig.
Worauf sollten Unternehmen besonders achten?
Key-Zuordnung, Datenverarbeitungsvertrag, Rechnungen und Vertragspartei, Störungsreaktion und Ausstiegsmechanismus. Der Preis ist wichtig, Geschäftskontinuität und Compliance-Verantwortung sind wichtiger.
