Dify vereint Prompt-Orchestrierung, Wissensdatenbank-Suche, Workflows und Agenten in einer visuellen Oberfläche. Die vorinstallierte Modellliste deckt jedoch nicht zwangsläufig die Modelle ab, die Sie verwenden möchten. Solange der Zielservice eine OpenAI-kompatible Schnittstelle anbietet, lässt er sich als „eigenes Modell“ anbinden und mit eigenem Key und eigener Abrechnung betreiben.

In der Praxis scheitern die meisten nicht an der Schaltfläche, sondern an Details: fehlendes /v1 in der Base URL, abweichender Modellname gegenüber dem Gateway, nicht aktivierter Funktionsaufruf oder ein internes Netzwerk, das von Dify aus nicht erreichbar ist. Dieser Artikel folgt der Reihenfolge „vorbereiten, hinzufügen, binden, Fehler beheben“; Oberflächennamen richten sich nach der aktuellen Version.

Hinweis: Dify ist eine Marke seines jeweiligen Inhabers; dieser Artikel steht in keiner Verbindung zu den genannten Unternehmen. Modellnamen, Kontextlängen und Preise entnehmen Sie den Modellpreisen; der Artikel bezieht sich auf die verbreitete Version von Oktober 2026.

1. Vier Punkte vor der Anbindung

Öffnen Sie Dify nicht sofort, sondern prüfen Sie zuerst mit einer minimalen Anfrage, ob der Upstream erreichbar ist:

  1. Protokoll: Bietet die Schnittstelle OpenAI-Kompatibilität und mindestens /v1/chat/completions?
  2. Base URL: Bei den meisten Diensten wird bis /v1 eingetragen, nicht der vollständige Pfad /v1/chat/completions.
  3. Modellname: Muss mit der Ausgabe von /v1/models übereinstimmen; achten Sie auf Groß-/Kleinschreibung, Datums-Suffixe und Aliasse.
  4. Fähigkeiten: Werden Streaming, Funktionsaufrufe und Bildeingaben unterstützt? Für eine Wissensdatenbank muss außerdem die Embedding-Dimension passen.

Führen Sie eine Vorprüfung per curl durch:

curl https://ihre-gateway-adresse/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "ihr-modellname",
    "messages": [{"role": "user", "content": "Antworte nur mit OK"}]
  }'

Wenn die Antwort choices enthält, stimmen Adresse, Key und Modellname. Wer diesen Schritt zuerst abschließt, spart sich bei der Dify-Anbindung die Hälfte der Umwege.

2. Modellanbieter in Dify hinzufügen

Dify verwaltet Modellanbindungen über Plugins; Einstiegspunkt und Feldnamen können sich je nach Version ändern. Der typische Ablauf:

  1. Die Einstellungsseite für Modellanbieter öffnen.
  2. Das Plugin „OpenAI-API-compatible“ (OpenAI-kompatibel) installieren oder aktivieren; der Name richtet sich nach der aktuellen Version.
  3. Auf „Modell hinzufügen“ klicken und den Modelltyp wählen.
  4. Modellname, API Key und Base URL eintragen.
  5. Kontextlänge, maximale Ausgabe und weitere Parameter entsprechend den tatsächlichen Fähigkeiten setzen.
  6. Speichern und den Test ausführen, um eine Antwort zu bestätigen.

Wichtige Felder:

Feld Richtige Eingabe Häufiger Fehler
Base URL Meist bis /v1, etwa https://api.example.com/v1 Zusätzliches /chat/completions führt zu 404
Modellname Exakt wie von /v1/models zurückgegeben Falsche Groß-/Kleinschreibung oder Versions-Suffix, Modell nicht gefunden
API Key Vollständig einfügen, kein manuelles Bearer Leerzeichen oder Anführungszeichen führen zu 401
Modelltyp LLM, Embedding, Rerank, Transkription oder TTS nach Zweck Falscher Typ, Modell erscheint nicht in der Anwendung
Kontextlänge Vom Anbieter tatsächlich unterstützten Wert eintragen, eher kleiner Theoretisches Maximum führt bei langen Anfragen zur Ablehnung
Fähigkeitsschalter Streaming, Funktionsaufrufe und Vision nur bei tatsächlicher Unterstützung aktivieren Agent-Tools schlagen fehl, Bild-Upload wird abgelehnt

3. Parameter nicht von der Marketingseite übernehmen

Die „maximale Kontextlänge“ auf Modellseiten ist meist ein theoretischer Wert. Der praktisch nutzbare Umfang hängt zusätzlich von Ausgabelänge, Abrechnung und Gateway-Limits ab. Lassen Sie bei der Konfiguration Reserve:

  • Tragen Sie eine Kontextlänge ein, die der Anbieter ausdrücklich unterstützt, und wählen Sie nicht das Maximum, nur damit es „leistungsfähiger“ aussieht.
  • Setzen Sie die maximale Ausgabe separat, damit lange Texte nicht abgeschnitten werden oder die Kosten aus dem Ruder laufen.
  • Wenn Sie unsicher sind, ob Funktionsaufrufe unterstützt werden, deaktivieren Sie sie zuerst, prüfen Sie den normalen Dialog und aktivieren Sie die Funktionen schrittweise.
  • Bei Bildmodellen müssen Sie klären, ob Bilder per URL oder Base64 übergeben werden; manche kompatiblen Schnittstellen unterstützen nur eine Variante.
  • Sobald ein Embedding-Modell für eine Wissensdatenbank verwendet wird, ist die Dimension festgelegt; ein Modellwechsel erfordert meist einen Neuaufbau des Index.

Wenn Sie mehrere Modelle unter demselben Anbieter anbinden möchten, fügen Sie sie einzeln hinzu. Der nach außen sichtbare Modellname darf vom Upstream abweichen, sollte aber lesbar und nachvollziehbar bleiben, etwa mit Zweck oder Version im Namen.

4. Modelle an Anwendungen binden

Ein erfolgreich hinzugefügtes Modell bedeutet nicht, dass die Anwendung es bereits verwendet. In Dify sind mindestens drei Stellen zu prüfen:

  • Chat-Assistent / Textgenerierung: Im Orchestrierungsbereich das Modell wählen und sicherstellen, dass der Modellname nicht fest im Prompt verdrahtet ist.
  • Workflow / Agent: Jeder LLM- oder Agent-Node wählt sein Modell separat; verschiedene Nodes dürfen unterschiedliche Modelle verwenden.
  • Wissensdatenbank: In den Systemmodelleinstellungen Embedding- und Rerank-Modell festlegen; Index und Abfrage müssen dasselbe Modell verwenden.

Eine praktische Aufteilung: Kleine Modelle übernehmen Klassifizierung, Umschreibung und Extraktion, das starke Modell die finale Generierung. Das kontrolliert die Kosten und verhindert, dass viele kurze Anfragen das starke Modell auslasten.

5. Häufige Fehler und Prüfreihenfolge

Symptom Mögliche Ursache Behandlung
401 Unauthorized Key falsch, abgelaufen oder mit zusätzlichen Zeichen Mit curl nachprüfen, Key neu einfügen
404 Not Found Falscher Base-URL-Pfad /v1 bestätigen, keinen vollständigen Schnittstellenpfad eintragen
model not found Modellname weicht vom Gateway ab /v1/models abfragen, Groß-/Kleinschreibung beachten
Anfrage-Timeout Dify erreicht den Upstream nicht oder dieser antwortet langsam Netzwerk, DNS, Firewall und Proxy prüfen
400 context length Kontext- oder Ausgabelimit größer als tatsächlich verfügbar Parameter senken, lange Texte vorher aufteilen
429 Too Many Requests Ratenlimit des Upstream erreicht Parallelität senken, Retry mit Backoff konfigurieren
Tool-Aufruf fehlgeschlagen Modell unterstützt keine Funktionsaufrufe oder Format passt nicht Tools deaktivieren, zuerst reinen Dialog prüfen
Wissensdatenbank-Suche fehlerhaft Embedding-Dimensionen stimmen nicht überein Ursprüngliches Modell wiederherstellen oder Index neu aufbauen

Ein oft übersehener Punkt: Wenn Dify in der Cloud oder in einem Container läuft, sind localhost, 127.0.0.1 und private Netzadressen meist nicht erreichbar; manche Versionen aktivieren zusätzlich SSRF-Schutz und blockieren interne Anfragen. Stellen Sie den Modelldienst über eine öffentliche HTTPS-Adresse bereit oder konfigurieren Sie in der selbst betriebenen Umgebung Proxy und Whitelist gemäß Dokumentation.

6. Stabilität und Kosten

Nach der Anbindung sollten Sie drei Dinge ergänzen:

  1. Timeouts und Retries: Das Timeout an der langsamsten Geschäftskette ausrichten; Wiederholungen nur bei 429 und 5xx, um doppelte Abrechnung zu vermeiden.
  2. Aufrufprotokolle: Mindestens Modellname, Dauer, Token-Verbrauch und Fehlercode speichern, damit sich Probleme einem Node zuordnen lassen.
  3. Kontext begrenzen: Mehr Treffer aus der Wissensdatenbank sind nicht automatisch besser; irrelevante Passagen erhöhen die Kosten und stören die Antwort.

Dify selbst übernimmt nur die Orchestrierung; die Kosten entstehen durch Modellaufrufe beim Upstream. Einfache Nodes auf kleine Modelle umstellen, Prompts verdichten und unnötige Wiederholungen vermeiden ist meist wirksamer als ein Anbieterwechsel. Konkrete Preise entnehmen Sie den Modellpreisen; verwenden Sie keine festen Zahlen für eine langfristige Budgetplanung.

Häufige Fragen

Muss ich in Dify ein Plugin installieren, um eigene Modelle anzubinden?

Neuere Versionen verwalten die Anbindung über Modellanbieter-Plugins; Name und Einstiegspunkt richten sich nach der aktuellen Version. Fehlt das Plugin, suchen Sie im Plugin-Markt nach OpenAI-kompatiblen Erweiterungen oder aktualisieren Sie auf eine Version, die diese Funktion unterstützt.

Warum funktioniert curl, aber Dify meldet einen Fehler?

Prüfen Sie zuerst drei Punkte: ob das Netzwerk von Dify die Adresse erreicht, ob die Base URL in der Oberfläche automatisch um einen Pfad ergänzt wird und ob der Key Leerzeichen oder Zeilenumbrüche enthält. Cloud-Dify kann Ihre internen Adressen nicht erreichen; das ist die häufigste Ursache.

Lassen sich nicht OpenAI-kompatible Schnittstellen direkt anbinden?

Nicht direkt. Eine Gateway- oder Adapterschicht muss die Anfragen zuerst in das OpenAI-Format übersetzen. Diese Schicht muss Nachrichtenstruktur, Tool-Aufrufe und Streaming-Ereignisse behandeln; reine URL-Weiterleitung genügt nicht.

Kann ein Anbieter mehrere Modelle enthalten?

Ja. Jedes Modell erhält eigene Angaben zu Name, Kontext und Fähigkeiten und wird in der Anwendung passend ausgewählt. Benennen Sie Modelle nach ihrem Zweck, damit Teammitglieder nicht das falsche auswählen.

Ist die Wissensdatenbank nach einem Embedding-Wechsel weiter nutzbar?

Meist nicht ohne Weiteres. Ändern sich Vektor-Dimension oder semantischer Raum, passen alter Index und neue Abfrage nicht zusammen; die Wissensdatenbank muss neu aufgebaut und indexiert werden. Prüfen Sie die Suchqualität vor dem Wechsel an einem kleinen Datensatz.

Nächste Schritte

Die Dify-Anbindung lässt sich in drei Sätzen zusammenfassen: zuerst den Upstream per curl prüfen, dann Parameter nach den tatsächlichen Fähigkeiten eintragen und schließlich die Bindung Node für Node kontrollieren. Für einen einheitlichen OpenAI-kompatiblen Einstieg und Verbrauchsverwaltung können Sie sich im ZSQH AI Gateway registrieren; Modelle und Preise stehen auf der Seite Modellpreise.

Weiterlesen: