Wer Llama im Unternehmen beschafft, wählt oberflächlich ein Modell, tatsächlich aber einen Lieferweg, der vertraglich geregelt, prüfbar, ausfallsicher und kostenmäßig kalkulierbar sein muss. Die entscheidende Änderung 2026: Die öffentliche Vorschau der Meta-eigenen Llama API wurde am 6. Juli eingestellt; Hosting verschiebt sich zu Cloud-Plattformen und Drittanbietern von Inferenzdiensten. Unternehmen, die Daten in der eigenen Umgebung halten wollen, setzen wieder auf Open-Weights-Selbstbetrieb oder Private Deployment.

Hinweis: Llama und Meta Llama sind Marken von Meta Platforms, Inc. Dieser Artikel dient ausschließlich der technischen Erläuterung und begründet keine Zugehörigkeit, Vertretung, Sponsoring oder Empfehlung gegenüber Meta. Modelllizenzen, verfügbare Varianten und Beschaffungsbedingungen können sich ändern; maßgeblich sind die offiziellen Seiten von Meta und den Anbietern sowie der unterzeichnete Vertrag.

1. Zuerst den Beschaffungsgegenstand definieren

Derselbe Satz „wir beschaffen Llama“ kann drei verschiedene Dinge bedeuten:

  • Open Weights: Gewichte herunterladen und selbst betreiben; die Lizenz regelt Nutzung und Weitergabe.
  • Hosted API: Inferenz bei einer Cloud-Plattform oder einem Inferenzanbieter einkaufen, Abrechnung nach Tokens oder Rechenleistung.
  • Private Deployment: Der Anbieter liefert Hardware, Software und Betrieb; der Vertrag umfasst Lizenz, Support und SLA.

Beschaffungsunterlagen sollten Modellversion, Deployment-Ort, Datenverarbeitungsrollen, Leistungsumfang und Abnahmekriterien festhalten. „Wir nutzen Llama“ allein reicht nicht und führt leicht zu Streit über Version, Compliance und Kosten.

2. Vier Zugangswege

Weg Vertrag und Abrechnung Datengrenze Betriebsaufwand Geeignete Szenarien
Cloud-Hosting Vertrag mit Cloud-Anbieter, Abrechnung über Cloud-Rechnung Daten gelangen in die gewählte Cloud-Region und unterliegen deren DPA-, Regions- und Subprozessor-Bedingungen Niedrig Cloud bereits im Einsatz, Compliance-Beschaffung und Regionswahl nötig
API spezialisierter Inferenzanbieter Vertrag mit jeweiligem Anbieter, unterschiedliche Abrechnung Daten gelangen in den Anbieterdienst, Regeln nach Anbieterbedingungen Niedrig Schneller Start, schwankender Traffic, elastische Nutzung
Eigener Betrieb der Open Weights Hardwarekauf oder Cloud-GPU-Miete plus Servicevertrag Kann in eigener Umgebung bleiben; gemietete Cloud-GPUs bleiben Drittanbieter Hoch Sensible Daten, stabil hohe Auslastung, Offline- oder Edge-Einsatz
Inländisches AI-Gateway Inländischer Vertrag, Abrechnung und Rechnung in RMB Anfragen laufen über das Gateway; dessen Datenbedingungen sind zu prüfen Niedrig Inländische Zahlung und Rechnung, einheitlicher Multi-Modell-Zugang

Die Meta-eigene Llama API gehört nicht mehr zu den verfügbaren Wegen. AWS Bedrock, Azure AI Foundry und Google Vertex AI bieten einige Llama-Varianten an; Modelle, Regionen und Freischaltung ändern sich schnell, daher vor der Beschaffung den offiziellen Katalog prüfen.

Kein Weg ist grundsätzlich überlegen; entscheidend sind Datengrenze und Betriebskompetenz.

3. Lizenzprüfung: Open Weights sind nicht MIT

Llama verwendet eine Community-Lizenz und keine von der OSI anerkannte Open-Source-Lizenz. Bei Llama 4 und Llama 3.3 ist kommerzielle Nutzung erlaubt, jedoch mit klaren Einschränkungen:

  • Produkte oder Dienste mit mehr als 700 Millionen monatlich aktiven Nutzern benötigen eine gesonderte Lizenz von Meta, bemessen am Monat vor dem Veröffentlichungsdatum; ohne Genehmigung dürfen die Rechte nicht ausgeübt werden.
  • Bei Weitergabe von Modellen, Derivaten oder Produkten, die das Modell enthalten, muss „Built with Llama“ an gut sichtbarer Stelle auf Website, Oberfläche oder in der Produktdokumentation stehen.
  • Wer mit Llama-Material andere Modelle trainiert oder verbessert und weitergibt, muss den Modellnamen mit „Llama“ beginnen lassen.
  • Kopien müssen Lizenz und Notice-Datei enthalten; Acceptable Use Policy und Handels-Compliance sind einzuhalten.
  • Die Lizenz gewährt keine Markenrechte; die Verwendung des Namens Llama ist nur zur Erfüllung der Kennzeichnungs- und Namensvorgaben erlaubt.

Diese Bedingungen sollte die Rechtsabteilung Punkt für Punkt prüfen; verschiedene Versionen können abweichen, maßgeblich ist die mitgelieferte LICENSE. Die Lizenz bietet weder SLA noch Entschädigung oder Residenzzusagen.

4. Datenresidenz und Datenschutz

Beim Hosting-Weg müssen schriftlich bestätigt werden: Datenregion, grenzüberschreitende Übermittlung, Subprozessoren, Aufbewahrungsdauer, Nutzung für Training, Löschmechanismus, Sicherheitszertifizierungen und Auditberichte. „Enterprise-Sicherheit“ auf Marketingseiten ersetzt weder DPA noch Vertrag.

Auch Selbstbetrieb ist nicht automatisch konform. Logs, Monitoring, Backups, Fernwartung und Kontorechte können Datenabflüsse darstellen; bei gemieteten Cloud-GPUs befinden sich Daten weiterhin in der Infrastruktur des Cloud-Anbieters.

Chinesische Teams müssen zusätzlich Anforderungen wie das Gesetz zum Schutz personenbezogener Daten und das Datensicherheitsgesetz bewerten; bei grenzüberschreitender Verarbeitung personenbezogener Daten können Sicherheitsbewertungen oder Standardverträge erforderlich sein, was die Rechtsabteilung beurteilt. In Free- und Testumgebungen gehören keine echten Kundendaten.

5. Hardware, Kapazität und Kosten

Die Kapazitätsplanung für Selbstbetrieb darf nicht nur die Parameterzahl betrachten. Der VRAM muss Gewichte, KV-Cache, Framework-Overhead und Parallelitätsreserve gleichzeitig aufnehmen; je länger der Kontext und je höher die Parallelität, desto schneller wächst der KV-Cache. Grobe Größenordnungen:

  • 8B-Klasse: 4-Bit-Gewichte etwa 4–6 GB; eine 16–24-GB-Karte lässt Reserve.
  • 70B-Klasse: 4-Bit-Gewichte etwa 35–45 GB; meist sind 48–80 GB VRAM oder mehrere Karten nötig.
  • Llama 4 Scout: 109 Mrd. Gesamtparameter, 17 Mrd. aktiv; 4-Bit-Gewichte etwa 55–60 GB, für lange Kontexte zusätzlich KV-Cache-Reserve.
  • Llama 4 Maverick: 400 Mrd. Gesamtparameter, 17 Mrd. aktiv; 4-Bit-Gewichte in der Größenordnung von 200 GB, meist ein Multi-GPU-Server.

Bei MoE reduziert die geringe Zahl aktiver Parameter den Rechenaufwand, nicht den VRAM-Bedarf. Quantisierung spart VRAM, die Qualität bei Code, Mathematik und mehrsprachigen Aufgaben muss jedoch geprüft werden.

Die Gesamtkosten umfassen GPUs, Strom, Kühlung, Racks, Netzwerk, Speicher, Redundanz, Monitoring und Personal. Ob Selbstbetrieb günstiger ist, hängt von der Auslastung ab: Nur bei dauerhaft hoher Last lassen sich die Fixkosten verteilen; bei geringer oder schwankender Last ist eine nutzungsbasierte API meist günstiger. Preise richten sich nach Anbieterangeboten und den Modellpreisen.

6. Konten, Rechte und Zugriffskontrolle

  • Mit einer Unternehmensdomain registrieren, SSO/SAML und Mehrfaktor-Authentifizierung aktivieren.
  • Konten und Keys nach Umgebung, Projekt und Team trennen, Minimalrechte vergeben, Ablauf- und Rotationszyklen festlegen; Keys in einem Secret-Manager ablegen, nicht in Frontend, Git oder Logs.
  • Audit-Logs aktivieren, aufgerufene Modelle, Token-Verbrauch und Treffer von Richtlinien für sensible Daten erfassen; Netzwerk-Ausgangs-Whitelists, DLP und Aufbewahrungsregeln konfigurieren.

Beim Angebot externer Dienste müssen außerdem Mandantentrennung und Kundendatengrenzen bestätigt werden; ein Key darf nicht mehrere Kunden tragen.

7. SLA, Ausfallsicherheit und Ausstieg

Vor der Beschaffung sind zu klären: Verfügbarkeitsziel, p95-Latenz, Supportzeiten, Reaktions- und Wiederherstellungszeiten bei Störungen, Incident-Benachrichtigung, Gutschriften bei Zielverfehlung, Wartungsfenster und Ankündigung von Modellabschaltungen; all das gehört in den Vertrag.

Auch das beste SLA ersetzt kein Ausfallkonzept. Mindestens ein Ersatzkanal ist vorzuhalten: ein zweiter Hoster, dasselbe Modell bei einer Cloud-Plattform oder ein kleineres selbst betriebenes Modell. Eine Abstraktionsschicht über eine OpenAI-kompatible Schnittstelle macht Modellnamen, Adressen und Keys konfigurierbar; Health Checks, Timeouts, Retries, Circuit Breaker und Ratenlimits kommen hinzu. Bei 401 Zugangsdaten prüfen, bei 429 Backoff, bei 5xx umschalten.

Die Ausfallsicherheit muss die Datenresidenz berücksichtigen: Eine Ausweichregion im Ausland kann die Residenzzusage des Hauptvertrags verletzen. Auch Ausstiegsbedingungen sind zu regeln: Datenexport, Löschfristen, Migrationshilfe und Eigentum an Modellen und Prompt-Assets.

8. Pilotprojekt und Abnahme

Empfohlen wird ein reproduzierbarer Pilot über zwei bis vier Wochen:

  1. Szenario, Erfolgskennzahlen, Datenklassifizierung und Daten, die nicht in eine Drittanbieter-API dürfen, festlegen.
  2. Rechtsabteilung prüft Lizenz, DPA, grenzüberschreitende Übermittlung, Trainingsnutzung und Löschklauseln und dokumentiert das Ergebnis.
  3. Konten anlegen, Unternehmensverifizierung, SSO und Key-Register abschließen; parallel Haupt- und Ersatzweg sowie eine einheitliche OpenAI-kompatible Abstraktion aufbauen.
  4. Mit echten Aufgaben pilotieren und Erfolgsquote, p50/p95-Latenz, Fehlerquote, Tokens pro Aufgabe und Nacharbeitsquote erfassen.
  5. Lange Kontexte, Lastspitzen, 429 und Modellausfälle testen; Kontingenterschöpfung, Regionsstörung und Key-Leak durchspielen.
  6. Eine echte Zahlung und Rechnung abwickeln und Rechtsträger, Währung, Steuerbetrag und Erstattungsprozess prüfen.

Die Abnahmekriterien werden vor dem Pilotprojekt festgelegt; erst wenn Qualität, Kosten, Compliance und Betrieb alle bestehen, geht es in die Produktion.

9. Kostenkontrolle und laufende Optimierung

Nach dem Start sind monatlich vier Dinge zu tun: Tokens und Kosten nach Team und Projekt zuordnen; Budgets und Alarme setzen; auffällige Aufrufe und Key-Leaks prüfen; Preisänderungen nachvollziehen.

Die Optimierungsreihenfolge lautet meist: unnötigen Kontext und doppelte Anfragen entfernen, Aufgaben nach Schwierigkeit auf verschiedene Modellgrößen verteilen, Cache und Batch-Verarbeitung nutzen und erst zuletzt Selbstbetrieb oder langfristige Verpflichtungen prüfen. Beim Selbstbetrieb sind zusätzlich GPU-Auslastung, Wartezeiten und Leerkapazität zu beobachten.

Das ZSQH AI Gateway bietet eine OpenAI-kompatible Schnittstelle als einheitlichen Einstieg und Ersatzkanal, um Rechnungen, Keys und Modellnamen-Mappings zentral zu verwalten. Modelle und Preise entnehmen Sie den Modellpreisen; Preise können sich ändern. Ein Konto lässt sich direkt über die Registrierung anlegen.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://ai.zhongshangqihang.com/v1",
    api_key=os.environ["ZSQH_API_KEY"],
)

resp = client.chat.completions.create(
    model="llama-3.3-70b-instruct",  # Maßgeblich ist die Modellliste der Plattform
    messages=[{"role": "user", "content": "Erläutere in drei Sätzen, was bei der Beschaffung von Llama im Unternehmen zuerst geklärt werden muss"}],
    temperature=0.2,
    max_tokens=256,
)
print(resp.choices[0].message.content)

10. Häufige Fragen

Bietet Meta noch eine offizielle Llama API an?

Stand Oktober 2026 wurde die öffentliche Vorschau der Llama API von Meta am 6. Juli 2026 eingestellt; offiziell wird die Migration zu Drittanbietern empfohlen. Die Meta-Entwicklerplattform bewirbt derzeit die Muse-Reihe, die nicht zur Llama-Familie gehört; ob neue Pläne bestehen, ist den Meta-Seiten zu entnehmen.

Ist Llama Open Source und kommerziell nutzbar?

Llama ist ein Open-Weights-Modell und wird oft als Open Source bezeichnet, verwendet aber eine Community-Lizenz, die von der OSI nicht als Open Source anerkannt ist. Kommerzielle Nutzung ist in der Regel erlaubt, sofern Schwellenwerte für monatlich aktive Nutzer, Kennzeichnung, Namensgebung, Notice, AUP und Handels-Compliance erfüllt sind; maßgeblich ist die LICENSE der jeweiligen Version.

Ist Selbstbetrieb immer günstiger als eine API?

Nein. Selbstbetrieb vermeidet Token-Kosten, verursacht aber GPU-, Strom-, Rechenzentrums-, Betriebs- und Redundanzkosten. Bei hoher Auslastung oder wenn Daten das Land nicht verlassen dürfen, ist Selbstbetrieb vorteilhafter; bei geringer und schwankender Last ist eine nutzungsbasierte API günstiger.

Ist man compliant, sobald die Daten auf eigenen Servern liegen?

Nicht automatisch. Entscheidend ist auch, wer zugreifen kann, wo Logs und Backups liegen, ob Daten grenzüberschreitend verarbeitet werden und ob personenbezogene Daten erfasst werden. Bei grenzüberschreitender Verarbeitung personenbezogener Daten ist eine rechtliche Bewertung nach den anwendbaren Vorschriften nötig.

Wie vermeidet man Lock-in bei einem Anbieter?

Eine Abstraktionsschicht über eine OpenAI-kompatible Schnittstelle verwenden, Modellnamen, Adressen und Keys konfigurierbar halten, einen Ersatzkanal bewahren, Datenexport, Löschung, Migrationshilfe und Abschaltankündigungen vertraglich regeln und Ersatzmodelle regelmäßig mit echten Aufgaben testen.

Weiterlesen: Llama API in China: Cloud, Gateway oder Selbstbetrieb, Doubao API für Unternehmen, Modellpreise.