Lorsqu'une entreprise achète une plateforme d'API LLM, l'erreur la plus fréquente consiste à ne regarder que le prix unitaire et le nombre de modèles. Ce qui détermine réellement la mise en production, c'est la stabilité, la transparence de la facturation, les permissions, la conformité et le coût d'exploitation.
Cet article propose une liste d'achat opérationnelle, destinée aux responsables techniques, aux acheteurs et aux juristes.
Remarque : les marques citées appartiennent à leurs détenteurs respectifs. Cet article n'a qu'une vocation d'explication technique ; les tarifs et politiques applicables sont ceux des sites de chaque plateforme.
1. Clarifier d'abord le besoin métier
1.1 Modèles
- Quels modèles vous faut-il ? Claude, GPT, Gemini, DeepSeek, modèles locaux ?
- Avez-vous besoin de multimodal, d'appels d'outils, de contextes longs ou de sorties structurées ?
- La version du modèle doit-elle être figée ?
1.2 Volume
- Nombre moyen de requêtes par jour et pics de concurrence.
- Nombre moyen de tokens d'entrée et de sortie.
- Besoin éventuel de plusieurs régions ou canaux.
1.3 Administration
- Combien de membres et de projets ?
- Faut-il des plafonds par projet et des journaux d'audit ?
- Faut-il des factures, des contrats et un paiement par virement d'entreprise ?
1.4 Conformité
- Les données peuvent-elles sortir du territoire ?
- Y a-t-il des données personnelles ou sensibles ?
- Faut-il un accord de traitement des données, un audit ou une certification de sécurité ?
2. Grille d'évaluation pour l'achat
| Dimension | Pondération | Points à évaluer |
|---|---|---|
| Couverture des modèles | 20 % | Modèles cibles disponibles, versions stables |
| Stabilité | 20 % | Taux d'erreur, P95, limitation de débit, nouvelles tentatives |
| Transparence tarifaire | 15 % | Prix unitaire, coefficients, cache, remboursement |
| Permissions et quotas | 15 % | Hiérarchie membres, projets et clés |
| Journaux et supervision | 10 % | Détail des appels, alertes, export |
| Support | 10 % | Documentation, réactivité des tickets |
| Conformité | 10 % | Contrat, factures, clauses de données |
Notez chaque fournisseur, sans vous limiter au total : un critère fortement pondéré non satisfait doit éliminer l'offre.
3. Comment mener le POC
3.1 Jeu de tests fixe
Préparez 20 à 50 requêtes métier réelles couvrant :
- les textes courts et longs ;
- les appels d'outils ;
- le multimodal si nécessaire ;
- les entrées anormales.
3.2 Indicateurs à comparer
- Qualité des sorties (évaluation humaine ou automatique).
- Latence du premier token et P95.
- Taux de réussite et proportion d'erreurs 429 et 5xx.
- Coût par requête.
- Facilité de diagnostic à partir des messages d'erreur.
3.3 Déploiement progressif
Basculez d'abord 5 à 10 % du trafic, observez pendant 3 à 7 jours, puis augmentez la part.
4. Contrat et facturation
Un achat en entreprise doit préciser :
- l'entité contractante, le périmètre du service et le SLA ;
- le mode de facturation et la notification des changements de tarif ;
- la conservation, la suppression et l'usage des données pour l'entraînement ;
- le type de facture et la périodicité d'émission ;
- les clauses de remboursement et de résiliation ;
- la notification des incidents de sécurité.
Une plateforme sans contrat ni clause de traitement des données ne devrait pas être utilisée directement en production.
5. Comment calculer le coût
Coût total =
coût des tokens
+ appels échoués et nouvelles tentatives
+ surcoût des contextes longs et du multimodal
+ personnel d'exploitation
+ coût de conformité et d'achat
Un prix unitaire bas accompagné d'une forte limitation de débit et d'un diagnostic difficile peut revenir plus cher au total.
6. Questions fréquentes
Plus il y a de modèles, mieux c'est ?
Non. Commencez par les modèles dont votre activité a besoin, puis examinez la stabilité des versions et le support.
Faut-il plusieurs fournisseurs ?
Il est recommandé de prévoir un canal principal et un canal de secours pour éviter qu'une défaillance unique bloque l'activité, tout en maîtrisant la complexité d'exploitation.
Auto-hébergement ou plateforme achetée ?
Avec une équipe technique et des exigences de maîtrise des données ou de personnalisation, l'auto-hébergement est possible. Sans capacité d'exploitation, une offre managée est plus simple. Voir auto-héberger une passerelle ou choisir un service managé.
Comment vérifier la stabilité ?
Testez avec un faible volume pendant 3 à 7 jours consécutifs et enregistrez le taux de réussite, le P95 et les erreurs 429 et 5xx. Ne jugez pas sur une seule requête.
Pour aller plus loin
Si vous préparez un choix de plateforme, vous pouvez lancer un POC avec une clé à faible quota sur ZSQH AI Gateway, puis comparer avec d'autres plateformes. Les modèles et tarifs applicables sont ceux de la page Tarifs des modèles.
Lectures associées :
