Changer de modèle doit être une décision guidée par des indicateurs métier, pas par la nouveauté. DeepSeek a ses atouts en chinois, en code et en maîtrise des coûts, mais ce n'est pas la réponse à toutes les tâches. La vraie question pour une équipe est de savoir si le problème vient d'une capacité insuffisante du modèle ou d'un défaut de recherche documentaire, de prompt, de concurrence, de réseau ou de conformité. Seul le premier cas justifie un changement de modèle ; dans les autres, le problème suivra la migration.
Cet article propose un ordre de décision : examiner six signaux, écarter les causes non liées au modèle, comparer les alternatives sur un même lot de tâches, puis choisir entre remplacement complet, routage partiel et maintien de DeepSeek. Les modèles et les prix sont ceux de la page Tarifs des modèles.
Remarque : DeepSeek, Claude, GPT, GLM et Qwen sont des marques de leurs détenteurs respectifs. Cet article relève d'une discussion technique de sélection. Les capacités, prix et conditions de chaque fournisseur évoluent ; vérifiez les pages officielles avant tout achat.
1. Six signaux justifiant d'envisager un changement
| Signal | Manifestation | À vérifier d'abord | Conclusion |
|---|---|---|---|
| Plafond de qualité | Le même lot de tâches échoue de façon répétée, sans effet des ajustements de prompt | Jeu d'évaluation, critères d'annotation, qualité de la recherche | Changement envisageable |
| Contexte long insuffisant | Un document doit être inséré en entier pour obtenir une réponse correcte | Découpage, résumé, recherche augmentée | Corriger l'architecture d'abord |
| Latence excessive | Le p95 dépasse la tolérance métier | Réseau, concurrence, longueur de sortie | Optimiser d'abord |
| Limitations fréquentes | Les 429 augmentent nettement aux heures de pointe | Quota, clé partagée, stratégie de retry | Gouverner d'abord |
| Lacune fonctionnelle | Besoin de multimodal ou d'appels d'outils spécifiques | Liste officielle des capacités et notes de version | Changer ou combiner plusieurs modèles |
| Exigence de conformité | Les données ne peuvent pas transiter par certains chemins ou régions | Juridique, clauses de données, règles sectorielles | Choisir selon la conformité |
| Structure de coûts inadaptée | Sorties longues, faible taux de cache, part élevée du prix unitaire | Ratio entrée/sortie, nombre de retries | Réduire les coûts avant d'évaluer |
Les signaux doivent s'appuyer sur des données, pas sur une « sensation de moins bonne qualité ». Observez au moins une semaine de taux d'erreur, de taux de reprise manuelle, de latence p95 et de nombre de 429 avant d'engager une procédure de sélection.
2. Écarter d'abord les causes non liées au modèle
Avant de changer de modèle, faites un auto-diagnostic dans cet ordre :
- Le prompt a-t-il des critères d'acceptation explicites ? Sans critère, aucun modèle ne permet de juger du résultat.
- La recherche ramène-t-elle les bons extraits ? Si le RAG récupère de mauvais passages, le meilleur des modèles ne pourra qu'extrapoler.
- Le document long est-il inséré en entier ? Un contexte trop long augmente la latence et le coût et dilue l'information utile.
- Toutes les requêtes passent-elles par un modèle de raisonnement ? Pour une classification ou une extraction simple, c'est lent et coûteux.
- Plusieurs services partagent-ils une même clé ? Les quotas se disputent et le modèle paraît « instable ».
- Le nom du modèle ou la version sont-ils corrects ? Un 404 ou un écart de capacité n'est parfois qu'un problème de configuration.
Si l'un de ces six points présente un problème avéré, corrigez-le d'abord et relancez une évaluation. Beaucoup de conclusions « il faut changer de modèle » disparaissent après cette étape.
3. Quatre familles d'alternatives
| Type | Exemples | Atouts | Coût | Cas adapté |
|---|---|---|---|---|
| Autres modèles généraux chinois | GLM, Qwen, Doubao, etc. | Bon niveau en chinois, paiement local, faible latence | Capacités variables, à tester | Activité en Chine, exigences de conformité claires |
| Modèles internationaux | Claude, GPT, Gemini | Raisonnement complexe, code et écosystème | Accès, paiement, conformité des données | Tâches difficiles, activité à l'étranger |
| Auto-hébergement open source | Modèles à poids ouverts comme Qwen ou Llama | Données maîtrisées, personnalisation, privatisation | GPU, exploitation, ingénierie | Exigences d'infrastructure et d'isolation des données |
| Passerelle multi-modèles | ZSQH AI Gateway | Point d'entrée unique, facturation unifiée, modèles interchangeables | Dépend de la disponibilité du prestataire | Équipes utilisant plusieurs fournisseurs |
La sélection ne consiste pas à établir un classement, mais à faire correspondre un modèle à une tâche. Le service client en chinois, l'extraction par lots, la complétion de code et le raisonnement complexe n'ont pas les mêmes exigences ; une notation unique conduit souvent à une mauvaise conclusion.
4. Évaluer un remplacement sur un même lot de tâches
- Prélevez 30 à 50 tâches réelles couvrant les niveaux simple, moyen et complexe.
- Rédigez un critère d'acceptation pour chaque tâche ; une double évaluation à l'aveugle est préférable.
- Faites tourner l'ancien et le nouveau modèle sur les mêmes entrées, avec des paramètres identiques.
- Relevez la note de qualité, les latences p50 et p95, les tokens d'entrée et de sortie, le taux d'erreur et le nombre de retries.
- Calculez le coût « par tâche conforme produite », et non le prix affiché par million de tokens.
- Conservez les exemples en échec pour déterminer s'il s'agit d'un problème de capacité, de prompt ou de données.
| Indicateur | Comment le mesurer | Usage décisionnel |
|---|---|---|
| Taux de conformité | Notation humaine selon les critères | Atteint-on le seuil métier ? |
| Taux de reprise | Part nécessitant une correction humaine | Coût humain caché |
| Queue de latence | p95, p99 | Impact sur l'expérience utilisateur |
| Structure des tokens | Entrée, sortie, cache | Source de l'écart de coût |
| Taux d'erreur | Part de 4xx, 5xx, délais | Stabilité en production |
| Charge de migration | Configuration ou code à modifier | Délai de mise en production |
Placez le nom du modèle et l'URL de base dans la configuration, afin qu'un remplacement ne change que des variables d'environnement :
import os
from openai import OpenAI
BASE_URL = os.environ.get("API_BASE_URL", "https://ai.zhongshangqihang.com/v1")
MODEL = os.environ.get("API_MODEL", "deepseek-chat")
client = OpenAI(
api_key=os.environ["API_KEY"],
base_url=BASE_URL,
)
resp = client.chat.completions.create(
model=MODEL,
messages=[{"role": "user", "content": "Extrais cette conversation client en JSON"}],
max_tokens=512,
)
print(resp.choices[0].message.content)
Si le modèle cible n'est pas compatible avec le protocole OpenAI, une couche d'adaptation est nécessaire ; s'il l'est, la migration ne demande généralement que trois réglages. Les noms de modèles exacts sont ceux de la page de tarifs ; ne recopiez pas un ancien tutoriel.
5. Étapes de migration
- Figez la version, les paramètres et le prompt du modèle actuel, et conservez une configuration permettant un retour arrière.
- Faites d'abord tourner le nouveau modèle en parallèle, sans trafic réel, pour comparer les sorties.
- Basculez 5 à 10 % du trafic et observez le taux de conformité, la latence et le taux d'erreur.
- Prévoyez un modèle ou un canal de secours, avec bascule automatique en cas d'échec du modèle principal.
- Supervisez par modèle, par scénario et par version, pour ne pas masquer les écarts dans un agrégat.
- Définissez des conditions de retour arrière : au-delà d'un seuil, revenez en arrière sans vous accrocher à une intuition.
- Une fois la migration terminée, mettez à jour la documentation avec les noms de modèles, les paramètres, les différences connues et les contacts.
6. Quand il ne faut pas changer
- Vous réagissez à une annonce de nouveau modèle sans indicateur métier à l'appui.
- Vous n'avez pas de jeu d'évaluation et concluez à partir de quelques conversations.
- Le problème vient de la recherche, du prompt, de la concurrence ou du réseau ; changer de modèle ne le résoudra pas.
- L'équipe n'a ni GPU ni capacité d'exploitation mais veut auto-héberger un modèle open source.
- La conformité des données n'est pas tranchée ; changer de modèle d'abord aggraverait le risque.
Une approche plus sûre est le routage partiel : le modèle principal continue de traiter les lots en chinois, tandis que le raisonnement complexe, la revue de code ou les requêtes multimodales sont dirigés vers d'autres modèles selon le type de tâche. Les règles de routage se placent dans la passerelle ou dans la couche applicative, avec un choix par étiquette de tâche plutôt qu'un basculement global.
| Type de tâche | Recommandation | Raison |
|---|---|---|
| Service client, résumé, réécriture en chinois | Modèle principal | Volume élevé, priorité à la stabilité et au coût |
| Raisonnement complexe, revue d'architecture | Modèle plus capable | Un seul passage coûte moins que des reprises répétées |
| Classification et extraction à forte concurrence | Modèle léger | Priorité à la latence et au coût |
| Données sensibles, privatisation | Auto-hébergement open source | Les données ne sortent pas du réseau interne |
Questions fréquentes
Comment choisir entre DeepSeek, Claude et GPT ?
En fonction de la tâche, pas de la notoriété. Pour le traitement de lots en chinois et les scénarios sensibles au coût, DeepSeek est un point de départ pertinent ; pour le raisonnement complexe, le code et certains écosystèmes, comparez avec un jeu d'évaluation avant de décider. N'utilisez pas un cas isolé à la place d'une évaluation systématique.
Combien de code faut-il modifier pour changer de modèle ?
Si le modèle cible est compatible avec le protocole OpenAI, il suffit généralement de changer l'URL de base, la clé et le nom du modèle. Si vous utilisez des paramètres propriétaires, des formats d'appel d'outils ou des champs multimodaux, une couche d'adaptation et des tests de non-régression sont nécessaires.
Peut-on utiliser deux modèles en même temps ?
Oui. Les approches courantes sont un modèle principal avec un modèle de secours, ou un routage par type de tâche. En contrepartie, il faut maintenir deux jeux d'évaluation, deux supervisions et deux bases de facturation, avec une personne responsable.
L'auto-hébergement open source est-il toujours moins cher ?
Pas nécessairement. Il faut compter les GPU, la bande passante, l'exploitation, les mises à jour de modèles et la main-d'œuvre. Pour de faibles volumes, le coût total de l'auto-hébergement dépasse généralement le paiement à l'usage ; l'isolation des données et les besoins de personnalisation en sont les vraies justifications.
Que faire si la qualité baisse après le changement ?
Déterminez d'abord si les exemples en échec relèvent de la capacité ou du prompt, puis comparez avec un jeu d'évaluation fixe. Conservez l'ancien modèle comme option de retour arrière et fixez un seuil explicite pendant la période de bascule progressive.
Pour aller plus loin
Créez d'abord une clé de test sur ZSQH AI Gateway, branchez DeepSeek et les modèles candidats sur le même point d'entrée, faites tourner un lot de tâches comparatif, puis calculez le coût avec la page Tarifs des modèles. La disponibilité des modèles fait foi sur la page de tarifs.
Articles liés :
