Cambiar de modelo debería ser una decisión guiada por indicadores del negocio, no por la novedad. DeepSeek tiene ventajas propias en chino, código y control de costos, pero no es la respuesta para todas las tareas. Lo que el equipo debe determinar es si el problema actual viene de que el modelo no tiene suficiente capacidad o de que la recuperación, los prompts, la concurrencia, la red o el cumplimiento no están bien resueltos. Solo el primer caso justifica cambiar de modelo; en el segundo, el problema se traslada al nuevo proveedor.

Este artículo propone un orden de decisión: revisar seis señales, descartar los problemas que no son del modelo, comparar alternativas con el mismo conjunto de tareas y, por último, decidir entre un reemplazo total, un enrutamiento parcial o seguir con DeepSeek. Los modelos y precios se rigen por los precios de modelos de este sitio.

Nota: DeepSeek, Claude, GPT, GLM y Qwen son marcas de sus respectivos titulares; este artículo solo las menciona para comparar opciones técnicas. Las capacidades, los precios y las condiciones de cada proveedor cambian, así que verifica las páginas oficiales antes de comprar.

1. Seis señales para considerar un cambio de modelo

Señal Manifestación concreta Qué revisar primero Conclusión
Techo de calidad Las mismas tareas fallan de forma repetida y cambiar el prompt no ayuda Conjunto de evaluación, criterios de etiquetado, calidad de la recuperación Se puede considerar el cambio
Contexto largo insuficiente Hay que meter el documento completo para acertar Fragmentación, resumen, recuperación aumentada Primero cambiar la arquitectura
Latencia excesiva El p95 supera lo que tolera el negocio Red, concurrencia, longitud de salida Primero optimizar
Límites de velocidad frecuentes Los 429 aumentan claramente en horas punta Cuota, claves compartidas, estrategia de reintentos Primero gobernar el consumo
Falta de capacidad Se necesitan multimodalidad o herramientas específicas Lista de capacidades y notas de versión del proveedor Considerar cambio o varios modelos
Requisitos de cumplimiento Los datos no pueden pasar por ciertas rutas o regiones Legal, condiciones de datos, normativa sectorial Elegir según cumplimiento
Estructura de costos inadecuada Salida larga, pocos aciertos de caché, tarifa alta Proporción entrada/salida, número de reintentos Primero reducir costos y luego evaluar

Las señales deben apoyarse en datos, no en la sensación de que «no funciona bien». Revisa durante al menos una semana la tasa de error, la tasa de retrabajo manual, la latencia p95 y el número de 429 antes de iniciar un proceso de selección.

2. Descarta primero los problemas que no son del modelo

Antes de cambiar de modelo, haz una autoevaluación en este orden:

  1. ¿El prompt tiene criterios de aceptación claros? Sin criterios, ningún modelo permite decidir si la salida es buena o mala.
  2. ¿La recuperación trae los fragmentos correctos? Si el RAG recupera mal, incluso el mejor modelo solo puede inventar.
  3. ¿Se está metiendo el documento largo completo? Un contexto demasiado largo eleva la latencia y el costo, y diluye la información clave.
  4. ¿Todas las solicitudes usan un modelo de razonamiento? Para clasificar o extraer datos simples, un modelo de razonamiento es lento y caro.
  5. ¿Varios servicios comparten una sola clave? Las cuotas se disputan entre sí y el síntoma parece «inestabilidad del modelo».
  6. ¿Se usa un nombre de modelo equivocado o una versión antigua? Un 404 o una diferencia de capacidad a veces solo son un problema de configuración.

Si alguno de estos seis puntos presenta un problema claro, corrígelo primero y vuelve a ejecutar la evaluación. Muchas conclusiones de «hay que cambiar de modelo» desaparecen después de este paso.

3. Las alternativas se dividen en cuatro categorías

Tipo Representantes Ventajas Costos Escenarios adecuados
Otros modelos generales locales GLM, Qwen, Doubao, etc. Buen rendimiento en chino, pagos locales y baja latencia Capacidades distintas que requieren pruebas Negocios en China con requisitos claros de cumplimiento
Modelos internacionales Claude, GPT, Gemini Razonamiento complejo, código y ecosistema Acceso, pagos y cumplimiento de datos Tareas de alta dificultad y negocios internacionales
Código abierto autoalojado Modelos de pesos abiertos como Qwen y Llama Datos controlados, personalización y despliegue privado GPU, operación e inversión de ingeniería Equipos con infraestructura y requisitos de aislamiento de datos
Gateway multimodelo ZSQH AI Gateway Una entrada, facturación unificada y modelos intercambiables Depende de la disponibilidad del proveedor Equipos que usan varios proveedores a la vez

La selección no consiste en decidir «quién es el número uno», sino en emparejar la tarea con la herramienta. La atención al cliente en chino, la extracción masiva, el autocompletado de código y el razonamiento complejo tienen requisitos muy distintos; puntuarlos con un único criterio suele llevar a conclusiones erróneas.

4. Evalúa el reemplazo con el mismo conjunto de tareas

  1. Extrae de 30 a 50 tareas reales del negocio, cubriendo niveles simple, medio y complejo.
  2. Escribe criterios de aceptación para cada tarea; si es posible, haz una evaluación ciega con dos personas.
  3. Ejecuta el mismo lote de entradas con el modelo antiguo y el nuevo, manteniendo los parámetros iguales.
  4. Registra la puntuación de calidad, la latencia p50/p95, los tokens de entrada y salida, la tasa de error y el número de reintentos.
  5. Calcula el costo «por tarea completada correctamente», no la tarifa por millón de tokens.
  6. Guarda los ejemplos fallidos y determina si el problema es de capacidad, de prompt o de datos.
Indicador Cómo registrarlo Uso en la decisión
Tasa de aprobación Puntuación manual según los criterios de aceptación Si se alcanza el mínimo del negocio
Tasa de retrabajo Porcentaje que necesita edición humana Costo oculto de personal
Latencia de cola p95 y p99 Si afecta la experiencia del usuario
Estructura de tokens Entrada, salida y aciertos de caché Origen de las diferencias de costo
Tasa de error Porcentaje de 4xx, 5xx y timeouts Estabilidad en producción
Esfuerzo de migración Cambiar configuración o cambiar código Plazo de puesta en marcha

Guarda el nombre del modelo y la Base URL en la configuración, de modo que el reemplazo solo implique cambiar variables de entorno:

import os
from openai import OpenAI

BASE_URL = os.environ.get("API_BASE_URL", "https://ai.zhongshangqihang.com/v1")
MODEL = os.environ.get("API_MODEL", "deepseek-chat")

client = OpenAI(
    api_key=os.environ["API_KEY"],
    base_url=BASE_URL,
)

resp = client.chat.completions.create(
    model=MODEL,
    messages=[{"role": "user", "content": "Extrae esta conversación de atención al cliente en JSON"}],
    max_tokens=512,
)
print(resp.choices[0].message.content)

Si el modelo de destino no es compatible con el protocolo de OpenAI, necesitarás una capa de adaptación; si es compatible, la migración suele consistir en cambiar tres valores de configuración. Los nombres de modelo concretos se rigen por la página de precios del sitio; no copies los de tutoriales antiguos.

5. Pasos de migración

  1. Congela la versión, los parámetros y el prompt del modelo actual, y conserva una configuración que permita revertir.
  2. Ejecuta el nuevo modelo en paralelo, sin tráfico real, y compara solo las salidas.
  3. Desvía entre el 5 % y el 10 % del tráfico y observa la tasa de aprobación, la latencia y la tasa de error.
  4. Prepara un modelo o canal de respaldo al que cambiar automáticamente si falla el principal.
  5. Separa el monitoreo por modelo, escenario y versión para que las diferencias no queden ocultas.
  6. Define condiciones de reversión: si los indicadores cruzan el umbral, vuelve atrás; no insistas por intuición.
  7. Al terminar, actualiza la documentación con el nombre del modelo, los parámetros, las diferencias conocidas y la persona de contacto.

6. Cuándo no conviene cambiar

  • Solo viste el lanzamiento de un modelo nuevo y no hay indicadores del negocio que lo respalden.
  • No tienes un conjunto de evaluación y decides con base en unas pocas conversaciones.
  • El problema está en la recuperación, el prompt, la concurrencia o la red; cambiar de modelo no lo resuelve.
  • El equipo no tiene GPU ni capacidad de operación, pero quiere autoalojar un modelo abierto.
  • El cumplimiento de datos aún no está confirmado; cambiar de modelo antes de resolverlo amplifica el riesgo.

Una opción más prudente es el enrutamiento parcial: el modelo principal sigue atendiendo las tareas masivas en chino y las solicitudes de razonamiento complejo, revisión de código o multimodalidad se desvían a otros modelos según el tipo de tarea. Las reglas de enrutamiento se escriben en el gateway o en la capa de aplicación y eligen el modelo por etiqueta de tarea, en lugar de hacer un cambio total.

Tipo de tarea Recomendación Motivo
Atención al cliente, resumen y reescritura en chino Modelo principal Gran volumen; prioridad a estabilidad y costo
Razonamiento complejo y revisión de arquitectura Modelo de mayor capacidad Hacerlo bien a la primera ahorra más que repetir
Clasificación y extracción de alta concurrencia Modelo ligero Prioridad a latencia y costo
Datos sensibles y despliegue privado Código abierto autoalojado Los datos no salen de la red interna

Preguntas frecuentes

¿Cómo elegir entre DeepSeek, Claude y GPT?

Según la tarea, no según la popularidad. Para procesamiento masivo en chino y escenarios sensibles al costo, DeepSeek puede ser el punto de partida; para razonamiento complejo, código y necesidades específicas de ecosistema, compara con un conjunto de evaluación antes de decidir. No sustituyas una evaluación sistemática por un caso aislado.

¿Cuánto código hay que cambiar para migrar de modelo?

Si el modelo de destino es compatible con el protocolo de OpenAI, normalmente solo cambian tres cosas: la Base URL, la clave y el nombre del modelo. Si usas parámetros propios del proveedor, formatos de llamada a herramientas o campos multimodales, necesitarás una capa de adaptación y pruebas de regresión.

¿Se pueden usar dos modelos a la vez?

Sí. Las prácticas habituales son combinar un modelo principal con uno de respaldo o enrutar por tipo de tarea. El costo es mantener dos conjuntos de evaluación, monitoreo y criterios de facturación, con alguien responsable de ellos.

¿Autoalojar código abierto siempre sale más barato?

No necesariamente. Hay que considerar GPU, ancho de banda, operación, actualización de modelos y costo de personal. Con poco volumen, el costo total del autoalojamiento suele ser mayor que el pago por uso; el aislamiento de datos y la personalización son las razones principales para hacerlo.

¿Qué hago si la calidad baja después del cambio?

Revisa primero si los ejemplos fallidos son un problema de capacidad o de prompt, y después compara con un conjunto de evaluación fijo. Conserva el modelo anterior como opción de reversión y define umbrales claros durante la implementación gradual; no cambies todo el tráfico de una vez.

Próximos pasos

Crea una clave de prueba en ZSQH AI Gateway, conecta DeepSeek y los modelos candidatos a la misma entrada, ejecuta una ronda de comparación con el mismo lote de tareas y calcula el costo con los precios de modelos. La disponibilidad de los modelos se rige por la página de precios.

Lecturas relacionadas: