Qwen 的模型矩阵完整、接入方式成熟,但它不是所有任务的默认答案。真正需要换模型的团队,通常是在某几个维度上遇到了具体问题:长文档成本、代码任务通过率、多模态支持、区域访问,或者单纯想把供应商风险分散开。

本文不排名,而是按中文写作、代码、长上下文、多模态、Agent、接入方式和价格模型逐项拆开,再给一张场景表和一份迁移清单。模型与价格以站内模型价格为准。

说明:Qwen、通义千问、阿里云、百炼、DashScope 是阿里巴巴集团及相关权利人的商标;DeepSeek、GLM、Kimi 等亦为各自权利人的商标。本文仅作技术选型讨论,与上述公司无隶属、代理或合作关系。各家能力、价格和条款会调整,接入前请核对官方文档。

一、先确认问题是否真的出在模型

换供应商之前,先排除四类非模型问题:提示词没有验收标准、检索召回错误、所有请求都用最贵的模型、多个服务共用一把 Key。这些修完后,“必须换模型”的结论往往会消失。

如果确实要换,通常属于以下信号:目标能力缺失(例如需要视觉输入)、长上下文任务成本失控、特定区域访问不稳定、单一供应商故障影响全部业务,或者合规要求数据走另一条路径。信号要落到一周的错误率、返工率和延迟数据上,而不是凭几条对话判断。

二、四个候选的定位差异

模型 典型侧重 多模态 接入方式 计费特点
Qwen 模型矩阵全,文本、视觉、长上下文都有对应型号 视觉能力较完整 阿里云百炼 / DashScope,提供 OpenAI 兼容接口 按 Token 计费,部分型号按上下文长度分段
DeepSeek 文本推理与代码任务的成本控制 非主线,以官方模型列表为准 自有 API,OpenAI 兼容 输入区分缓存命中与未命中,输出单独计价
GLM 中文任务与多模态组合 文本、视觉、图像生成均有覆盖 自有开放平台,OpenAI 兼容 按 Token 计费,另有 Coding 类订阅
Kimi 长上下文阅读与 Agent 类任务 以官方模型列表为准 自有开放平台,OpenAI 兼容 按 Token 计费,长输入需实测成本

这张表只说明“各家把资源投在哪里”,不代表质量排序。同一个模型在不同体裁、不同提示词下的表现差异,往往比模型之间的平均差距更大。

三、中文写作:按体裁建评测集

中文写作不是一个统一指标。营销文案看转化和语气,公文看格式与措辞,合同看条款一致性,口播稿看节奏。Qwen 和 GLM 在中文语料上积累较深,DeepSeek 的推理能力对结构复杂的稿件有帮助,Kimi 更适合先读长材料再改写。

建议从真实业务抽 30 条任务,覆盖短文案、长文、改写和多轮修改,双人盲评。评分项拆成事实准确、语气匹配、结构完整、可用率四项,避免“读起来顺”掩盖事实错误。写作类任务还要专门测一次数字、人名和引用,这部分比文风更容易出事故。

四、代码与工程任务:用测试通过率说话

代码场景要再细分:单行补全、仓库问答、单测生成、代码评审、跨文件修改,对上下文和工具调用的要求完全不同。Qwen 有面向代码的型号,DeepSeek 在代码任务上使用广泛,GLM 和 Kimi 也都有代码向型号,具体名称与版本以官方文档为准。

评测不要只看“代码像不像”,而要跑单元测试和静态检查,记录首次通过率、修复轮数和引入新问题的比例。仓库问答还要测文件定位准确率。若使用工具调用,确认目标模型支持你要的 JSON Schema、并行调用和流式返回,否则迁移后会卡在适配层。

五、长上下文与多模态:先算输入成本

长上下文能力要分两层看:能不能放进去,以及放进去后能不能答对。把整本年报塞进模型,不代表它能准确引用某一页。测试时用“大海捞针”式问题,把关键句放在开头、中间和结尾各测一次。

成本也要单独算。部分模型对超长输入采用分段计价,输入越长,单价可能越高;缓存命中则能显著降低重复材料的费用。Kimi 和 Qwen 的长上下文型号常被用于文档审阅,但最终选择要用你的文档长度和提问方式实测。

多模态方面,Qwen 的视觉型号覆盖较完整,GLM 有视觉与图像生成组合;DeepSeek 和 Kimi 是否提供同类接口,以其官方模型列表为准。若任务只是 OCR 或表格抽取,专用 OCR 服务可能比通用多模态模型更稳。

六、Agent 与工具调用:稳定性比榜单重要

Agent 场景的失败往往不是“模型不聪明”,而是工具调用格式错误、参数缺失、循环调用或中途放弃。选型时跑一条 15 到 20 步的真实工作流,统计无效工具调用次数、任务完成率和平均步数,比看通用榜单有效。

四家都提供函数调用能力,但参数命名、并行调用和流式事件结构存在差异。若已经有一套 Agent 框架,优先选适配成熟、错误信息清晰的接口;若准备多模型路由,建议在网关层统一工具协议,避免每个模型写一套适配代码。

七、接入方式与区域:三处配置最容易错

四家都提供 OpenAI 兼容接口,迁移通常只改 Base URL、API Key 和模型名三处。但 Qwen 有一个额外注意点:API Key 与区域绑定,北京和新加坡的 Key 不能混用,Base URL 与 Key 不匹配会直接返回 401。阿里云也建议生产环境使用工作空间专属域名。

下面这段代码把四家的配置放进一张表,切换模型时只改环境变量:

import os
from openai import OpenAI

PROFILES = {
    "qwen": {
        "base_url": os.environ.get(
            "QWEN_BASE_URL",
            "https://dashscope.aliyuncs.com/compatible-mode/v1",
        ),
        "model": os.environ["QWEN_MODEL"],
    },
    "deepseek": {
        "base_url": os.environ.get("DEEPSEEK_BASE_URL", "https://api.deepseek.com/v1"),
        "model": os.environ["DEEPSEEK_MODEL"],
    },
    "glm": {
        "base_url": os.environ.get("GLM_BASE_URL", "https://open.bigmodel.cn/api/paas/v4"),
        "model": os.environ["GLM_MODEL"],
    },
    "kimi": {
        "base_url": os.environ.get("KIMI_BASE_URL", "https://api.moonshot.cn/v1"),
        "model": os.environ["KIMI_MODEL"],
    },
}

def client_for(name: str):
    profile = PROFILES[name]
    client = OpenAI(
        api_key=os.environ[f"{name.upper()}_API_KEY"],
        base_url=profile["base_url"],
    )
    return client, profile["model"]

模型名不要写死在代码里,也不要照搬旧教程。各家会下线旧版本、调整别名指向,模型名以官方文档和站内价格页为准。

八、价格模型:比较“完成合格任务的成本”

四家都按 Token 计费,但结构不同:输入与输出单价分开、缓存命中折扣、长上下文分段计价、批量接口折扣、订阅制套餐、免费额度,都会影响最终账单。只看每百万 Token 的标价,很容易得出相反结论。

更稳妥的算法是:把输入、输出、重试和失败请求都算进去,再除以合格任务数。输出很长、重试很多的任务,真实成本可能是标价的两三倍。需要统一账单和多模型额度时,可以通过中商起航 AI 网关接入,具体倍率与计费方式见模型价格,价格会随官方调整。

九、场景选型表

场景 建议起点 说明
中文营销、客服、摘要 Qwen 或 GLM 用同一批样本盲评,别按名气选
代码补全、单测、评审 DeepSeek 或 Qwen 代码型号 以测试通过率和返工轮数为准
长文档审阅、资料归纳 Kimi 或 Qwen 长上下文型号 同时测准确引用和输入成本
图片、截图、表格理解 Qwen 视觉型号或 GLM 视觉型号 先确认分辨率与文件大小限制
多步 Agent 工作流 任一,先压测工具调用 重点看无效调用与恢复能力
多模型统一入口 API 网关 统一 Key、账单、日志和降级

十、迁移清单

  1. 清点所有调用点,标出使用了厂商私有参数的接口。
  2. 固定当前模型版本快照,保留一份可回滚配置。
  3. 建立 30 到 50 条真实任务评测集,写清验收标准。
  4. 新旧模型双跑,参数、提示词和输出长度保持一致。
  5. 灰度 5% 到 10% 流量,观察合格率、p95 延迟和错误率。
  6. 配置兜底模型与自动切换,明确什么错误才触发切换。
  7. 监控按模型、场景和版本拆分,单独统计 429 与超时。
  8. 更新文档和账单口径,写清模型名、区域和已知差异。

十一、常见问题(FAQ)

1. Qwen API 一定要换吗?

不一定。先确认问题是否来自提示词、检索、并发或网络。只有能力缺口、成本结构或合规要求无法在原地解决时,换模型才有明确收益。

2. DeepSeek、GLM、Kimi 哪个中文最好?

没有统一答案。中文写作、代码注释、长文归纳是三种不同任务,同一模型的表现可能差别很大。用你的真实样本做盲评,比任何榜单都可靠。

3. 换模型要改多少代码?

如果目标模型兼容 OpenAI 协议,通常只改 Base URL、Key 和模型名。若使用了厂商私有参数、多模态字段或特定工具调用格式,需要适配层和回归测试。

4. 长上下文模型能替代 RAG 吗?

不能简单替代。长上下文适合一次性阅读和跨段推理,RAG 适合大知识库和频繁更新的资料。两者可以配合:先检索缩小范围,再用长上下文做深入分析。

5. 多模型怎么统一管理?

常见做法是通过网关统一 Key、计费、日志和模型路由,应用层只认一个 OpenAI 兼容入口。代价是多一层依赖,因此要确认网关的故障转移和额度管理能力。

下一步

先在中商起航 AI 网关创建测试 Key,把 Qwen 和候选模型接到同一入口,用同一批任务跑一轮对比,再按模型价格核算成本。模型可用性与区域限制以官方文档为准。

相关阅读