Qwen 的模型矩阵完整、接入方式成熟,但它不是所有任务的默认答案。真正需要换模型的团队,通常是在某几个维度上遇到了具体问题:长文档成本、代码任务通过率、多模态支持、区域访问,或者单纯想把供应商风险分散开。
本文不排名,而是按中文写作、代码、长上下文、多模态、Agent、接入方式和价格模型逐项拆开,再给一张场景表和一份迁移清单。模型与价格以站内模型价格为准。
说明:Qwen、通义千问、阿里云、百炼、DashScope 是阿里巴巴集团及相关权利人的商标;DeepSeek、GLM、Kimi 等亦为各自权利人的商标。本文仅作技术选型讨论,与上述公司无隶属、代理或合作关系。各家能力、价格和条款会调整,接入前请核对官方文档。
一、先确认问题是否真的出在模型
换供应商之前,先排除四类非模型问题:提示词没有验收标准、检索召回错误、所有请求都用最贵的模型、多个服务共用一把 Key。这些修完后,“必须换模型”的结论往往会消失。
如果确实要换,通常属于以下信号:目标能力缺失(例如需要视觉输入)、长上下文任务成本失控、特定区域访问不稳定、单一供应商故障影响全部业务,或者合规要求数据走另一条路径。信号要落到一周的错误率、返工率和延迟数据上,而不是凭几条对话判断。
二、四个候选的定位差异
| 模型 | 典型侧重 | 多模态 | 接入方式 | 计费特点 |
|---|---|---|---|---|
| Qwen | 模型矩阵全,文本、视觉、长上下文都有对应型号 | 视觉能力较完整 | 阿里云百炼 / DashScope,提供 OpenAI 兼容接口 | 按 Token 计费,部分型号按上下文长度分段 |
| DeepSeek | 文本推理与代码任务的成本控制 | 非主线,以官方模型列表为准 | 自有 API,OpenAI 兼容 | 输入区分缓存命中与未命中,输出单独计价 |
| GLM | 中文任务与多模态组合 | 文本、视觉、图像生成均有覆盖 | 自有开放平台,OpenAI 兼容 | 按 Token 计费,另有 Coding 类订阅 |
| Kimi | 长上下文阅读与 Agent 类任务 | 以官方模型列表为准 | 自有开放平台,OpenAI 兼容 | 按 Token 计费,长输入需实测成本 |
这张表只说明“各家把资源投在哪里”,不代表质量排序。同一个模型在不同体裁、不同提示词下的表现差异,往往比模型之间的平均差距更大。
三、中文写作:按体裁建评测集
中文写作不是一个统一指标。营销文案看转化和语气,公文看格式与措辞,合同看条款一致性,口播稿看节奏。Qwen 和 GLM 在中文语料上积累较深,DeepSeek 的推理能力对结构复杂的稿件有帮助,Kimi 更适合先读长材料再改写。
建议从真实业务抽 30 条任务,覆盖短文案、长文、改写和多轮修改,双人盲评。评分项拆成事实准确、语气匹配、结构完整、可用率四项,避免“读起来顺”掩盖事实错误。写作类任务还要专门测一次数字、人名和引用,这部分比文风更容易出事故。
四、代码与工程任务:用测试通过率说话
代码场景要再细分:单行补全、仓库问答、单测生成、代码评审、跨文件修改,对上下文和工具调用的要求完全不同。Qwen 有面向代码的型号,DeepSeek 在代码任务上使用广泛,GLM 和 Kimi 也都有代码向型号,具体名称与版本以官方文档为准。
评测不要只看“代码像不像”,而要跑单元测试和静态检查,记录首次通过率、修复轮数和引入新问题的比例。仓库问答还要测文件定位准确率。若使用工具调用,确认目标模型支持你要的 JSON Schema、并行调用和流式返回,否则迁移后会卡在适配层。
五、长上下文与多模态:先算输入成本
长上下文能力要分两层看:能不能放进去,以及放进去后能不能答对。把整本年报塞进模型,不代表它能准确引用某一页。测试时用“大海捞针”式问题,把关键句放在开头、中间和结尾各测一次。
成本也要单独算。部分模型对超长输入采用分段计价,输入越长,单价可能越高;缓存命中则能显著降低重复材料的费用。Kimi 和 Qwen 的长上下文型号常被用于文档审阅,但最终选择要用你的文档长度和提问方式实测。
多模态方面,Qwen 的视觉型号覆盖较完整,GLM 有视觉与图像生成组合;DeepSeek 和 Kimi 是否提供同类接口,以其官方模型列表为准。若任务只是 OCR 或表格抽取,专用 OCR 服务可能比通用多模态模型更稳。
六、Agent 与工具调用:稳定性比榜单重要
Agent 场景的失败往往不是“模型不聪明”,而是工具调用格式错误、参数缺失、循环调用或中途放弃。选型时跑一条 15 到 20 步的真实工作流,统计无效工具调用次数、任务完成率和平均步数,比看通用榜单有效。
四家都提供函数调用能力,但参数命名、并行调用和流式事件结构存在差异。若已经有一套 Agent 框架,优先选适配成熟、错误信息清晰的接口;若准备多模型路由,建议在网关层统一工具协议,避免每个模型写一套适配代码。
七、接入方式与区域:三处配置最容易错
四家都提供 OpenAI 兼容接口,迁移通常只改 Base URL、API Key 和模型名三处。但 Qwen 有一个额外注意点:API Key 与区域绑定,北京和新加坡的 Key 不能混用,Base URL 与 Key 不匹配会直接返回 401。阿里云也建议生产环境使用工作空间专属域名。
下面这段代码把四家的配置放进一张表,切换模型时只改环境变量:
import os
from openai import OpenAI
PROFILES = {
"qwen": {
"base_url": os.environ.get(
"QWEN_BASE_URL",
"https://dashscope.aliyuncs.com/compatible-mode/v1",
),
"model": os.environ["QWEN_MODEL"],
},
"deepseek": {
"base_url": os.environ.get("DEEPSEEK_BASE_URL", "https://api.deepseek.com/v1"),
"model": os.environ["DEEPSEEK_MODEL"],
},
"glm": {
"base_url": os.environ.get("GLM_BASE_URL", "https://open.bigmodel.cn/api/paas/v4"),
"model": os.environ["GLM_MODEL"],
},
"kimi": {
"base_url": os.environ.get("KIMI_BASE_URL", "https://api.moonshot.cn/v1"),
"model": os.environ["KIMI_MODEL"],
},
}
def client_for(name: str):
profile = PROFILES[name]
client = OpenAI(
api_key=os.environ[f"{name.upper()}_API_KEY"],
base_url=profile["base_url"],
)
return client, profile["model"]
模型名不要写死在代码里,也不要照搬旧教程。各家会下线旧版本、调整别名指向,模型名以官方文档和站内价格页为准。
八、价格模型:比较“完成合格任务的成本”
四家都按 Token 计费,但结构不同:输入与输出单价分开、缓存命中折扣、长上下文分段计价、批量接口折扣、订阅制套餐、免费额度,都会影响最终账单。只看每百万 Token 的标价,很容易得出相反结论。
更稳妥的算法是:把输入、输出、重试和失败请求都算进去,再除以合格任务数。输出很长、重试很多的任务,真实成本可能是标价的两三倍。需要统一账单和多模型额度时,可以通过中商起航 AI 网关接入,具体倍率与计费方式见模型价格,价格会随官方调整。
九、场景选型表
| 场景 | 建议起点 | 说明 |
|---|---|---|
| 中文营销、客服、摘要 | Qwen 或 GLM | 用同一批样本盲评,别按名气选 |
| 代码补全、单测、评审 | DeepSeek 或 Qwen 代码型号 | 以测试通过率和返工轮数为准 |
| 长文档审阅、资料归纳 | Kimi 或 Qwen 长上下文型号 | 同时测准确引用和输入成本 |
| 图片、截图、表格理解 | Qwen 视觉型号或 GLM 视觉型号 | 先确认分辨率与文件大小限制 |
| 多步 Agent 工作流 | 任一,先压测工具调用 | 重点看无效调用与恢复能力 |
| 多模型统一入口 | API 网关 | 统一 Key、账单、日志和降级 |
十、迁移清单
- 清点所有调用点,标出使用了厂商私有参数的接口。
- 固定当前模型版本快照,保留一份可回滚配置。
- 建立 30 到 50 条真实任务评测集,写清验收标准。
- 新旧模型双跑,参数、提示词和输出长度保持一致。
- 灰度 5% 到 10% 流量,观察合格率、p95 延迟和错误率。
- 配置兜底模型与自动切换,明确什么错误才触发切换。
- 监控按模型、场景和版本拆分,单独统计 429 与超时。
- 更新文档和账单口径,写清模型名、区域和已知差异。
十一、常见问题(FAQ)
1. Qwen API 一定要换吗?
不一定。先确认问题是否来自提示词、检索、并发或网络。只有能力缺口、成本结构或合规要求无法在原地解决时,换模型才有明确收益。
2. DeepSeek、GLM、Kimi 哪个中文最好?
没有统一答案。中文写作、代码注释、长文归纳是三种不同任务,同一模型的表现可能差别很大。用你的真实样本做盲评,比任何榜单都可靠。
3. 换模型要改多少代码?
如果目标模型兼容 OpenAI 协议,通常只改 Base URL、Key 和模型名。若使用了厂商私有参数、多模态字段或特定工具调用格式,需要适配层和回归测试。
4. 长上下文模型能替代 RAG 吗?
不能简单替代。长上下文适合一次性阅读和跨段推理,RAG 适合大知识库和频繁更新的资料。两者可以配合:先检索缩小范围,再用长上下文做深入分析。
5. 多模型怎么统一管理?
常见做法是通过网关统一 Key、计费、日志和模型路由,应用层只认一个 OpenAI 兼容入口。代价是多一层依赖,因此要确认网关的故障转移和额度管理能力。
下一步
先在中商起航 AI 网关创建测试 Key,把 Qwen 和候选模型接到同一入口,用同一批任务跑一轮对比,再按模型价格核算成本。模型可用性与区域限制以官方文档为准。
