企业AI选型：工程深度比模型参数更重要

核心观点

• 参数规模并非AI落地价值的决定因素：模型越大，通用能力通常越强，但一个AI系统是否真正好用，取决于任务是否被定义、知识是否被组织、行为是否被约束，而非仅凭参数量。
• 任务越收敛，工程设计越重要：当任务边界清晰后，固定提示词、微调、输出格式校验等工程手段可压缩模型的自主猜测空间，此时9B、27B、80B等不同规模模型的效果差距远小于开放聊天场景。
• 小模型在特定任务中更稳定：作者在客服场景测试中发现，经自有数据微调的9B模型表现最佳——它精准贴合业务语言和产品边界，输出风格稳定，而RAG方案虽知识准确但缺乏稳定的判断方式。
• 分层模型分工是成熟AI系统的特征：不同规模模型各司其职：9B处理高频明确任务（如客服、固定产品解释），27B处理复杂格式输出，80B/122B及前沿模型处理开放问题与复杂推理，代码专用模型处理编程操作。这与传统软件架构的分层逻辑一致。

关键发现

• RAG、微调、提示词、工作流解决不同问题：RAG解决“模型知道什么”，微调改变“模型习惯如何回答”，提示词说明“当前具体要做什么”，工作流保证结果可用。一个拥有资料库但未经训练的员工，可能知道答案位置，却不知以何种立场和边界回答。
• 小模型的确定性优势：经过针对性训练后，小模型更易表现出稳定表达风格、更少无关发挥、更快响应、更易复现的输出、清晰的能力边界及更低的批量运行成本。
• 生产系统追求稳定而非惊艳：聊天场景喜欢意外和创造力，而生产系统需要一致、可控、可复现。将全量任务交给大模型且缺乏工程支撑，只会得到更贵且不稳定的系统。

结论

• 企业应追求最合适的模型，而非最大模型：最终决定系统质量的是模型、数据、流程与边界之间的配合程度。会使用大模型不等于会建设AI系统——后者负责定义模型不需要聪明的部分。
• 真正成熟的AI系统，是让系统越来越不需要依赖模型的偶然聪明：通过将模糊输入变为固定字段、自由输出变为结构化结果、易出错判断变为规则、失败情况纳入重试与回退、高风险操作放到模型之外验证，即可减少对模型临场能力的依赖。