事件概述：技能蒸馏的局限与RAG的核心价值

当前关于“同事技能蒸馏”的讨论存在误区。许多所谓的技能蒸馏仅提取了员工工作中最易自动化、最标准化的操作流程（Workflow/SOP），却忽略了人类决策背后的核心逻辑——即“为什么这么做”。

• 技能蒸馏的本质：目前的技术手段往往只能蒸馏出固定的操作顺序、标准模板和常用话术，属于对动作的模仿。
• 缺失的关键环节：人类员工在决策时依赖的是上下文理解、规则制度、历史案例印证以及对信息的批判性判断。这些需要动态知识支撑的能力，仅靠静态的Prompt或预设流程无法实现。
• 结论：抛开RAG（检索增强生成）谈技能蒸馏，本质上是在搞形式主义，无法解决实际问题。

核心信息：RAG为何不可或缺

RAG是目前连接大模型与私有/外部知识最有效的技术方案，主要解决了大模型的以下四大缺陷：

1. 知识时效性：大模型仅掌握训练截止前的公开知识，无法感知外部世界的实时变化。
2. 幻觉问题：面对不确定的知识，模型容易一本正经地胡说八道。
3. 可解释性与溯源：在法律、医疗等严肃场景，模型需提供答案的证据链，而非黑盒输出。
4. 上下文限制与成本：将所有私有知识直接作为提示词输入会导致Token消耗巨大、响应缓慢且干扰信息过多。

RAG工作原理简述

RAG流程分为两个核心阶段：

1. 知识入库（索引构建）

• 分块策略（Chunking）：将文档切分为语义完整的片段。常用策略包括固定长度、滑动窗口（推荐，平衡成本与效果）、结构分块及语义分块。
• 向量化存储：使用向量模型将文本片段转化为向量，存入向量数据库；原始片段存入传统数据库，通过ID关联。

2. 知识检索与生成

• 查询处理：对用户问题进行改写（消除指代、标准化表达、拆解复杂问题）以提升命中率。
• 混合检索：结合向量检索（语义相似）与全文检索（关键词精准匹配），通常采用并行召回后融合（如RRF算法）的策略。
• 重排（Rerank）：利用重排模型对召回的候选片段进行相关性打分排序，筛选出最相关内容。
• 生成回答：将精选的知识片段注入Prompt，引导大模型基于事实生成答案。

值得关注：Skills + RAG 的演进范式

要真正实现“员工技能蒸馏”，必须将Skills（工作流定义）与RAG（动态知识支撑）结合，并引入模型的局部推理能力。

架构设计逻辑

• Skills（骨架）：负责定义任务流程、判断何时检索、检索什么内容以及最终的回答格式。它决定了“怎么做”。
• RAG（血肉）：负责在关键时刻动态获取最新、最相关的私有知识，提供“为什么这么做”的依据。它决定了知识的准确性与时效性。
• 模型（大脑）：负责基于检索到的多源信息进行冲突检测、过期判断、逻辑推理，最终生成可信结论。

实践方案示例

一个具备实际价值的“客服同事技能”应包含以下闭环步骤：

1. 意图分类：Skill首先识别用户问题类型（如退换货、投诉、政策咨询）。
2. 动态检索：根据意图，调用RAG接口从指定知识库（如最新政策库、历史案例库）中并行检索相关信息。支持混合检索与自动查询改写。
3. 局部推理：模型接收检索结果后，执行关键判断：
   • 标记过期或无关片段。
   • 识别不同资料间的冲突。
   • 基于最可信的1-2个片段形成回答草稿。
4. 兜底机制：若信息不足或置信度低，明确告知需人工介入。

技术选型建议

• 开发平台：Coze、Dify、FastGPT、RAGFlow等平台已封装RAG流程，适合快速验证；工程团队可选择自研以优化底层性能。
• 向量数据库：小规模可用FAISS+SQLite；生产环境推荐PostgreSQL+pgvector（便于混合检索）或Milvus/Pinecone（高性能需求）。
• 模型配置：中文场景推荐使用阿里text-embedding-v4等国内厂商模型；重排模型可选qwen3-rerank等高精度模型。

总结：只有当Skills定义了流程，RAG提供了动态证据，且模型具备了基于证据的推理能力时，AI才能真正模拟人类员工的高级工作能力，而非仅仅是一个只会复述SOP的脚本工具。