一句话先说重点
网上说的蒸馏员工、炼化同事,并不是训练一个全新模型(不是改模型权重那种AI知识蒸馏),是Skill技能包 + RAG知识库 + Agent智能体,把员工的岗位经验、判断逻辑、话术风格打包成一套markdown规则文件,挂载在通用大模型上,做出一个模仿该员工干活的数字分身。
术语借用:AI原生的知识蒸馏,是大模型(教师)教小模型(学生),修改神经网络参数;而职场圈说的「蒸馏员工」是比喻,绝大多数场景只是提炼工作技能包,不改动模型权重。
整体流程(5个标准步骤)
1. 采集原始素材(原材料)
收集这名员工岗位产出,用来提取经验:
- 文档:方案、故障排查手册、运维笔记、SOP、工单记录(像你做信创运维:开天/擎云装机排错文档)
- 对话:钉钉/飞书聊天、邮件、客户沟通记录、历史问答
- 案例:成功案例、踩坑记录、边界异常场景(蓝屏、驱动缺失、BIOS设置等疑难问题)
素材分两类:显性知识(写在文档里)+隐性经验(口头判断、遇到问题怎么思考)
2. 清洗+脱敏,剔除无关信息
删掉隐私、无关闲聊,只保留和岗位决策、处理流程相关内容;
然后交给大模型做提炼,拆成两大块,最终输出.skill包(本质就是几个md文件):
- Work.md(工作技能层):岗位业务逻辑、决策树、操作步骤、判断标准。
例如:遇到联想开天N80Z装Windows,先检查CPU架构,进BIOS关闭安全启动,PE识别硬盘,驱动安装优先级,各类报错处理清单。
- Persona.md(人格风格层):沟通口吻、表述习惯、口头禅、回答风格,让AI说话像这个人。
- SKILL.md:总调度文件,告诉Agent:收到哪类问题,调用什么流程、用什么工具、输出格式、禁止行为、边界红线。
3. 知识库入库(RAG向量库)
把所有原始文档、案例切片,做向量化存入向量数据库。
原理:提问时,AI先检索向量库,取出和当前问题匹配的员工历史案例、文档片段,作为参考材料,再交给大模型生成答案。
相当于给AI带上这个人的全套工作笔记,开卷答题。
4. 绑定Agent技能,接入工具链(进阶)
单纯问答只是复刻话术;真正可以替代干活的蒸馏分身,会绑定工具:
- 调用内部文档系统、工单系统
- 执行脚本、查询日志、生成文档
- 自动按SOP分步执行任务(比如:自动输出信创装机排错方案)
这一步才是“数字员工”,不是单纯聊天机器人。
5. 测试、评测、迭代
拿历史真实工单/问题去测试AI分身,对比原员工的回答:
- 逻辑是否一致、故障处理步骤对不对
- 漏判、幻觉、边界场景问题修正
持续收集反馈,更新skill文档和知识库。
两种路线区分(很关键)
轻量Skill路线(绝大多数企业在用,同事.skill就是这个)
✅ 不用训练模型、不需要GPU微调;只写提示词+md技能文件+RAG知识库;成本低、几天就能做出来;
❌ 只是模仿做事方式,不是复刻人的大脑,遇到完全新场景容易出错。重度LoRA微调 / 真正模型蒸馏(极少用,成本高)
拿员工大量问答样本,去微调大模型或者做模型蒸馏,直接修改模型参数。
✅ 风格、思考逻辑深度模仿;
❌ 需要大量高质量样本、算力,一旦业务规则变更,要重新训练,维护成本很高;企业一般只用于高度标准化窄场景。
拿你的信创运维场景举例子
把一个信创老运维“蒸馏成AI”:
- 素材:他写的开天、擎云装机文档,Windows改装排错工单、历史聊天答疑记录
- 提炼Skill:写清楚判断逻辑:海光/兆芯能装Windows,飞腾龙芯不行;BIOS怎么设置;找不到硬盘、蓝屏、网卡声卡驱动缺失的排查顺序
- RAG入库:所有硬件拆机文档、驱动包说明、故障案例
- Agent配置:收到设备型号+报错,自动调取对应排错流程,输出步骤,甚至生成检查清单
- 测试:拿历史故障案例跑,修正回答错误,持续更新新踩坑案例
风险与合规(重点)
- 数据授权:采集员工聊天记录、个人工作产出,必须获得员工本人同意,未经许可抓取私人工作记录,存在法律风险;
- 能力边界:蒸馏出来的AI只会复刻已有案例,全新复杂故障、跨场景难题,它无法像真人专家一样创新思考;
- 幻觉问题:RAG+Skill一样会编造不存在方案,关键生产业务不能直接交付客户,必须人工复核;
- 知识产权:员工在职期间产出的业务文档归属企业,但个人经验、表达风格存在争议,是现在这个技术最大的伦理讨论点。
最简对比:RAG / Skill蒸馏 / 模型蒸馏
| 方案 | 是否改模型权重 | 核心产出 | 适合场景 |
|---|---|---|---|
| RAG知识库 | ❌ | 向量库+文档 | 资料查询、文档问答 |
| Skill员工蒸馏 | ❌ | md技能包+Agent提示词 | 复刻岗位流程、专家判断、模仿沟通风格 |
| 模型知识蒸馏/LoRA微调 | ✅ | 专属小模型 | 固定窄任务、需要深度模仿 |
最后编辑:月影鹏鹏 更新时间:2026-10-13 11:39