先说结论
企业 AI 客服应按风险分层：低风险常见问题可基于知识库回答，中风险问题由 AI 起草、人确认，高风险承诺和业务动作必须鉴权、确认或转人工。核心指标是解决质量和恢复能力，不是自动回复比例。
读完你会得到
- 按问题风险设计自动化边界。
- 把知识检索、回复和业务动作分开控制。
- 建立客服专用评测与转人工规则。
客服场景同时包含语言理解、知识检索和业务动作。将三者混成一个“万能客服机器人”，会让错误难以定位，也会把模型错误放大为真实业务后果。
先按风险分层，再决定自动化程度
| 任务 | 建议模式 | 关键控制 |
|---|---|---|
| 公开 FAQ 与使用说明 | 知识库回答 | 引用来源、无法回答时拒答 |
| 订单、账户等个性化查询 | 鉴权后调用只读工具 | 身份校验、最小权限、日志 |
| 退款、改价、取消等动作 | 生成建议 + 人工确认 | 下游授权、二次确认、可撤回 |
| 投诉、法律、重大承诺 | 优先转人工 | 完整上下文交接、时效提醒 |
本节依据： [1] OWASP Foundation [2] NIST
一条可控的 AI 客服工作流
- 识别意图与风险
区分咨询、查询、动作和高风险表达。
- 补齐必要信息
信息不足时追问，涉及账户时先鉴权。
- 检索或调用工具
知识问题查权威资料，业务问题调用受限接口。
- 生成并校验回复
检查依据、承诺、格式与敏感信息。
- 回复或转人工
低风险直接答，其余确认或完整交接。
- 记录结果
收集是否解决、人工修改与失败类型。
转人工不是失败，而是服务设计的一部分
- 用户主动要求
提供清晰可见的人工入口。
- 缺少可靠依据
知识库没有答案或来源冲突。
- 权限或身份异常
无法完成鉴权或请求超出权限。
- 高风险或不可逆动作
涉及资金、账户、合同或重大承诺。
- 连续理解失败
设定有限重试，避免让用户反复解释。
- 情绪与投诉升级
把已知上下文和尝试步骤一并交给人员。
不要只追求自动回复率
| 类别 | 应该观察 | 为什么 |
|---|---|---|
| 解决质量 | 正确、完整、依据充分 | 回复了不等于解决 |
| 安全与权限 | 越权、敏感信息、错误动作 | 一次高风险错误可能超过效率收益 |
| 客户体验 | 重复追问、转人工等待、满意反馈 | 防止自动化把成本转嫁给用户 |
| 运营效率 | 人工处理时间、返工、任务覆盖 | 衡量真实业务价值 |
| 恢复能力 | 拒答、转人工、重试和回滚 | 生产系统必须能安全失败 |
常见问题
AI 客服可以完全替代人工吗？
不应把“完全替代”作为默认目标。知识缺失、身份异常、高风险动作、投诉和复杂协商都需要可靠转人工。更合理的目标是让自动化处理适合的部分，同时提升人工获得上下文和处理复杂问题的效率。
先做知识库还是先做客服机器人？
通常先盘点真实问题与权威答案，再建设小范围知识库和评测集。没有可靠知识与维护机制，聊天界面再自然也无法稳定回答。
资料来源与核对说明
文章中的行业定义与技术方法尽量引用官方或标准组织资料；表格、清单和决策框架是基于这些资料形成的编辑性整理，不代表来源机构对本站服务的背书。
- OWASP Top 10 for Large Language Model ApplicationsOWASP Foundation
用于核对提示注入、输出处理、敏感信息泄露和过度代理等常见安全风险。
- Generative Artificial Intelligence ProfileNIST
用于识别生成式 AI 全生命周期的特有风险，并把风险管理纳入设计与运营。
- What is Retrieval-Augmented Generation (RAG)?Google Cloud
用于解释 RAG 的检索、预处理、基于检索事实生成，以及知识库质量对结果的影响。
- Evaluation best practicesOpenAI Developers
用于建立任务级评测：定义目标、收集数据、设置指标、运行比较并持续评估。
带上流程、样例和目标，添加企业微信沟通。首次沟通先判断是否值得做，不承诺没有数据依据的结果。