企业知识助手场景

概览

企业知识助手用于让员工通过自然语言查询制度、产品资料、项目文档、售后案例、技术手册、合同模板、研发说明和运营知识。它通常基于 RAG 架构，把企业私有知识检索结果注入大模型回答。

与通用聊天机器人不同，企业知识助手必须回答“依据是什么”“谁能看到”“知识是否过期”“回答是否可追溯”。

官方可确认的信息

根据 NVIDIA 和 LlamaIndex 官方资料：

• NVIDIA RAG 资料说明 RAG 通过检索外部数据增强生成回答；
• NVIDIA Developer RAG 页面提供 RAG 应用开发相关技术资源；
• LlamaIndex 文档将 RAG 定位为把私有或领域数据接入 LLM 的常见方式；
• Weaviate 和 Pinecone 官方文档面向向量数据库、语义检索和 AI 应用构建；
• vLLM 官方项目面向高吞吐、内存高效的大模型推理服务。

这些事实说明，企业知识助手不是单个模型能力，而是检索、权限、生成、引用和运维共同构成的应用场景。

适用部门

• 售前：快速查询产品方案、案例和参数；
• 客服：检索 FAQ、工单和历史解决方案；
• 研发：查询接口文档、架构说明、故障复盘；
• 人事行政：回答制度、流程和表单问题；
• 法务合规：检索合同模板、条款和合规要求；
• 管理层：汇总项目资料和经营报告。

推荐流程

1. 用户提交问题；
2. 系统根据用户身份过滤可访问知识范围；
3. 进行关键词检索、向量检索和重排；
4. 将命中文档片段和引用来源注入模型上下文；
5. 模型生成回答并返回引用；
6. 用户反馈回答质量；
7. 系统记录日志并进入评测和优化闭环。

关键设计

权限先于检索

企业知识助手应先判断用户能访问哪些知识集合，再进入检索流程。不能先检索全部文档再在回答后过滤。

引用必须可见

回答中应展示文档标题、段落、更新时间或业务系统来源。没有可靠来源时，应提示无法确认，而不是编造答案。

评测必须持续

上线后要持续维护问题集、标准答案、拒答样例和失败案例。知识库更新、模型更新和提示词更新都可能改变回答效果。

工程估算说明

以下不是官方固定配置，而是场景估算方法：

• 小型部门助手可从单模型、单向量库、少量文档集合起步；
• 企业级助手应拆分文档处理、索引、推理、权限和审计服务；
• 并发估算要区分首 token 延迟、完整回答时间、检索耗时和模型生成耗时；
• 质量评估不能只看主观满意度，还要看引用准确率、权限正确率和拒答正确率；
• 如果涉及金融、医疗、政务等敏感行业，必须额外加入脱敏、审计和人工复核。