一、为什么需要RAG?
很多人对AI知识库的想象是“把资料丢给AI,AI就能完美回答”,但实际使用中却发现AI经常出错,即使资料里有现成内容也会胡编乱造。这是因为大模型存在两个明显短板:
- 知识局限性 :大模型的知识是训练时学到的公开通用内容,无法直接学习企业私有信息。
- 上下文窗口限制 :大模型能记住的内容有限,约1M左右大小的文档,超过这个范围就会“记后忘前”。
- 成本与效率问题 :如果把资料直接丢给大模型,每次提问都要处理大量token,成本高、速度慢。
RAG(Retrieval Augmented Generation,检索增强生成)就是为了解决这些问题而诞生的技术。它的核心思路是:先检索出正确答案,再丢给大模型生成答案,而不是把所有资料都塞给大模型。
二、RAG的核心工作流程
RAG的工作流程可以分为五个步骤:切片、向量检索、召回、重排、生成。其中切片和向量检索是提问前的准备工作,召回、重排和生成是用户提问后的处理过程。
1. 切片:把文档切成小块
大模型无法处理太长的文档,所以需要把资料切成小块。切片是RAG的第一个技术活,常见的切片方式有:
- 固定切片 :按固定长度切分,不考虑语义完整性,适用于简单且格式混乱的纯文本。
- 递归切片 :优先按段落换行符切分,超过最大长度时再按句号、逗号递归切分,适用于普通报告和无严格标题的文档。
- 结构切片 :按文档标题层级切分,适用于标题清晰的说明文和规范文档。
- 语义切片 :用模型理解语义,主题变化时才切开,适用于科普叙事类文稿和长段落文档。
- 父子切片 :用子块做检索,父块做回答,适用于产品手册和多维表格文档。
- Agent切片 :用大模型自动切分,成本较高,适用于复杂非标准文档。
不同的文档需要选择合适的切分方式,有时还需要配合使用。
2. 向量检索:把文本变成数字
计算机只认数字,所以需要把文本块转换成向量。向量是一串数字,维度越高能承载的语义细节越多,主流模型的维度是768维或1024维。
向量检索的核心思路是:意思相近的文字,向量也相近;意思不同的文字,向量差异很大。可以通过计算向量之间的距离或夹角来衡量语义相似度。
这一步会形成一张索引表,把所有文本块都转换成向量并存起来。
3. 召回:找到相关的文本块
用户提问后,先把问题转换成向量,然后计算问题向量与知识库中所有向量的相似度,把分数最高的几个向量挑出来,对应的文本块就是召回结果。
召回有两个重要参数:
- Top K :决定召回多少个块,取太大会引入噪声,取太小会漏掉答案。
- 阈值 :相似度低于阈值的块直接排除,避免召回无关内容。
召回只是初筛,只能判断语义相似,不能保证内容真的回答了问题。
4. 重排:给检索结果“复试”
召回结果可能包含无关内容,也可能把因果链的块排在后面。重排模型会把用户问题和召回的答案块拼接后,计算更具逻辑性的相关性得分,只留最准的两到三个给大模型。
重排相当于给检索做了一次复试,能显著提升准确率。
5. 生成:让大模型给出答案
生成步骤需要三样东西:
- 用户的问题
- 重排后的精准资料
- 约束性指令(如“严格按资料回答,资料里没有就说不知道”)
约束性指令很重要,能防止大模型“脑补”出资料里没有的内容。
三、RAG工程落地的难点
RAG原理听起来简单,但工程落地却很难,很多人做出来的知识库根本没法用,主要原因是忽略了以下几个关键步骤:
1. 解析:把二进制变成文本
PDF、Word、Excel等文档底层是二进制文件,需要解析成字符串文本。解析不仅要提取文字,还要保留排版、表格逻辑和标题层级,这样才能进行结构切片。
复杂文档的解析很困难,需要根据文档类型选择不同的解析工具,甚至需要人工审核。
2. 清洗:去掉无用内容
解析出来的内容可能包含页眉、页脚、水印、目录、批注、多余空行等无用信息,需要清洗掉。清洗分为:
- 降噪清洗 :去掉页眉、页脚、水印等噪声。
- 业务清洗 :根据业务需求决定是否删除封面、附录、版权页等内容。
清洗后的文档才是高质量的输入资料,这一步需要人工审核,尤其是不能出错的文档。
3. 元数据:实现权限控制
企业资料通常有不同的权限,比如财务报表只有财务人员能看。可以通过给文档绑定权限元数据来实现权限控制,检索时根据用户权限过滤内容。
4. 混合检索:提升召回准确率
单靠向量检索可能无法区分相似的专有名词(如产品型号),需要结合关键词检索(如BM25模型),按比例计算最终得分,提升召回准确率。
5. 处理用户模糊提问
用户的提问可能很模糊,比如“设备开机报错E03怎么处理”,没有指定型号。这时可以:
- 交互澄清 :追问用户补充信息。
- 问题改写 :从上下文获取缺失信息,补充完整后再检索。
- 调整温度参数 :温度越低,大模型越保守,越不容易“脑补”。
四、RAG的优劣势与高级方案
1. RAG的核心优势
- 成本可控 :不需要投入高额算力微调模型,文档直接接入即可。
- 知识迭代灵活 :资料更新不需要改动模型本身。
- 问题可追溯 :能看到答案出自哪份资料,方便核验。
- 数据安全可控 :不用全部喂给模型训练,配合元数据权限更安全。
2. RAG的明显弊端
- 严重依赖文档质量 :解析和清洗不到位,后续步骤都会出错。
- 向量检索存在语义局限 :只能匹配语义相似,无法理解业务逻辑关系。
- 多文档提取答案难 :普通RAG只能拿到孤立的文本块,容易拼错关系。
3. 高级解决方案
Graph RAG(图谱RAG)
Graph RAG用大模型提取文档中的实体和相互关系,构建知识图谱。当用户提问时,通过实体关系召回相关片段,能解决跨文档的逻辑关系问题。
但Graph RAG的建库和维护成本很高,一般适用于需要大量跨文档且文档更新频率低的场景。
Agentic RAG
Agentic RAG让智能体自动拆解用户问题,生成子查询,直到收集到足够信息再回答。这种方式更合理,但大模型可能存在幻觉,复杂问题容易翻车。
五、总结
RAG原理简单,但工程落地需要处理解析、清洗、元数据、混合检索、用户模糊提问等多个难点。普通RAG有一定局限性,Graph RAG和Agentic RAG是更高级的解决方案,但各有优劣。
实际应用中,需要根据业务需求评估不同技术的效益和风险,合理选择方案配合使用,才能做出真正能用的RAG知识库。
评论和回复0
登录 后即可参与讨论(QQ / GitHub 一键登录,或邮箱注册)。
怎么一条数据都没有呢?