RAG知识库:从原理到落地的全流程解析

2026年11月17日 01:16:56 2 次阅读约 6 分钟原创自x先生

一、为什么需要RAG?

很多人对AI知识库的想象是“把资料丢给AI,AI就能完美回答”,但实际使用中却发现AI经常出错,即使资料里有现成内容也会胡编乱造。这是因为大模型存在两个明显短板:

  1. 知识局限性 :大模型的知识是训练时学到的公开通用内容,无法直接学习企业私有信息。
  2. 上下文窗口限制 :大模型能记住的内容有限,约1M左右大小的文档,超过这个范围就会“记后忘前”。
  3. 成本与效率问题 :如果把资料直接丢给大模型,每次提问都要处理大量token,成本高、速度慢。

RAG(Retrieval Augmented Generation,检索增强生成)就是为了解决这些问题而诞生的技术。它的核心思路是:先检索出正确答案,再丢给大模型生成答案,而不是把所有资料都塞给大模型。

二、RAG的核心工作流程

RAG的工作流程可以分为五个步骤:切片、向量检索、召回、重排、生成。其中切片和向量检索是提问前的准备工作,召回、重排和生成是用户提问后的处理过程。

1. 切片:把文档切成小块

大模型无法处理太长的文档,所以需要把资料切成小块。切片是RAG的第一个技术活,常见的切片方式有:

  • 固定切片 :按固定长度切分,不考虑语义完整性,适用于简单且格式混乱的纯文本。
  • 递归切片 :优先按段落换行符切分,超过最大长度时再按句号、逗号递归切分,适用于普通报告和无严格标题的文档。
  • 结构切片 :按文档标题层级切分,适用于标题清晰的说明文和规范文档。
  • 语义切片 :用模型理解语义,主题变化时才切开,适用于科普叙事类文稿和长段落文档。
  • 父子切片 :用子块做检索,父块做回答,适用于产品手册和多维表格文档。
  • Agent切片 :用大模型自动切分,成本较高,适用于复杂非标准文档。

不同的文档需要选择合适的切分方式,有时还需要配合使用。

2. 向量检索:把文本变成数字

计算机只认数字,所以需要把文本块转换成向量。向量是一串数字,维度越高能承载的语义细节越多,主流模型的维度是768维或1024维。

向量检索的核心思路是:意思相近的文字,向量也相近;意思不同的文字,向量差异很大。可以通过计算向量之间的距离或夹角来衡量语义相似度。

这一步会形成一张索引表,把所有文本块都转换成向量并存起来。

3. 召回:找到相关的文本块

用户提问后,先把问题转换成向量,然后计算问题向量与知识库中所有向量的相似度,把分数最高的几个向量挑出来,对应的文本块就是召回结果。

召回有两个重要参数:

  • Top K :决定召回多少个块,取太大会引入噪声,取太小会漏掉答案。
  • 阈值 :相似度低于阈值的块直接排除,避免召回无关内容。

召回只是初筛,只能判断语义相似,不能保证内容真的回答了问题。

4. 重排:给检索结果“复试”

召回结果可能包含无关内容,也可能把因果链的块排在后面。重排模型会把用户问题和召回的答案块拼接后,计算更具逻辑性的相关性得分,只留最准的两到三个给大模型。

重排相当于给检索做了一次复试,能显著提升准确率。

5. 生成:让大模型给出答案

生成步骤需要三样东西:

  1. 用户的问题
  2. 重排后的精准资料
  3. 约束性指令(如“严格按资料回答,资料里没有就说不知道”)

约束性指令很重要,能防止大模型“脑补”出资料里没有的内容。

三、RAG工程落地的难点

RAG原理听起来简单,但工程落地却很难,很多人做出来的知识库根本没法用,主要原因是忽略了以下几个关键步骤:

1. 解析:把二进制变成文本

PDF、Word、Excel等文档底层是二进制文件,需要解析成字符串文本。解析不仅要提取文字,还要保留排版、表格逻辑和标题层级,这样才能进行结构切片。

复杂文档的解析很困难,需要根据文档类型选择不同的解析工具,甚至需要人工审核。

2. 清洗:去掉无用内容

解析出来的内容可能包含页眉、页脚、水印、目录、批注、多余空行等无用信息,需要清洗掉。清洗分为:

  • 降噪清洗 :去掉页眉、页脚、水印等噪声。
  • 业务清洗 :根据业务需求决定是否删除封面、附录、版权页等内容。

清洗后的文档才是高质量的输入资料,这一步需要人工审核,尤其是不能出错的文档。

3. 元数据:实现权限控制

企业资料通常有不同的权限,比如财务报表只有财务人员能看。可以通过给文档绑定权限元数据来实现权限控制,检索时根据用户权限过滤内容。

4. 混合检索:提升召回准确率

单靠向量检索可能无法区分相似的专有名词(如产品型号),需要结合关键词检索(如BM25模型),按比例计算最终得分,提升召回准确率。

5. 处理用户模糊提问

用户的提问可能很模糊,比如“设备开机报错E03怎么处理”,没有指定型号。这时可以:

  • 交互澄清 :追问用户补充信息。
  • 问题改写 :从上下文获取缺失信息,补充完整后再检索。
  • 调整温度参数 :温度越低,大模型越保守,越不容易“脑补”。

四、RAG的优劣势与高级方案

1. RAG的核心优势

  • 成本可控 :不需要投入高额算力微调模型,文档直接接入即可。
  • 知识迭代灵活 :资料更新不需要改动模型本身。
  • 问题可追溯 :能看到答案出自哪份资料,方便核验。
  • 数据安全可控 :不用全部喂给模型训练,配合元数据权限更安全。

2. RAG的明显弊端

  • 严重依赖文档质量 :解析和清洗不到位,后续步骤都会出错。
  • 向量检索存在语义局限 :只能匹配语义相似,无法理解业务逻辑关系。
  • 多文档提取答案难 :普通RAG只能拿到孤立的文本块,容易拼错关系。

3. 高级解决方案

Graph RAG(图谱RAG)

Graph RAG用大模型提取文档中的实体和相互关系,构建知识图谱。当用户提问时,通过实体关系召回相关片段,能解决跨文档的逻辑关系问题。

但Graph RAG的建库和维护成本很高,一般适用于需要大量跨文档且文档更新频率低的场景。

Agentic RAG

Agentic RAG让智能体自动拆解用户问题,生成子查询,直到收集到足够信息再回答。这种方式更合理,但大模型可能存在幻觉,复杂问题容易翻车。

五、总结

RAG原理简单,但工程落地需要处理解析、清洗、元数据、混合检索、用户模糊提问等多个难点。普通RAG有一定局限性,Graph RAG和Agentic RAG是更高级的解决方案,但各有优劣。

实际应用中,需要根据业务需求评估不同技术的效益和风险,合理选择方案配合使用,才能做出真正能用的RAG知识库。

本作品系 原创,作者: x先生

原文链接: https://www.shiniest.cn/blog/article/tpq47k4J

文本版权: 文本版权归作者所有

转载需署名并注明出处(禁止商业使用)

评论和回复0

登录 后即可参与讨论(QQ / GitHub 一键登录,或邮箱注册)。

怎么一条数据都没有呢?