AI怎么”读”你的内容:RAG检索的门道与机会
看懂这个过程,你就知道劲该往哪里使。
老规矩,先把概念用大白话讲清楚。
大模型不是全知的。它的知识停留在训练截止那天,也不认识你的公司、你上周才上线的那个产品页。所以AI搜索系统回答问题前,会先做一件事:去外部资料库里现查一圈,把查到的内容塞给大模型当参考资料,再让它照着写答案。
这套”先查再答”的流程,就叫RAG(检索增强生成)。第8期讲的三段管线,第一段”检索”干的就是这个活。
关键来了:RAG系统查你的内容时,不是整篇读。它先把文档切成一小块一小块——这个动作叫分块(chunking)。用户问题来了,系统拿问题去跟这些小块做语义比对,匹配上哪几块,就把哪几块交给大模型。
你能不能进AI的答案,很大程度取决于:你的内容被切碎之后,每一块还灵不灵。
今天这三篇论文,讲的全是检索系统怎么把”切碎之后的内容”找得更准。它们是给AI搜索平台做的研究,但反过来读,就是一份”内容方配合指南”。
第一篇,SCAR,研究一个特别具体的问题:证据被切断了怎么办。
论文管这叫”边界碎片化”。大白话:内容按固定长度切块,关键证据正好骑在切割线上,一刀两断。论文举的例子很形象——一张财务报表,表头切进了这个块,数据行切进了下一个块;一条法律定义,前半句和后半句分了家。检索系统只捞回半截,大模型拿到的是残缺证据,答出来的东西自然不完整。
这不是小概率事件。他们在四个语料库上做实验——RFC技术标准、GDPR隐私条例、一份10-K年报、一份并购协议——总共320个查询,其中160个(整整一半)都踩中了边界碎片化。
SCAR的解法是”按需扩展”:捞到一个块之后,看邻居块跟问题相不相关、语义上连不连续,值得扩就把邻居带上,不值得就不带。效果数字:边界碎片化查询上拿到92.8%的召回率,平均只用7.84个块;而老办法(无脑把邻居都带上)要用10.16个块,多花22.9%。统计检验做得很足,块数减少这一项高度显著。下游还顺手把上下文token省了27.1%。
对你有什么用?你控制不了AI怎么切你的内容,但你能控制内容的颗粒度。
第二篇,MCompassRAG,来自不列颠哥伦比亚大学、萨勒诺大学和ServiceNow的研究团队。他们盯着分块的另一个两难:
切太细,每块都精确,但块的数量爆炸,搜索空间一大,延迟和成本就上去了;切太大,块是少了,可一个块里混着好几个话题,语义噪声一大,相关证据被无关文字稀释,比对就不准了。
他们的招是:给每个块配一份”主题元数据”,论文里管它叫语义罗盘。原理不复杂——用主题建模算出每个块在讲什么主题,把主题信息跟块本身放进同一个语义空间,检索时既比内容又比主题。再让大模型当老师,蒸馏出一个轻量检索器,推理时不用额外调用大模型。
翻译成人话:图书馆给每本书贴主题标签,找书先看标签再进书架,又快又准。
反过来对你意味着什么?你的内容主题越聚拢,越好被这种系统命中。一篇文章东拉西扯五个话题,切完之后每一块的主题都变得模糊,罗盘不知道该指向哪;主题集中,切出来的每块都指向同一个方向,一查一个准。
落到动作上:一篇内容主打一个主题;标题、摘要、页面描述、schema标记这些”自我介绍”,写清楚、写准确。这些在机器眼里就是主题标签,别浪费。04
第三篇,SproutRAG,团队跟第二篇是同一拨人(不列颠哥伦比亚大学和ServiceNow)。他们接着解决长文档的问题。
长文档的麻烦差不多:大块保连贯但噪声多,小块精确但碎得没边。他们的做法有意思——不靠外部大模型,而是用模型自己的注意力(attention)来感知结构。大白话:模型读句子的时候,会自动”感觉”到哪些句子关系紧密。SproutRAG把这种感觉学出来,将句子级的小块一层层合并成越来越大的语义单元,长成一棵二叉树。
检索的时候在树上做束搜索:小的单元查得细,大的单元查得全,多个粒度一起找。论文里那个例子很直观:一份讲莎士比亚生平的长文档,问”他人生中的哪些变化影响了作品”,答案散落在好几个段落里,树搜索能把它们归拢到一起。
四个基准(科学、法律、开放领域),信息效率平均提升6.1%,证据散落多段的场景提升尤其明显。全程不需要额外的大模型调用,也不做有损摘要。
再翻译一遍:AI读长文不是一行行扫,而是像看目录一样先看结构。你的文档结构越清楚——层级分明的小标题、一段一个意思——AI的注意力就越容易把相关内容串起来。结构混乱的长文,等于把目录撕了再扔给AI。
三篇论文摆在一起,讲的是同一件事的三个侧面:检索系统在拼命想办法”读懂”被切碎的内容。招数各不相同——补邻居、贴标签、建树——但指向同一个结论:
切碎不可避免,你能做的是让每一块都好读。
发三张牌:
第8期收尾说,可抓取、可检索、可引用,三个”可”字缺一不可。这一期我们往”可检索”的肚子里看了一眼:它不是玄学,是切块、比对、贴标签的具体过程。技术每天都在变,但”主题清晰、结构干净、块块自洽”这三条,不管管线怎么升级都不会吃亏。