向量库并不负责“回答问题”,它在 RAG 中承担的是把知识库变成可按语义检索的证据集合。生成模型擅长组织语言,却未必掌握企业内部文档或刚更新的信息;向量库的价值,正是在提问发生时,从大量文本片段中找出与问题含义最接近的内容,供模型据此作答。

文档进入系统前,通常会先被切分成较短的段落,再分别转化为向量并写入向量库。这里的向量可以理解为文本语义的数字化表示:措辞不完全相同、但表达含义接近的句子,在向量空间中的位置往往更接近。因此,用户提问也被转成向量后,系统不必只依赖关键词匹配,而能检索语义相近的段落。
RAG 的生成阶段只能基于送入上下文的信息展开。向量库检索到的片段如果准确,模型就有机会引用可靠内容;如果检索结果偏题、混杂或缺失,即使模型表达流畅,答案也可能失去依据。换言之,向量库不是附属存储,而是连接“用户问题”和“知识证据”的检索层。
这也解释了为什么文档切分很关键。段落过长,单个向量会混入多个主题,匹配结果不够聚焦;切得过碎,必要的上下文又可能被拆散。合适的片段应尽量围绕一个可回答的信息单元,让检索结果既相关,又保留足够解释空间。
向量相近只表示语义相关,不等于内容一定能直接回答问题。实际流程中,检索出的多个片段需要经过筛选,再与用户问题一起交给生成模型。较少但高质量的证据,通常比大量边缘相关文本更有用;同时保留来源名称或编号,也便于核验模型的表述是否确有依据。
因此,评估 RAG 时不应只看生成文本是否通顺,还要追问三个问题:向量库是否收录了需要的知识,切分后的片段是否表达完整,以及检索结果是否真正覆盖了问题。前两者决定可检索性,后者决定答案的可信边界。
参与讨论
暂无评论,快来发表你的观点吧!