RAG 知识库调优:评估、切分、检索与重排
2022 年我整理过 一篇 RAG:检索增强生成的收益与天花板,谈了它解决什么问题,又有哪些结构性的限制。这几年 RAG 的工程实践往前走了很多,切分、检索、重排每个环节都沉淀出了更细的方法。这篇把”怎么把知识库从能用调到好用”整理一遍,算是上一篇的续篇。 知识库在 Agent 里的位置 在 Agent 的语境下,知识…
共 4 篇文章
2022 年我整理过 一篇 RAG:检索增强生成的收益与天花板,谈了它解决什么问题,又有哪些结构性的限制。这几年 RAG 的工程实践往前走了很多,切分、检索、重排每个环节都沉淀出了更细的方法。这篇把”怎么把知识库从能用调到好用”整理一遍,算是上一篇的续篇。 知识库在 Agent 里的位置 在 Agent 的语境下,知识…
上一篇给迁移 Agent 建了三层记忆,但经验条目越积越多后,纯向量检索捞不准了。这篇把 RAG 工程细节拉到迁移场景里:混合检索解决组件名精确匹配,重排解决沾边经验混进上下文,拒答阈值拦住不该套用的旧经验。
RAG 接入前应评测 embedding。本文说明如何从真实迁移任务整理查询集、定义召回判据、对比多个 embedding 模型,以及为什么平均相似度和公开榜单不足以替代本地评测。
最近在研究怎么把大模型接到知识库上,RAG 是绕不开的方案。我看了一些资料,也动手试过。这篇先把它的原理、适用范围和限制理一遍。 RAG 是什么 大模型有两个常见问题:知识会过期,训练结束后不会自动更新;模型也会生成看似合理但实际错误的内容,也就是幻觉。 2020 年,Facebook AI Research 在 N…