检索增强生成

原标题：Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks 作者：Patrick Lewis et al. (Meta AI) 发表年份：2020 · NeurIPS 一句话价值：RAG 让大模型不再只靠「记忆」回答问题，而是能先「查资料」再回答——这是当前企业 AI 产品最主流的架构模式。

---

30 秒速览

大模型有个致命弱点：它只知道训练时学过的知识，而且经常编造答案（幻觉）。RAG 的解决方案很直觉：让模型在回答之前先去查一下相关资料，基于真实数据来回答。就像一个专家遇到问题时不靠脑子硬想，而是先翻文档找证据。这个简单但强大的想法，成为了企业 AI 产品（客服、知识库、搜索）的标准架构。

---

核心问题

大模型的两大硬伤：

1. 知识过时：模型只知道训练截止日期之前的信息，新产品、新政策一概不知
2. 幻觉问题：没有把握的事情也会自信地编造答案

对产品来说，这意味着用户可能得到过时或错误的信息——这在企业场景（客服、合规、医疗）中是不可接受的。

---

关键创新

1. 检索 + 生成的两步架构

是什么：把 AI 回答问题分成两步：

1. 检索（Retrieval）：根据用户问题，从知识库中找到最相关的文档片段
2. 生成（Generation）：把检索到的文档和用户问题一起交给大模型，让它基于真实资料生成回答

为什么重要：这个架构优雅地解决了幻觉和知识更新问题——模型的回答有据可查，知识库可以随时更新而不需要重新训练模型。

一句话记忆：「RAG 就是让 AI 先查资料再回答，用事实代替猜测。」

2. 向量检索（Dense Retrieval）

是什么：传统搜索是关键词匹配（用户搜「感冒」只能找到含「感冒」的文档）。RAG 用向量检索——把文档和问题都转成数学向量，通过计算向量之间的距离来找到语义相似的内容（用户搜「头疼发烧」也能找到「感冒」的文档）。

为什么重要：语义搜索比关键词搜索更智能，用户不需要精确使用特定词汇就能找到答案。

一句话记忆：「向量检索让搜索从'匹配关键词'升级到'理解含义'。」

3. 端到端可训练

是什么：论文提出检索器和生成器可以一起训练，让检索器学会找到对生成最有帮助的文档。

为什么重要：虽然实际产品中很多团队不做端到端训练（直接用现成的检索和生成组件拼接），但这个思想指明了方向——检索质量直接影响回答质量。

---

产品经理视角

这篇论文改变了什么？

• 之前：企业想用大模型，但无法信任其回答的准确性；知识更新需要重新训练
• 之后：企业可以把自己的知识库接入大模型，获得准确、可追溯、可更新的 AI 服务
• 产品影响：几乎所有企业级 AI 产品（Notion AI、飞书智能助手、企业知识库）都使用 RAG 架构

你应该知道的数据

• RAG 在知识密集型问答任务上将准确率提升了 15-20%
• 对比直接用大模型，RAG 的幻觉率降低了约 40-60%（具体取决于实现质量）
• 企业 RAG 系统的核心指标：检索准确率（Recall@K）通常需要达到 80% 以上才能保证良好体验

实际应用场景

1. 企业知识库：员工提问 → 从公司文档中检索 → 生成准确回答（如飞书智能问答）
2. 客服机器人：用户提问 → 检索产品文档和 FAQ → 基于检索结果回答
3. 法律 / 医疗 AI：需要基于专业文献回答，不能编造——RAG 提供了可追溯的信息源

---

面试高频问题

Q1: RAG 和 Fine-tuning 怎么选？

参考回答：两者解决不同问题。RAG 解决的是「知识」问题——模型需要访问特定的、经常更新的信息（比如公司文档、产品手册）。Fine-tuning 解决的是「能力」问题——模型需要学会特定的输出格式或推理方式（比如特定领域的专业语言）。实际产品中最常见的做法是两者结合：用 Fine-tuning 调整模型的表达风格和推理方式，用 RAG 注入实时知识。选择优先级上，我建议先 RAG 后 Fine-tuning——RAG 的 ROI 通常更高，因为不需要训练成本。

Q2: RAG 系统设计有哪些关键决策点？

参考回答：主要有四个：第一是分块策略（Chunking）——文档切成多大的片段，太大不精准，太小丢上下文，一般 500-1000 tokens 是起点；第二是向量模型选择——影响检索质量，要在精度和速度间权衡；第三是检索数量（Top-K）——返回多少个片段给模型，通常 3-5 个，太多会引入噪音；第四是是否需要 Reranking——先粗检索再精排序，提升相关性。

Q3: RAG 有什么局限性？

参考回答：主要有三个：第一，检索质量是瓶颈——如果检索不到正确的文档，生成的回答一定是错的，这就是所谓的"垃圾进垃圾出"；第二，多跳推理能力弱——如果答案需要综合多个文档片段的信息，简单的 RAG 可能做不好；第三，上下文窗口的限制——检索到的文档需要放进 Prompt 里，占用 token 配额。针对这些问题，业界有 GraphRAG、多轮检索、Agentic RAG 等改进方案。

---

与其他论文的关系

• 前置知识：Transformer 基础，向量嵌入（Embedding）概念
• 后续发展：
  • LlamaIndex / LangChain（2022-2023）：RAG 的工程化框架，大幅降低了开发门槛
  • GraphRAG（2024）：微软提出的图结构 RAG，提升了跨文档推理能力
  • Agentic RAG：让 AI Agent 自主决定何时检索、检索什么
• 对比论文：与 Fine-tuning 相比，RAG 不修改模型参数，更灵活但依赖检索质量

---

一页纸总结