AI学什么(第7期)：什么是检索增强生成（RAG）？
AI学什么(第7期)：什么是检索增强生成（RAG）？
AI学什么(第7期)：什么是检索增强生成（RAG）？ AI学什么(第7期)：什么是检索增强生成（RAG）？ Modified July 22, 2025 图书馆长与作家的搭档 RAG技术的工作原理可以比作两个角色的协作：图书馆长和作家。 图书馆长 （检索系统）负责： • 整理和分类书籍（知识库构建） • 理解每本书的内容和主题（向量化） • 当有人询问问题时，快速找到相关书籍和页面（相关性检索） 作家 （大语言模型）负责： • 阅读图书馆长提供的资料 • 理解用户的问题 • 基于提供的资料，用自己的语言风格创作出流畅、连贯的回答 这两个角色相互配合：图书馆长擅长找到准确信息，作家擅长将这些信息组织成易于理解的文本。 在技术层面，这个过程涉及到几个关键概念： 嵌入 嵌入模型是RAG技术的基础，它能将文本转换为数字向量，使计算机能够"理解"文本的语义。 在多维空间中，每个词或句子都映射到一个点，语义相似的文本在这个空间中彼此靠近。"狗"和"宠物"的向量比"狗"和"汽车"的向量更接近。 这种表示方法让计算机可以进行语义搜索，而不仅仅是关键词匹配。当问"猫咪饲养指南"时，系统也能找到含有"如何照顾宠物猫"的文档，即使两者没有完全相同的词。 向量数据库 向量数据库专门设计用来存储和检索向量。它能够快速找到与查询向量最相似的其他向量，这在处理大规模数据时尤为重要。 传统数据库可能需要逐一比较每条记录，而向量数据库使用特殊的索引方法（如近似最近邻搜索），可以在毫秒级别内从数百万条记录中找到最相似的内容。 常见的向量数据库包括Pinecone、Milvus、Faiss等，它们各自有不同的特点和适用场景。 检索 检索其实是门学问，远不只是简单地找到最相似的文档那么简单。就像专业的图书馆员不会只靠书名查找，高效的RAG系统也会运用多种检索策略。 在实际应用中，系统常常先采用基于语义的密集检索，抓住文本的整体含义；同时也会用关键词匹配的稀疏检索，确保不漏掉重要术语。这两种方法各有所长，前者擅长理解语境，后者更能抓住专业术语，所以许多系统会结合两者优势，形成混合检索策略。 找到初步结果后，系统还会进行重排序，对检索结果做二次筛选和排序，就像图书馆员先帮你找到一堆相关书籍，然后再告诉你："这几本最值得一看"。有些复杂问题甚至需要多步检索，先找到大致相关的资料范围，再从中精确定位细节信息。 不同场景下，这些策略的重要性各不相同。医疗领域可能更看重准确性，需要更严格的重排序；而日常问答可能更注重广度，偏向于混合检索。就像一个好的图书馆长会根据问题性质选择不同的查找路径，RAG系统也会根据具体应用场景灵活调整检索策略。 生成 现在，资料齐备，轮到大语言模型大显身手了。这一步就像作家面对一桌子的参考书和笔记，开始动笔创作。系统会把用户的问题和检索到的相关片段巧妙组合成一个完整的"提示"，喂给模型。 这个提示通常会明确指示："基于以下信息回答问题..."，然后列出检索到的内容。模型不是简单复制粘贴，而是像个老道的编辑，把零散的信息融会贯通，生成连贯、自然的回应。有时候，它还会添加过渡句或解释，帮助用户理清思路。 当RAG系统生成结果时，呈现出的效果往往令人惊叹——回答不只准确，还带着一种贴心的逻辑流畅性，就像从模糊的迷雾中突然看清了清晰的路径。高级RAG系统会采用链式推理（Chain of Thought）等技术，让模型一步步思考，或者调整提示来控制输出风格，比如更正式或更简洁的表达方式。 生成阶段的关键在于平衡：忠实于检索资料，又不失大语言模型的创造力。做得好，它能让回答既可靠又生动；做不好，就可能引入新错误。因此，许多系统会加入后处理环节，比如事实核查或一致性检查，确保输出经得起推敲。 RAG的实际应用 目前，RAG技术在各个领域已经展现出广阔的应用前景。无论是企业内部知识管理、专业领域决策支持，还是日常工作辅助，都能看到它的身影。 在智能客服领域，RAG系统可以检索企业的产品手册、常见问题和历史案例，为客户提供精准帮助，处理复杂问题的同时保持专业性和一致性，显著提高响应速度和客户满意度。 医疗健康方面，RAG系统能帮助医生从海量医学文献、临床指南和病例记录中找到关键信息，尤其对复杂或罕见病例提供有价值的参考，提升诊断准确率并帮助医生获取最新治疗方案。 法律研究中，RAG技术可以协助律师从浩如烟海的法规、判例和学术文献中快速定位相关内容，大幅缩短文件检索时间，提高工作效率，同时作为学习工具帮助初级律师和法学学生更快掌握复杂法律知识。 此外，RAG技术还在金融分析、学术研究、内容创作和个人知识管理等领域展现出巨大潜力，帮助用户从信息海洋中提取关键知识，做出更明智的决策。 知识的灯塔 RAG技术代表了大语言模型发展的重要转向——从依赖内部训练数据到动态连接外部知识源。这种转变使大语言模型从封闭的知识容器变成了开放的信息处理系统，不仅解决了"幻觉"问题，还让大语言模型能够获取最新信息。就像人类智慧的进化从记忆到检索、从内化到连接，RAG技术让大语言模型认知到真正的智能不在于拥有所有答案，而在于知道如何找到答案。 随着技术发展，RAG系统未来将实现多模态理解，不仅能检索文本，还能解读图像、分析视频、理解音频，并在各领域创造新的价值。从医疗决策到法律咨询，从企业知识管理到个性化助手，这种人机协作新模式正在重塑我们与大语言模型的关系：大语言模型不再试图替代人类的综合能力，而是专注于增强人类智能，弥补我们的认知局限。在信息爆炸的时代，将广阔的知识海洋与精准的决策需求连接起来，或许正是RAG技术带给我们的最大启示。 我是蓝衣剑客，谢谢你看我的文章。 图书馆长与作家的搭档 RAG技术的工作原理可以比作两个角色的协作：图书馆长和作家。 图书馆长 （检索系统）负责： • 整理和分类书籍（知识库构建） • 理解每本书的内容和主题（向量化） • 当有人询问问题时，快速找到相关书籍和页面（相关性检索） 作家 （大语言模型）负责： • 阅读图书馆长提供的资料 • 理解用户的问题 • 基于提供的资料，用自己的语言风格创作出流畅、连贯的回答 这两个角色相互配合：图书馆长擅长找到准确信息，作家擅长将这些信息组织成易于理解的文本。 在技术层面，这个过程涉及到几个关键概念： 嵌入 嵌入模型是RAG技术的基础，它能将文本转换为数字向量，使计算机能够"理解"文本的语义。 在多维空间中，每个词或句子都映射到一个点，语义相似的文本在这个空间中彼此靠近。"狗"和"宠物"的向量比"狗"和"汽车"的向量更接近。 这种表示方法让计算机可以进行语义搜索，而不仅仅是关键词匹配。当问"猫咪饲养指南"时，系统也能找到含有"如何照顾宠物猫"的文档，即使两者没有完全相同的词。 向量数据库 向量数据库专门设计用来存储和检索向量。它能够快速找到与查询向量最相似的其他向量，这在处理大规模数据时尤为重要。 传统数据库可能需要逐一比较每条记录，而向量数据库使用特殊的索引方法（如近似最近邻搜索），可以在毫秒级别内从数百万条记录中找到最相似的内容。 常见的向量数据库包括Pinecone、Milvus、Faiss等，它们各自有不同的特点和适用场景。 检索 检索其实是门学问，远不只是简单地找到最相似的文档那么简单。就像专业的图书馆员不会只靠书名查找，高效的RAG系统也会运用多种检索策略。 在实际应用中，系统常常先采用基于语义的密集检索，抓住文本的整体含义；同时也会用关键词匹配的稀疏检索，确保不漏掉重要术语。这两种方法各有所长，前者擅长理解语境，后者更能抓住专业术语，所以许多系统会结合两者优势，形成混合检索策略。 找到初步结果后，系统还会进行重排序，对检索结果做二次筛选和排序，就像图书馆员先帮你找到一堆相关书籍，然后再告诉你："这几本最值得一看"。有些复杂问题甚至需要多步检索，先找到大致相关的资料范围，再从中精确定位细节信息。 不同场景下，这些策略的重要性各不相同。医疗领域可能更看重准确性，需要更严格的重排序；而日常问答可能更注重广度，偏向于混合检索。就像一个好的图书馆长会根据问题性质选择不同的查找路径，RAG系统也会根据具体应用场景灵活调整检索策略。 生成 现在，资料齐备，轮到大语言模型大显身手了。这一步就像作家面对一桌子的参考书和笔记，开始动笔创作。系统会把用户的问题和检索到的相关片段巧妙组合成一个完整的"提示"，喂给模型。 这个提示通常会明确指示："基于以下信息回答问题..."，然后列出检索到的内容。模型不是简单复制粘贴，而是像个老道的编辑，把零散的信息融会贯通，生成连贯、自然的回应。有时候，它还会添加过渡句或解释，帮助用户理清思路。 当RAG系统生成结果时，呈现出的效果往往令人惊叹——回答不只准确，还带着一种贴心的逻辑流畅性，就像从模糊的迷雾中突然看清了清晰的路径。高级RAG系统会采用链式推理（Chain of Thought）等技术，让模型一步步思考，或者调整提示来控制输出风格，比如更正式或更简洁的表达方式。 生成阶段的关键在于平衡：忠实于检索资料，又不失大语言模型的创造力。做得好，它能让回答既可靠又生动；做不好，就可能引入新错误。因此，许多系统会加入后处理环节，比如事实核查或一致性检查，确保输出经得起推敲。 RAG的实际应用 目前，RAG技术在各个领域已经展现出广阔的应用前景。无论是企业内部知识管理、专业领域决策支持，还是日常工作辅助，都能看到它的身影。 在智能客服领域，RAG系统可以检索企业的产品手册、常见问题和历史案例，为客户提供精准帮助，处理复杂问题的同时保持专业性和一致性，显著提高响应速度和客户满意度。 医疗健康方面，RAG系统能帮助医生从海量医学文献、临床指南和病例记录中找到关键信息，尤其对复杂或罕见病例提供有价值的参考，提升诊断准确率并帮助医生获取最新治疗方案。 法律研究中，RAG技术可以协助律师从浩如烟海的法规、判例和学术文献中快速定位相关内容，大幅缩短文件检索时间，提高工作效率，同时作为学习工具帮助初级律师和法学学生更快掌握复杂法律知识。 此外，RAG技术还在金融分析、学术研究、内容创作和个人知识管理等领域展现出巨大潜力，帮助用户从信息海洋中提取关键知识，做出更明智的决策。 知识的灯塔 RAG技术代表了大语言模型发展的重要转向——从依赖内部训练数据到动态连接外部知识源。这种转变使大语言模型从封闭的知识容器变成了开放的信息处理系统，不仅解决了"幻觉"问题，还让大语言模型能够获取最新信息。就像人类智慧的进化从记忆到检索、从内化到连接，RAG技术让大语言模型认知到真正的智能不在于拥有所有答案，而在于知道如何找到答案。 随着技术发展，RAG系统未来将实现多模态理解，不仅能检索文本，还能解读图像、分析视频、理解音频，并在各领域创造新的价值。从医疗决策到法律咨询，从企业知识管理到个性化助手，这种人机协作新模式正在重塑我们与大语言模型的关系：大语言模型不再试图替代人类的综合能力，而是专注于增强人类智能，弥补我们的认知局限。在信息爆炸的时代，将广阔的知识海洋与精准的决策需求连接起来，或许正是RAG技术带给我们的最大启示。 我是蓝衣剑客，谢谢你看我的文章。 🔗 原文链接： https://mp.weixin.qq.com/s/z19Soqp5... https://mp.weixin.qq.com/s/z19Soqp5... 原创 蓝衣剑客 AIGC思维火花2025年07月21日 09:48 河北 You don't have permission to access this synced block. Please log in and try again. Log In 大家好，我是蓝衣剑客，欢迎来到「AI学什么」——一个专注于AI科普的栏目。这个栏目的宗旨是"用最精彩的故事，讲述最硬核的知识"。在这里，你将看到深入浅出的AI核心技术解析，既不会被枯燥的技术细节困扰，也不会停留在肤浅的概念层面。通过生动的类比、通俗的语言和完整的故事，帮助你在轻松阅读中掌握那些看似难以理解的AI知识，培养应对AI时代的核心认知能力。无论你是AI领域的新手，还是希望加深理解的从业者，这里都能为你提供清晰的知识和独特的思考角度。 大家好，我是蓝衣剑客，欢迎来到「AI学什么」——一个专注于AI科普的栏目。这个栏目的宗旨是"用最精彩的故事，讲述最硬核的知识"。在这里，你将看到深入浅出的AI核心技术解析，既不会被枯燥的技术细节困扰，也不会停留在肤浅的概念层面。通过生动的类比、通俗的语言和完整的故事，帮助你在轻松阅读中掌握那些看似难以理解的AI知识，培养应对AI时代的核心认知能力。无论你是AI领域的新手，还是希望加深理解的从业者，这里都能为你提供清晰的知识和独特的思考角度。 解决AI幻觉问题 ✏️ 请注意，为保证严谨性，在此我们只讨论基于大语言模型的早期RAG，算作是入门了解，后续会有单独文章讨论多模态RAG和Agentic RAG。 请注意，为保证严谨性，在此我们只讨论基于大语言模型的早期RAG，算作是入门了解，后续会有单独文章讨论多模态RAG和Agentic RAG。 在之前的几期内容中，我们已经详细讨论过大语言模型的"幻觉"现象——即AI系统自信地生成听起来合理但实际上并不真实的内容。无论是虚构的法庭案例、不存在的学术论文还是编造的历史事件，这些"幻觉"都给AI应用带来了严重的可信度问题。 大语言模型在"不知道"的情况下，很少会直接承认自己的无知，反而倾向于生成流畅、自信但可能完全错误的回答。这种特性让用户很难判断AI输出的真实性，尤其在专业领域更为危险。 大语言模型产生"幻觉"的原因在前期文章中已有详细讨论。简言之，大语言模型本质上是一个预测下一个词的系统，它关注的是文本的"流畅性"而非"事实准确性"。 知识的保质期 大语言模型有个基本限制：知识截止日期。 ChatGPT的知识库在训练时就已经"封存"。如果训练数据截止到2021年9月，之后发生的任何事件——世界杯比赛结果、科技突破还是政治变革——它都不可能真正"知道"。询问这些信息时，大语言模型只能基于已有知识进行推测或生成看似合理的回答，而非提供真实事实。 但问题不仅限于时间限制。即使是训练数据覆盖期内的知识，大语言模型也可能出现"幻觉"——生成看似合理但实际上不准确的内容。这类似于一个博览群书但记忆混乱的学者，不小心把不同书中的内容混淆在一起。 面对这一挑战，研究人员开发了一种优雅的解决方案：如果大语言模型无法知道所有事实，何不让它像人类一样"查资料"呢？这就是今天我们要介绍的检索增强生成(RAG)技术——一种让大语言模型从"闭卷考试"转向"开卷考试"的革命性方法。 RAG技术不仅提高了回答的准确性，也使大语言模型更加透明和可靠。具体来说，RAG技术包含以下关键步骤： 1. 知识库构建 ：建立外部知识库，可以是公司内部文档、最新新闻、专业论文或其他相关资料。 2. 向量化存储 ：这些文档被转换成"向量"（一种数学表示），并存储在向量数据库中，便于快速检索。 3. 相关性检索 ：用户提出问题时，系统将问题也转换成向量，然后在知识库中查找最相关的文档片段。 4. 增强生成 ：大语言模型同时考虑用户的问题和检索到的相关文档，生成基于检索结果且流畅自然的回答。 这种方法有几个明显的优势： • 大语言模型可以访问最新信息 • 回答有明确的信息来源，不需要"凭空捏造" • 可以引入特定领域的专业知识 • 回答可以附带引用和来源 • 无需重新训练大语言模型就能更新知识