RAG检索增强生成概述
一句话总结
RAG(Retrieval-Augmented Generation)通过在生成前检索相关外部知识,让LLM能够基于最新、准确的信息回答问题,解决幻觉和知识过时问题。
核心概念
RAG的基本流程:用户提问→检索相关文档→将文档作为上下文输入LLM→生成回答。核心组件包括:文档处理管道(解析、分块、向量化)、向量数据库(存储和检索)、检索器(语义搜索+关键词搜索)和生成器(LLM)。Naive RAG是基础版本,Advanced RAG加入预处理和后处理优化,Modular RAG将各组件模块化支持灵活编排。
为什么重要
LLM存在知识截止日期、领域知识不足和幻觉问题。RAG无需重新训练即可接入最新知识,成本远低于微调。企业级应用中RAG是最主流的知识增强方案。
实践要点
关注数据质量,垃圾进垃圾出。选择合适的分块策略和embedding模型。检索质量是RAG效果的关键瓶颈。使用混合检索(向量+关键词)提升召回率。优化prompt模板引导LLM正确使用检索到的信息。建立评估体系持续迭代优化。
常见误区
误以为RAG能解决所有知识问题,复杂推理仍需微调。忽视检索质量只关注生成质量。文档处理粗糙导致检索效果差。过度依赖RAG而不评估是否真的需要。