Interview: Self-RAG的自适应检索判断机制是怎么训练的？它解决了RAG的什么痛点？
题目解析
传统RAG对所有查询都执行检索，但很多问题模型自身就能回答（如常识问题），不必要的检索反而可能引入噪声。Self-RAG让模型学会自主判断何时需要检索、检索到的内容是否相关、以及最终回答是否被检索内容充分支持。
解答思路
Self-RAG引入了特殊的”反思token”(reflection tokens)：1）[Retrieve]——判断是否需要检索(yes/no/continue)；2）[IsRel]——判断检索到的段落是否与查询相关；3）[IsSup]——判断生成的回答是否被检索段落支持(fully/partially/no)；4）[IsUse]——判断整体回答的质量。训练过程：先用GPT-4对大量样本标注这些反思token，然后将标注数据与原始训练数据混合，端到端训练模型。模型学会在生成过程中自然地输出这些特殊token作为自我评估。
关键要点
- 解决的痛点：避免”always retrieve”的低效和”never retrieve”的不准确
- 反思token让检索决策成为生成过程的一部分，而非外部规则
- 推理时可以通过调节反思token的阈值控制检索频率
- Self-RAG在知识密集型任务上优于标准RAG，在通用任务上优于无检索的模型
加分回答
可以对比CRAG(Corrective RAG)的方法——CRAG使用一个轻量级的检索评估器判断检索质量，如果质量低则触发Web搜索作为备选。还可以讨论Self-RAG的局限性：反思token的准确率直接决定了系统效果，如果模型错误地判断”不需要检索”就会产生幻觉。另外，Self-RAG需要重新训练模型，不能直接应用于闭源API模型。
常见踩坑
- 误以为Self-RAG只是在prompt中加入”请判断是否需要检索”——实际是在模型权重中嵌入了这种能力
- 忽略了训练数据中反思token标注的质量对最终效果的决定性影响
- 将Self-RAG与Active RAG混淆——后者是在pipeline层面的多步检索策略