检索增强生成(RAG)
检索增强生成(RAG)是一种模式:在查询时从外部存储中获取相关文档并插入到提示词中,使模型基于这些新鲜、具体的材料作答,而不是仅凭记忆。
模型的内建知识在训练时就已固定,无法覆盖私有或最新的数据。RAG 弥补了这一差距:用用户的查询去搜索一个知识库(通常通过向量相似度),把最匹配的结果拉进上下文窗口,再让模型基于它们给出有依据的回答。这使答案保持最新且具体,能够引用来源,并减少幻觉——前提是检索确实找出了正确的材料。
要点
- 在查询时检索相关的文本块,把它们放入提示词,然后基于它们生成有依据的答案。
- 无需重新训练模型即可让答案保持最新且贴合特定领域。
- 支持引用并减少幻觉——但只能做到检索质量所允许的程度。
- 检索质量(分块、embeddings、排序)通常比模型的选择更重要。