RAG 的基本流程是什么

RAG 先将文档切块并建立向量索引，再检索相关片段，最后让大模型基于这些上下文生成回答。

要点

1. 离线准备：将文档切块，用 embedding 模型向量化，存入向量数据库并建立索引。
2. 在线检索：将用户问题向量化，通过相似度检索获取最相关的 top-k 片段。
3. 检索环节还可加入 BM25 混合检索与 rerank 精排。
4. 生成回答：将检索片段拼入 prompt，让大模型依据上下文回答，以降低幻觉。

来源

• 原始讨论 1