RAG 系统的优化手段?

RAG 面试题发布于

一、检索优化

  • 分块优化:合理的块大小和重叠。
  • Embedding 优化:用更适合的模型,微调。
  • 混合检索:向量 + 关键词,提升召回。
  • 重排(Rerank):用 Cross-Encoder 对检索结果重排序,提升精度。
  • 查询改写:用 LLM 改写用户问题,提升检索效果。
  • 多查询:生成多个相关问题分别检索,合并结果。

二、生成优化

  • Prompt 工程:清晰的指令,要求基于上下文回答。
  • 上下文压缩:对检索结果做摘要或提取关键句,减少噪声。
  • 引用溯源:回答中标注来源,增加可信度。
  • 迭代生成:多轮检索 + 生成,处理复杂问题。

三、工程优化

  • 缓存:相似问题复用检索结果。
  • 异步:索引构建异步,不阻塞查询。
  • 降级:检索失败时降级为直接生成或返回无答案。
  • 监控:记录查询、检索、生成的质量指标。

四、最新趋势

  • GraphRAG:知识图谱增强,处理复杂关系。
  • Agentic RAG:用 Agent 决定何时检索、如何检索。
  • Self-RAG:模型自己判断是否需要检索。