框架

LlamaIndex

RAG-first: 检索原语,查询引擎,评估。

支持 8 种模式。

该框架原生支持的模式

  • Agentic RAG — 用自主代理替代静态的检索-生成,进行规划、选择来源、迭代检索、反思和重新查询。
  • Naive RAG — 根据从外部密集索引检索到的前k个块来调整生成器,以便知识存在于参数之外。
  • Hybrid Search — 将稀疏的词汇检索(BM25)与密集向量检索相结合,并融合结果。
  • Cross-Encoder Reranking — 在廉价的双编码器或BM25检索之后,使用一个跨编码器对前N个候选项进行重新评分,该编码器共同关注(查询,候选项)。
  • Contextual Retrieval — 在每个块嵌入之前,添加一个简短的LLM生成描述,以便该块携带其上下文。
  • HyDE — 让LLM撰写一个假设的答案文档,嵌入它,并将其用作检索查询。
  • Citation Streaming — 在生成的文本旁边流式传输引用,以便用户界面可以在内容出现时渲染源链接。
  • Eval Harness — 运行一个保留的数据集以检测代理版本的回归并衡量改进。