框架

LangChain

工具调用、链、路由、回退、代理。

支持 8 种模式。

该框架原生支持的模式

  • Tool Use — 让LLM对外部工具包进行类型化调用,而不是生成周围系统需要解析的自由文本。
  • ReAct — 在每一步中交替进行一个思考、一次工具调用和一次观察,以便代理能够基于新证据进行推理。
  • Routing — 对传入请求进行分类,并将其分派给最适合处理该请求的专家(通道/代理/模型)。
  • Prompt Chaining — 将任务分解为固定顺序的 LLM 调用,其中每一步的输出成为下一步的输入。
  • Fallback Chain — 尝试一个主要处理程序;在失败或信心不足时,转向一系列回退处理程序。
  • Structured Output — 限制模型的输出符合 JSON Schema(或类似的类型结构)。
  • Parallelization — 同时运行独立的LLM调用并合并结果。
  • Streaming Typed Events — 在结果可用时将部分结果作为类型事件推送到客户端,而不是等待完整响应。