LangChain
工具调用、链、路由、回退、代理。
支持 8 种模式。
该框架原生支持的模式
- Tool Use — 让LLM对外部工具包进行类型化调用,而不是生成周围系统需要解析的自由文本。
- ReAct — 在每一步中交替进行一个思考、一次工具调用和一次观察,以便代理能够基于新证据进行推理。
- Routing — 对传入请求进行分类,并将其分派给最适合处理该请求的专家(通道/代理/模型)。
- Prompt Chaining — 将任务分解为固定顺序的 LLM 调用,其中每一步的输出成为下一步的输入。
- Fallback Chain — 尝试一个主要处理程序;在失败或信心不足时,转向一系列回退处理程序。
- Structured Output — 限制模型的输出符合 JSON Schema(或类似的类型结构)。
- Parallelization — 同时运行独立的LLM调用并合并结果。
- Streaming Typed Events — 在结果可用时将部分结果作为类型事件推送到客户端,而不是等待完整响应。