跳转到主要内容

LangChain

术语表

是什么、有什么用、在哪一节讲。

  • LangChain
  • 速查

每个术语回答两件事:是什么、有什么用。详见 列指向本文档中的讲解位置。

LLM 基础

术语是什么作用详见
LLM大语言模型,基于海量文本训练的生成模型应用的推理引擎,LangChain 所有模块围绕「调用它」组织简介
tokenLLM 计量文本的单位(英文约 4 字符折 1 个,汉字 1~2 个)API 计费、上下文窗口容量都按它计量聊天模型
上下文窗口单次调用能塞进 prompt 的最大 token 数超限就要切分、检索、摘要RAG 原理
temperature采样温度,控制输出随机性事实型任务调低,创作型调高配置
消息角色每条消息的身份:system / human / ai / toolsystem 定规则,human 是输入,ai 是回复,tool 是工具结果聊天模型
few-shot在 prompt 里放正反示例代替规则描述模型模仿示例比理解规则更稳输出解析器
幻觉模型一本正经地编造事实RAG、结构化输出、约束型 prompt 主要治理的问题RAG 原理
流式输出模型逐段生成、应用逐段消费首字延迟从秒级降到接近实时LCEL
OpenAI 兼容 API遵循 OpenAI 接口规范的第三方服务换 base_url 和 Key 即接入配置
provider模型服务商(OpenAI、Anthropic 等)区分「厂商 API 层知识」与「框架层知识」Function Calling

LangChain 与编排

术语是什么作用详见
LCEL基于 Runnable + pipe 的编排方式声明式组链,从原型到生产不改代码LCEL
Runnable统一的可执行抽象接口统一(invoke/batch/stream),任何模块可互换、可嵌套LCEL
pipe把上游输出接给下游输入的组链方法以数据流方向读代码LCEL
chain用 pipe 串起来的多步调用链把固定流程封装成一个可调用单元LCEL
PromptTemplate带变量的字符串模板把写死的 prompt 变成可复用骨架Prompt 模板
ChatPromptTemplate带消息角色的模板构造 system/human/ai 消息序列Prompt 模板
MessagesPlaceholder消息数组插槽把历史消息整体注入模板Prompt 模板
partial预填模板部分变量分阶段构造 prompt,函数形式惰性求值Prompt 模板
输出解析器把模型返回转成程序可用结构的模块模型输出是文本,程序要的是对象、数组输出解析器
with_structured_output模型方法,传 schema 得校验后的对象1.x 结构化输出首选输出解析器
pydanticPython 数据建模与校验库(v2)一处定义,既生成给模型的约束,又校验程序拿到的类型输出解析器
fallback主链失败自动切备用链的机制限流、故障时的降级路径LCEL
LangSmith官方调用追踪与评估平台记录每次调用的输入输出耗时配置
Callbacks / Tracing挂在调用过程的钩子,记录输入输出与耗时调试、评估、观测调用链LCEL
LangGraph把执行过程建模为状态图的编排框架1.x 中 agent、记忆、循环控制的底座LangGraph 基础

RAG

术语是什么作用详见
RAG检索增强生成:回答前先检索相关知识注入 prompt治理幻觉、知识过时、私域缺失RAG 原理
Document统一文档对象:page_content 加 metadata任何数据源加载后形态一致文档加载器
metadataDocument 的附属字段检索过滤、答案溯源文档加载器
Loader把特定数据源转成 Document 列表的类屏蔽抓取细节,一行完成加载标准化文档加载器
chunk切分后的文档块RAG 的最小检索单元文本切分
Embedding把文本映射成向量的模型让「语义相近,向量相近」可计算向量存储
余弦相似度两个向量夹角的余弦值检索时给候选块打分排序的度量RAG 原理
vector store存向量并支持近邻查询的数据库把「与所有向量算相似度」做成毫秒级查询向量存储
Retriever查询接口:输入 query,返回 top-k 个 Document把「怎么检索」抽象成统一接口,可替换任意策略检索与优化
top-k返回最相关的前 k 条(常取 2~5)平衡上下文长度与召回量RAG 原理
问题改写用 LLM 把带代词的追问重写成独立问题解决多轮指代导致的检索失效部署

记忆与 Agent

术语是什么作用详见
checkpointer按线程持久化 agent 消息状态的组件记忆的存储层:多轮对话、断点恢复记忆系统
thread_id传入 configurable 的线程标识一个线程一份独立记忆记忆系统
middleware模型调用前后的消息加工钩子记忆的加工层:裁剪、摘要、删除记忆系统
SummarizationMiddleware历史超阈值时自动摘要旧消息长对话 token 膨胀的标准解法记忆系统
Function Calling模型返回「调哪个函数、什么参数」的协议让 LLM 安全地用你的代码Function Calling
tool()定义工具的装饰器:签名加 docstring 即 schema函数、说明、参数约束一处声明Function Calling
tool_choice控制调用行为:auto / any / 工具名 / none放权给模型或强制结构化输出Function Calling
tool_callsAIMessage 上的工具调用列表LangChain 返回的 args 已是对象Function Calling
AgentLLM 作为推理引擎,自主循环调用工具直到解决突破固定 chain 的流程上限Agent
create_agent1.x 创建 agent 的主 API一个入口配齐模型、工具、指令、记忆Agent
return_direct工具结果直接作为最终答案返回路由式多 agent,省一次模型调用Agent
recursion_limit限制 LangGraph 图最大超步数(默认 25)agent 死循环的兜底保险Agent