跳转到主要内容

LangChain

LangChain Python 教学案例

给学生上课的 5 个演示。

  • LangChain
  • 教学

一份课堂演示用的简短材料:5 个案例,从最简单的对话到迷你知识库问答。每个案例都能独立运行,配讲解要点。完整文档见 README。

课前准备

一次性安装依赖,配置 API Key:

pip install "langchain>=1.0,<2.0" "langchain-openai>=1.0,<2.0" python-dotenv
pip install langgraph langchain-community langchain-text-splitters

项目根目录创建 .env 文件,写入你的 Key。OpenAI 官方 Key 写:

OPENAI_API_KEY=sk-xxx

用 GLM 等 OpenAI 兼容服务(DeepSeek、Kimi 同理),Key 换成对应服务的(如 GLM_API_KEY=xxx),并且后文的 ChatOpenAI() 要换成带三个参数的构造。只换 Key 不换地址,请求会一直卡在建立连接上:

import os   # 读取环境变量
from langchain_openai import ChatOpenAI   # OpenAI 聊天模型
model = ChatOpenAI(
    base_url="https://open.bigmodel.cn/api/paas/v4",   # 智谱的接口地址
    api_key=os.environ["GLM_API_KEY"],
    model="glm-4-flash",   # 模型名以服务方文档为准
)

完整说明见配置。

案例 1:第一次对话

最少的代码,先让学生看到「调用大模型」就是这么一件事:

import os   # 读取环境变量

from dotenv import load_dotenv   # 从 .env 读环境变量
from langchain_openai import ChatOpenAI   # OpenAI 聊天模型

load_dotenv()

model = ChatOpenAI(
    base_url=os.environ["GLM_BASE_URL"],
    api_key=os.environ["GLM_API_KEY"],
    model=os.environ["GLM_MODEL_ID"],
)
result = model.invoke("用一句话解释什么是递归")

print(result.content)

示例输出:

递归是函数在自己的定义里调用自己,把大问题不断拆成同样形式的小问题。

讲解要点:

  • invoke 进去一个字符串,出来一个 AIMessage 对象,文本在 .content 里。
  • 追问 token 与费用:返回对象里 result.usage_metadata 记录了这次调用花了多少 token。
  • 把问题换成学生感兴趣的任何话题,现场改、现场跑。

案例 2:翻译机器人,第一条链

引入 LangChain 最核心的概念「链」(chain):模板、模型、解析器三段拼接:

import os   # 读取环境变量

from dotenv import load_dotenv   # 从 .env 读环境变量
from langchain_core.output_parsers import StrOutputParser   # 提取纯文本
from langchain_core.prompts import ChatPromptTemplate   # 带角色的消息模板
from langchain_openai import ChatOpenAI   # OpenAI 聊天模型

load_dotenv()

llm = ChatOpenAI(
    base_url=os.environ["GLM_BASE_URL"],
    api_key=os.environ["GLM_API_KEY"],
    model=os.environ["GLM_MODEL_ID"],
)

prompt = ChatPromptTemplate.from_messages([
    {"role": "system", "content": "你是一个翻译员,把用户的话翻译成{target_lang},只输出译文。"},
    {"role": "human", "content": "{text}"},
])

chain = prompt.pipe(llm).pipe(StrOutputParser())

print(chain.invoke({"target_lang": "日语", "text": "明天会更好"}))

示例输出:

明日はきっと良くなる

讲解要点:

  • pipe 像水管:上游的输出流给下游。这行代码读作「模板 → 模型 → 提取文本」。
  • {target_lang} 和 {text} 是变量,同一个模板能反复复用,这是模板比 f-string 拼字符串好在哪。
  • StrOutputParser 让返回值直接是字符串,不用再取 .content。
  • 让学生改 target_lang 和 system 里的人设,观察输出变化。

案例 3:情感分析,让模型输出 Python 对象

模型默认输出一段话,程序需要的是能直接用的数据。用 pydantic 定义结构:

import os   # 读取环境变量

from typing import Literal   # 枚举类型注解

from dotenv import load_dotenv   # 从 .env 读环境变量
from pydantic import BaseModel, Field   # 数据模型与字段描述
from langchain_openai import ChatOpenAI   # OpenAI 聊天模型

load_dotenv()

llm = ChatOpenAI(
    base_url=os.environ["GLM_BASE_URL"],
    api_key=os.environ["GLM_API_KEY"],
    model=os.environ["GLM_MODEL_ID"],
)


class Sentiment(BaseModel):
    emotion: Literal["pos", "neg", "neutral"] = Field(description="文本的情感倾向")
    keyword: str = Field(description="最能体现情感的那个词")

structured_model = llm.with_structured_output(Sentiment)

print(structured_model.invoke("这家店的服务态度好到让我想哭"))

示例输出:

Sentiment(emotion='pos', keyword='好到让我想哭')

讲解要点:

  • 返回值直接是 Sentiment 对象,可以用 .emotion、.keyword 取字段,下游代码不用再解析字符串。
  • Literal["pos", "neg", "neutral"] 是枚举约束:模型只能三选一,编不出第四种值。
  • temperature=0:分类、提取这类任务要稳定,不要随机。
  • 现场把输入换成差评,看枚举值切换。

案例 4:有记忆的聊天 agent

前面的调用每次都是「失忆」的。给 agent 加上 checkpointer,它就记得住上下文:

from langchain_openai import ChatOpenAI   # OpenAI 聊天模型
import os   # 读取环境变量

from dotenv import load_dotenv   # 从 .env 读环境变量
from langchain.agents import create_agent   # 创建 agent
from langgraph.checkpoint.memory import InMemorySaver   # 内存版记忆持久化

load_dotenv()

llm = ChatOpenAI(
    base_url=os.environ["GLM_BASE_URL"],
    api_key=os.environ["GLM_API_KEY"],
    model=os.environ["GLM_MODEL_ID"],
)

agent = create_agent(
    model=llm,
    system_prompt="你是一个耐心的编程助教,用高中生能听懂的方式回答",
    checkpointer=InMemorySaver(),
)

config = {"configurable": {"thread_id": "class-demo"}}

res1 = agent.invoke({"messages": [{"role": "user", "content": "我叫小明"}]}, config)
print(res1["messages"][-1].content)

res2 = agent.invoke({"messages": [{"role": "user", "content": "我叫什么名字?"}]}, config)
print(res2["messages"][-1].content)

示例输出:

你好,小明!有什么想问的吗?
你叫小明。

讲解要点:

  • 两次 invoke 是两次独立调用,模型本身没有记忆。能记住名字,靠的是 checkpointer 把对话历史存了下来。
  • thread_id 是会话标识:现场把它换成 "class-demo-2" 再问名字,agent 立刻「失忆」。每个线程一份独立记忆。
  • InMemorySaver 存在内存里,程序重启就丢;生产环境换 PostgresSaver,其他代码一行不改。
  • 输入只传本轮新消息,历史由框架自动拼接,不要手动把历史塞进去。

案例 5:迷你知识库问答(RAG)

让模型只回答「我们给它的资料」,而不是靠自己瞎编。准备一段课本里没有的虚构知识:

import os   # 读取环境变量

from dotenv import load_dotenv   # 从 .env 读环境变量
from langchain_community.document_loaders import TextLoader   # 加载 txt 文件
from langchain_core.output_parsers import StrOutputParser   # 提取纯文本
from langchain_core.prompts import ChatPromptTemplate   # 带角色的消息模板
from langchain_core.vectorstores import InMemoryVectorStore   # 内存向量库
from langchain_openai import ChatOpenAI, OpenAIEmbeddings   # 聊天模型与向量化
from langchain_text_splitters import RecursiveCharacterTextSplitter   # 递归文本切分器

load_dotenv()

embeddings = OpenAIEmbeddings(
    base_url=os.environ["GLM_BASE_URL"],
    api_key=os.environ["GLM_API_KEY"],
    model=os.environ["EMBEDDING_ID"],
    check_embedding_ctx_length=False,   # 非 OpenAI 端点必须,见 11 章
)

text = """
蓝星大学成立于 2042 年,坐落在云浮市。它的吉祥物是机器猫头鹰,校训是「会提问就会学习」。
蓝星大学最有名的专业是提示词工程系,该系的必修课包括模型微调导论和检索增强生成。
蓝星大学的图书馆没有书,全部藏书以向量数据库的形式存储,检索速度全球第一。
"""

with open("campus.txt", "w", encoding="utf-8") as f:
    f.write(text)

docs = TextLoader("campus.txt", encoding="utf-8").load()
split_docs = RecursiveCharacterTextSplitter(chunk_size=50, chunk_overlap=10).split_documents(docs)

vectorstore = InMemoryVectorStore(embeddings)
vectorstore.add_documents(split_docs)

retriever = vectorstore.as_retriever(search_kwargs={"k": 2})

found = retriever.invoke("蓝星大学的图书馆有什么特点")
print([doc.page_content for doc in found])

示例输出:

['蓝星大学的图书馆没有书,全部藏书以向量数据库的形式存储,检索速度全球第一。']

再把检索结果塞进 prompt,让模型只依据资料回答:

from langchain_openai import ChatOpenAI   # OpenAI 聊天模型
import os   # 读取环境变量
from dotenv import load_dotenv   # 从 .env 读环境变量
from langchain_core.documents import Document   # 统一文档对象
from langchain_core.output_parsers import StrOutputParser   # 提取纯文本
from langchain_core.prompts import ChatPromptTemplate   # 带角色的消息模板

load_dotenv()

llm = ChatOpenAI(
    base_url=os.environ["GLM_BASE_URL"],
    api_key=os.environ["GLM_API_KEY"],
    model=os.environ["GLM_MODEL_ID"],
)

# 上一块检索命中的结果
found = [
    Document(page_content="蓝星大学的图书馆没有书,全部藏书以向量数据库的形式存储,检索速度全球第一。")
]

context = "\n".join(doc.page_content for doc in found)

prompt = ChatPromptTemplate.from_messages([
    {"role": "system", "content": "仅依据下面的资料回答问题,资料里没有就回答「资料里没有」。\n资料:{context}"},
    {"role": "human", "content": "{question}"},
])

chain = prompt.pipe(llm).pipe(StrOutputParser())
print(chain.invoke({"context": context, "question": "蓝星大学的图书馆有什么特点?"}))

示例输出:

蓝星大学的图书馆没有实体书,全部藏书以向量数据库的形式存储,检索速度全球第一。

讲解要点:

  • 先演示「没有 RAG」:直接问模型蓝星大学,它会一本正经地编。这是幻觉,本案例要解决的问题。
  • 三步流程:资料切块 → 每块转成向量存进向量库(embedding 让「意思相近的文字,向量也相近」)→ 提问时按相似度捞出最相关的两块。
  • 防幻觉的关键在 system prompt 两句话:「仅依据资料回答」加上「没有就承认没有」。
  • k=2 是每次捞几块。资料多、问题杂时,调大 k 或换更好的切分参数。
  • InMemoryVectorStore 每次运行都重新计算 embedding,会产生少量费用;真实项目把向量落盘复用(本地文件用 FAISS、独立服务用 Qdrant),见向量存储。

课堂演示顺序建议

按案例编号顺序讲:1 建立直觉,2 引出链,3 引出结构化输出,4 引出记忆,5 把前面的能力串成 RAG。案例 1 到 3 只用基础包;案例 4、5 需要课前装好 langgraph、langchain-community、langchain-text-splitters。案例 5 涉及 embedding 费用,建议先用小文本演示。