LangChain.js 实战入门：从模型调用到函数调用详解

消息与调用

LangChain.js 提供了标准的消息类，如 SystemMessage 和 HumanMessage。系统消息用于设定 AI 的角色或指令，用户消息则是具体的问题。

import { SystemMessage, HumanMessage } from "@langchain/core/messages";

const messages = [
  new SystemMessage("你是一位专业的技术文档助手，请用简洁的语言回答。"),
  new HumanMessage("LangChain.js 的核心优势是什么？"),
];

// 使用 invoke 方法调用模型
const response = await chatModel.invoke(messages);
console.log(response.content);

invoke() 方法返回一个 Promise，解析后即为模型的回复内容。这种方式比旧版的 call() 更统一且易于维护。

流式传输 (Streaming)

流式传输是大模型应用提升用户体验的关键功能。它允许客户端实时接收生成的文本片段，而不是等待整个响应完成。

回调函数方式

早期版本主要依赖回调函数来处理流式输出。

const chat = new ChatOpenAI({
  streaming: true,
});

await chat.call([new HumanMessage("讲个笑话")], {
  callbacks: [
    {
      handleLLMNewToken(token) {
        process.stdout.write(token);
      },
    },
  ],
});

每当模型生成新的 token 时，handleLLMNewToken 会被触发。

异步迭代器方式

新版 LangChain.js 推荐使用 .stream() 方法，配合 for await 循环，代码更简洁且符合现代 JavaScript 规范。

const stream = await chat.stream([new HumanMessage("解释一下量子计算")]);

for await (const chunk of stream) {
  if (chunk.content) {
    process.stdout.write(chunk.content);
  }
}

stream 对象是一个 AsyncIterableIterator，可以方便地在浏览器或 Node.js 环境中遍历数据流。

JSON Mode 与结构化输出

JSON Mode 允许控制 AI 模型的输出格式，使其严格遵循指定的 JSON Schema。这对于需要将 LLM 集成到后端逻辑中的场景非常有用。

配置 JSON Mode

目前仅部分模型（如 gpt-4-1106-preview 及更新版本）支持此功能。需设置 response_format 为 json_object。

const jsonModeModel = new ChatOpenAI({
  modelName: "gpt-4-1106-preview",
}).bind({
  response_format: {
    type: "json_object",
  },
});

注意：在某些实现中，SystemMessage 必须明确包含 "JSON" 字样以强制模型进入该模式。

const res = await jsonModeModel.invoke([
  ["system", "Only return JSON output."],
  ["human", "提取以下文本的情感：今天天气真好。"],
]);

const parsed = JSON.parse(res.content);
console.log(parsed);

函数调用 (Function Calling)

函数调用是 AI 应用与外部程序交互的重要协议。它允许 AI 根据用户意图选择并执行特定的函数，从而实现联网搜索、数据库查询等能力。

定义函数 Schema

OpenAI 使用 JSON Schema 来定义函数结构。可以使用原生对象或 zod 库来简化定义。

import { z } from "zod";
import { zodToJsonSchema } from "zod-to-json-schema";

const extractionFunctionSchema = {
  name: "extractor",
  description: "Extracts fields from the input text.",
  parameters: zodToJsonSchema(
    z.object({
      tone: z.enum(["positive", "negative"]).describe("The overall tone"),
      word_count: z.number().describe("Number of words"),
      chat_response: z.string().describe("Response to user"),
    })
  ),
};

绑定与调用

将定义的函数绑定到模型，并指定是否强制调用特定函数。

const model = new ChatOpenAI({
  modelName: "gpt-4",
}).bind({
  functions: [extractionFunctionSchema],
  function_call: { name: "extractor" },
});

const result = await model.invoke([new HumanMessage("What a beautiful day!")]);

if (result.additional_kwargs?.function_call) {
  const args = JSON.parse(result.additional_kwargs.function_call.arguments);
  console.log("Function Args:", args);
  // 在此处执行实际的业务逻辑
}

链式编排 (Chains)

LangChain 的核心价值在于将多个组件串联成工作流。通过 Chains，可以将提示词模板、模型调用和后处理逻辑组合在一起。

简单链

最简单的链是将提示词模板与模型连接起来。

import { PromptTemplate } from "@langchain/core/prompts";
import { LLMChain } from "langchain/chains";

const prompt = PromptTemplate.fromTemplate("你好，我是{role}，很高兴见到你");
const chain = new LLMChain({ llm: chatModel, prompt });

const result = await chain.run({ role: "人工智能助手" });
console.log(result);

顺序链

对于复杂任务，可以使用 SequentialChain 按顺序执行多个步骤。

import { SequentialChain } from "langchain/chains";

const firstPrompt = PromptTemplate.fromTemplate("翻译这句话：{input}");
const secondPrompt = PromptTemplate.fromTemplate("总结翻译结果：{translation}");

const chain1 = new LLMChain({ llm: chatModel, prompt: firstPrompt, outputKey: "translation" });
const chain2 = new LLMChain({ llm: chatModel, prompt: secondPrompt, outputKey: "summary" });

const sequentialChain = new SequentialChain({
  chains: [chain1, chain2],
  inputVariables: ["input"],
  outputVariables: ["summary"],
});

const finalResult = await sequentialChain({ input: "Hello world" });
console.log(finalResult.summary);

错误处理与最佳实践

在实际生产中，网络波动或模型异常可能导致调用失败。建议添加重试机制。

import { RetryError } from "langchain/errors";

try {
  const response = await chatModel.invoke(messages);
} catch (error) {
  if (error instanceof RetryError) {
    console.error("请求失败，稍后重试...");
  } else {
    console.error("其他错误:", error.message);
  }
}

此外，建议对输入内容进行清洗，防止注入攻击；对输出内容进行校验，确保符合预期格式。定期监控 Token 消耗，优化 Prompt 以减少成本。

总结

本文详细介绍了 LangChain.js 的基础用法和进阶功能。从环境搭建到模型调用，再到流式输出和函数调用，涵盖了构建 AI 应用所需的核心技能。通过合理使用 Chains 和 Prompt 模板，开发者可以大幅降低大模型集成的复杂度。随着 AI 技术的迭代，建议持续关注官方文档的更新，以利用最新的功能特性。