LangChain.js 实战指南：基础调用与功能应用

invoke() 方法返回一个 Promise，解析后即为模型的文本回复。在实际项目中，建议对响应内容进行类型检查或格式化输出。

流式传输处理

流式传输允许开发者实时接收模型生成的内容，提升用户体验。LangChain.js 支持回调函数和流式迭代器两种方式。

回调函数方式

旧版方式，适用于简单场景：

const chat = new ChatOpenAI({ streaming: true });

await chat.call([new HumanMessage("讲个笑话")], {
  callbacks: [
    {
      handleLLMNewToken(token) {
        process.stdout.write(token);
      },
    },
  ],
});

流式迭代器方式

新版推荐方式，更灵活且易于控制：

const stream = await chat.stream([new HumanMessage("写一首关于春天的诗")]);

for await (const chunk of stream) {
  if (chunk.content) {
    process.stdout.write(chunk.content);
  }
}

stream 是一个 AsyncIterableIterator，配合 for await...of 语法可逐块处理数据。这种方式适合前端展示打字机效果或后端日志记录。

JSON 模式输出

JSON Mode 允许强制模型输出符合特定格式的 JSON 数据，便于程序解析。目前主要支持部分 GPT 模型。

配置 JSON 模式

const jsonModeModel = new ChatOpenAI({
  modelName: "gpt-4-1106-preview",
}).bind({
  response_format: {
    type: "json_object",
  },
});

注意：某些模型要求 SystemMessage 必须包含 "JSON" 字样以确保格式约束生效。

const res = await jsonModeModel.invoke([
  ["system", "Only return JSON data."],
  ["human", "提取这句话的情感倾向：今天天气真好！"],
]);

const parsed = JSON.parse(res.content);
console.log(parsed);

后续模型迭代可能会放宽此限制，建议始终验证输出合法性。

函数调用能力

函数调用（Function Calling）是大模型与外部程序交互的重要协议。模型根据用户意图选择调用预定义的函数，并传递参数。

定义函数 Schema

可以使用原生对象或 Zod 库定义函数结构。Zod 能提供更强的类型安全。

import { z } from "zod";
import { zodToJsonSchema } from "zod-to-json-schema";

const extractionFunctionSchema = {
  name: "extractor",
  description: "Extracts fields from the input text.",
  parameters: zodToJsonSchema(
    z.object({
      tone: z.enum(["positive", "negative"]).describe("情感倾向"),
      word_count: z.number().describe("字数统计"),
      chat_response: z.string().describe("回复内容"),
    })
  ),
};

绑定与执行

将函数 Schema 绑定到模型，并指定是否强制调用。

const model = new ChatOpenAI({
  modelName: "gpt-4",
}).bind({
  functions: [extractionFunctionSchema],
  function_call: { name: "extractor" },
});

const result = await model.invoke([new HumanMessage("What a beautiful day!")]);

if (result.additional_kwargs?.function_call) {
  const args = JSON.parse(result.additional_kwargs.function_call.arguments);
  console.log("调用函数:", args);
  // 在此处执行实际的业务逻辑
}

解析 additional_kwargs 中的 function_call 字段获取参数，随后在业务层执行对应逻辑。

错误处理与最佳实践

异常捕获

网络波动或 API 限流可能导致调用失败，务必包裹在 try-catch 块中。

try {
  const response = await chatModel.invoke(messages);
} catch (error) {
  console.error("调用失败:", error.message);
  // 实现重试机制或降级方案
}

成本与性能优化

1. 缓存策略：对相同 Prompt 的结果进行缓存，减少重复调用。
2. 流式输出：优先使用流式传输降低首字延迟。
3. Prompt 精简：缩短上下文长度以降低 Token 消耗。
4. 监控日志：记录每次调用的耗时和 Token 使用情况。

总结

本文详细介绍了 LangChain.js 的核心功能，包括模型初始化、消息管理、流式传输、JSON 模式及函数调用。通过规范的环境配置和错误处理机制，开发者可以构建稳定可靠的大模型应用。随着 AI 技术的迭代，建议持续关注官方文档更新，及时适配新特性。