基于 LangChain 与 Ollama 的意图识别系统构建实践

参数优化

• Temperature: 设置为 0 以确保输出的确定性，这对分类任务至关重要。
• Stop Sequences: 配置结束序列如 [".", ","]，可以强制模型输出简短的二进制响应，提高解析速度和可靠性。
• 成本与延迟: 利用本地 LLM 基本零成本，且分类延迟通常可忽略不计，远优于切换标签页或手机计算器的体验。

2. 构建自定义工具类

一旦意图被识别，我们需要一个具体的工具来处理请求。这里我们使用 LangChain 的 Tool 基类来实现一个计算器。

import { Tool } from "@langchain/core/tools";

export class Calculator extends Tool {
  name = "calculator";
  description = "用于评估算术表达式的工具";

  constructor() {
    super();
  }

  protected _call = async (expression: string): Promise<string> => {
    try {
      // 安全地评估表达式，避免直接 eval 带来的风险
      const tokens = this._extractTokens(expression);
      const answer = this._evaluateExpression(tokens);
      return answer.toString();
    } catch (error) {
      if (error instanceof Error) {
        return `错误：${error.message}`;
      }
      return "错误：无法执行计算器工具。";
    }
  };

  // 提取有效字符并验证格式
  private _extractTokens = (expression: string): string[] => {
    // 移除空格并验证仅包含数字、运算符和小数点
    const sanitized = expression.replace(/\s+/g, '');
    if (!/^[0-9+\-*/().]+$/.test(sanitized)) {
      throw new Error("表达式包含非法字符");
    }
    return sanitized.split('');
  };

  // 简单的表达式求值逻辑
  private _evaluateExpression = (tokens: string[]): number => {
    // 在实际生产中建议使用 mathjs 等库，此处为演示简化逻辑
    try {
      // 注意：在生产环境中应避免使用 Function 构造函数或 eval
      // 这里仅作示例展示流程完整性
      return new Function("return " + tokens.join(''))();
    } catch (e) {
      throw new Error("计算失败");
    }
  };
}

当应用程序接收到类似数学方程的提示时，无论其复杂程度如何，都能自动判定调用此计算器工具。

扩展分类技巧处理复杂条件

单一的意图分类可能不足以应对所有场景。例如，某些功能可能需要根据上下文状态（如用户权限、缓存状态）来决定是否执行。为此，我们将分类逻辑封装为通用的可配置函数。

通用分类函数

const classifyPrompt = async (
  baseURL: string,
  model: string,
  type: string,
  originalPrompt: string,
  classificationPrompt: string,
  prefixTrigger?: string,
): Promise<boolean> => {
  // 检查开头的触发指令
  if (prefixTrigger && originalPrompt.trim().toLowerCase().startsWith(prefixTrigger)) {
    return true;
  }

  // 调用本地模型进行分类
  const ollama = new Ollama({
    baseUrl: baseURL,
    model: model,
    temperature: 0,
    stop: [".", ","],
  });
  
  const finalPrompt = `${classificationPrompt} 请用'是'或'否'来回答。\n\n提示：${originalPrompt}`;
  
  return ollama.invoke(finalPrompt).then((response) => {
    const answer = response.trim().split(" ")[0].toLowerCase();
    return answer.includes("yes");
  });
};

该函数支持传入触发器前缀和分类提示词，使得开发者可以在整个应用程序中复用此逻辑。例如，在处理多模态功能时，可以先判断提示是否涉及图像，再决定是否下载资源。

集成业务逻辑

将分类结果纳入条件判断语句是控制应用流程的关键。这种方法不仅简单有效，还使得依赖于 LLM 的编程逻辑变得可测试。

// 示例：结合用户配置和分类结果
if (
  isMultimodal(options.ollamaModel) &&
  (await classifyPrompt(
    options.ollamaHost,
    options.ollamaModel,
    "IMAGE_DOWNLOAD",
    prompt,
    "以下提示是否涉及图像，或是询问描述图像？",
    "基于图片"
  ))
) {
  // 执行图像下载逻辑
  await downloadImage(prompt);
}

这种设计允许我们在大规模应用中保持一致的决策逻辑，特别是在需要特定授权或数据权限访问的场景下（如 RAG 检索增强生成），避免了将重要决策完全留给模型的概率性输出。

安全性与最佳实践

在构建基于 LLM 的工具系统时，安全性不容忽视。

1. 输入验证：在执行任何代码或数据库操作前，必须对用户输入进行严格验证。例如在计算器工具中，我们限制了允许的字符集。
2. 最小权限原则：工具应仅拥有完成特定任务所需的最小权限。例如，文件读取工具不应具备写入权限。
3. 本地化部署：使用 Ollama 等本地模型可以减少敏感数据泄露的风险，同时降低 API 调用成本。
4. 超时控制：为 LLM 调用设置合理的超时时间，防止因模型响应缓慢导致应用挂起。

总结与展望

本文介绍了如何利用 LangChain 框架结合本地 Ollama 模型，构建一个高效的意图识别系统。通过分离意图分类与工具执行，我们解决了 LLM 在精确计算和逻辑控制上的短板。

未来，随着 Agent 架构的成熟，我们可以进一步探索更复杂的自动化工作流。虽然 Chrome 插件等前端扩展能力有限，但结合后端服务与本地模型，我们能够在浏览器生态中实现更多创新的 LLM 应用场景。掌握这一技术栈，将有助于开发者更好地应对 AI 时代的工程挑战。