本项目基于 LangChain4j 框架，演示了如何在 Java SpringBoot 应用中集成大语言模型。内容涵盖本地 Ollama 部署与阿里云百炼接入，实现了 AIService 动态代理、聊天记忆（内存与持久化）、提示词工程、函数调用及 RAG 检索增强生成。此外还介绍了向量数据库 Pinecone 的集成以及流式输出改造，最终构建了一个具备订单管理功能的智能医疗助手原型。
LangChain4j 的目标是简化将大语言模型（LLM）集成到 Java 应用程序中的过程。本文将带你一步步构建一个具备聊天记忆、函数调用及 RAG 能力的智能助手。
按照标准流程初始化 SpringBoot 工程。
在 pom.xml 中配置版本管理和核心依赖。
在配置文件中设定模型接入信息。
编写简单的单元测试验证连接。
输出如下：
Ollama 是一个本地部署大模型的工具，适合对数据隐私、离线可用性及成本敏感的场景。
并在 cmd 中执行 ollama run deepseek-r1:1.5b 命令：
引入对应的 SDK 依赖。
配置本地模型的访问地址和名称。
运行测试验证本地模型连通性。
输出结果正常。
引入阿里云百炼相关的 SDK。
设置 API Key 及模型 ID。
验证云端模型调用。
配置模型参数后直接运行测试类 testSpringBoot 即可。
AIService 使用面向接口和动态代理的方式完成程序的编写，更灵活地实现高级功能。它可处理最常见的操作：为大语言模型格式化输入内容、解析大语言模型的输出结果。同时支持聊天记忆、工具调用、检索增强生成等高级功能。
确保包含 AIService 模块依赖。
定义业务接口。
输出：
AiServices 会组装 Assistant 接口以及其他组件，并使用反射机制创建一个实现 Assistant 接口的代理对象。这个代理对象会处理输入和输出的所有转换工作。简单理解就是：代理对象的作用是输入转换和输出转换。
输出：
输出：
消息已经正确以 JSON 格式存储在了 MongoDB 中。
系统提示词 @SystemMessage 设定角色，塑造 AI 助手的专业身份，明确助手的能力范围。
@SystemMessage 的内容将在后台转换为 SystemMessage 对象，并与大语言模型（LLM）一起发送。SystemMessage 的内容只会发送给大模型一次。如果修改了 SystemMessage 的内容，新的 SystemMessage 会被发送给大模型，之前的聊天记忆会失效。
输出结果：
JVM:
MongoDB:
@SystemMessage 注解还可以从资源中加载提示模板。
my-prompt-template.txt:
@UserMessage：获取用户输入。在 MemoryChatAssistant 的 chat 方法中添加注解。
输出：
@V 明确指定传递的参数名称。
如果有两个或两个以上的参数，必须要用 @V，在 SeparateChatAssistant 中定义方法。
输出：
也可以将 @SystemMessage 和 @V 结合使用。在 SeparateChatAssistant 中添加方法。
输出：
Function Calling 也叫 Tools。工具大语言模型本身并不擅长数学运算。如果应用场景中偶尔会涉及到数学计算，我们可以为它提供一个'数学工具'。当我们提出问题时，大语言模型会判断是否使用某个工具。
@Tool 注解有两个可选字段：name（工具名称）、value（工具描述）。@P 注解 方法参数可以选择使用 @P 注解进行标注。value：参数的描述信息，这是必填字段。required：表示该参数是否为必需项，默认值为 true。@ToolMemoryId true，此为可选字段。如果你的 AIService 方法中有一个参数使用 @MemoryId 注解，那么你也可以使用 @Tool 方法中的一个参数。
输出：
实现清影小智的查询订单、预约订单、取消订单的功能。
输出：
运行结果：
LangChain4j 有一个'文档分割器'（DocumentSplitter）接口，并且提供了几种开箱即用的实现方式：按段落、行、句子、单词、字符及正则表达式分割。递归分割默认情况下每个文本片段最多不能超过 300 个 token。
Embedding Stores 常见的意思是'嵌入（向量）存储'。Langchain4j 支持的向量存储可参考官方文档。
添加依赖：
测试：
期望的文本片段最大大小
重叠部分大小
例如，在处理一般性的文本资料，且使用的模型上下文窗口较大时，设置文本片段最大大小为 600 - 800 个 token，重叠部分为 30 - 50 个 token 可能是一个不错的选择。
在 xiaozhiAgentConfig 中添加 ContentRetriever。
通用文本向量模型推荐使用 text-embedding-v3，维度 1024，维度越多，对事务的描述越精准，信息检索的精度越高。
langchain4j.community.dashscope.embedding-model.api-key=${ALI_API_KEY}
langchain4j.community.dashscope.embedding-model.model-name=text-embedding-v3
之前使用的是 InMemoryEmbeddingStore 作为向量存储，但是不建议在生产中使用基于内存的向量存储。因此这里我们使用 Pinecone 作为向量数据库。
得分的含义：衡量查询向量和存储向量之间的相似程度。得分越高，表明相关性越高。 得分的作用：筛选结果，控制召回率和准确率。minScore(0.8) 意味着只有得分大于等于 0.8 的结果才会被返回。
引入相关依赖。
测试相似度匹配
输出：
修改 contentRetriever 的配置为 contentRetrieverXiaozhiPincone。
大模型的流式输出是指大模型在生成文本或其他类型的数据时，不是等到整个生成过程完成后再一次性返回所有内容，而是生成一部分就立即发送一部分给用户或下游系统。这样，用户就不需要等待整个文本生成完成再看到结果。
修改 XiaozhiAgent 中 chatModel 改为 streamingChatModel = "qwenStreamingChatModel"。chat 方法的返回值为 Flux。
将 XiaozhiController 中 chat 方法的返回值修改为 Flux，并添加 produces 属性。
至此，清影小智的核心功能开发完成，可以通过运行主程序后，利用 Swagger 在浏览器上进行功能测试。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
查找任何按下的键的javascript键代码、代码、位置和修饰符。 在线工具，Keycode 信息在线工具，online
JavaScript 字符串转义/反转义；Java 风格 \uXXXX（Native2Ascii）编码与解码。 在线工具，Escape 与 Native 编解码在线工具，online
使用 Prettier 在浏览器内格式化 JavaScript 或 HTML 片段。 在线工具，JavaScript / HTML 格式化在线工具，online
Terser 压缩、变量名混淆，或 javascript-obfuscator 高强度混淆（体积会增大）。 在线工具，JavaScript 压缩与混淆在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online