本文详细阐述了基于大语言模型 (LLM)、检索增强生成 (RAG) 和指令微调 (Fine-Tuning) 构建智能体的核心技术。文章首先定义了 LLM、RAG 及微调的概念，对比了 RAG 与微调在解决知识时效性和幻觉问题上的差异。接着介绍了 Ollama 作为本地 LLM 运行环境的配置方法，以及 LangChain 框架的主要模块。最后通过 Python 代码示例，演示了如何利用 LangChain 结合本地模型完成提示词构建、模型调用及输出解析的全流程，并提供了链式调用的优化方案。
在深入技术细节之前，我们需要明确几个核心概念：
Retrieval Augmented Generation（检索增强生成）的核心作用是在生成最终答案之前，先对现有文档进行检索，而不是完全依赖 LLM 内部的知识参数。
主要解决的问题：
通俗解释： LLM 本身的内容存在时间限制，而 RAG 则是添加一个私密的、专业的外挂知识集。例如，将企业的《业务操作指南》交给 LLM，让 LLM 去查询并阅读这本指南，综合多个章节内容后回答问题。简单来说，就是给 LLM 我们自己的知识内容，让它根据给出的知识去回答，而不是让它凭空捏造。
当内容非常多（上百万字）时，人工查找十分困难，而 LLM 可以快速理解知识并给出符合要求的答案。
要把我们的知识给 LLM，RAG 技术通常包含以下步骤：
一个典型的 RAG 框架可以分为两个核心部分：
检索器 (Retriever)
生成器 (Generator)
Ollama 是大语言模型的运行环境。LLM 并不是一个可执行文件，需要依托于一个运行环境才可以使用。
LangChain 是一个 LLM 编程框架，它将基础功能整合封装，减少工作量。它本身不是 LLM，需要配合已安装的 LLM 或使用在线 API。
LangChain 的几大模块：
LangChain 的价值在于其组件的模块化。无论是否使用框架的其他部分，组件都易于复用。现成的链 (Chains) 用于完成特定高级任务，对于更复杂的应用，可以通过组合组件建立新链。
为了实现基于 LLM 的代码任务，我们需要准备以下环境：
Ollama 在本地配置一个 LLM。langchain 及相关依赖库。下载并安装 Ollama 后，输入 ollama -v 确认版本信息正常。
Ollama 只是一个运行环境，需要拉取具体的模型。这里选择阿里的 QWEN2。
ollama run qwen2
如果电脑性能一般，运行速度可能会较慢。下载完成后，再次输入 ollama run qwen2 即可开始对话。
注意：Ollama 的接口服务器默认占用
11434端口。可以在浏览器中访问http://localhost:11434查看服务状态。
确保 Python 环境就绪，升级 pip 并安装必要的库：
python.exe -m pip install --upgrade pip
pip install langchain
pip install langchain-community
pip install beautifulsoup4
完成环境准备后，我们可以编写一个简单的对话脚本。这段代码展示了如何使用 LangChain 的组件处理提示词、调用模型并解析输出。
from langchain.prompts import ChatPromptTemplate
from langchain_community.llms import Ollama
from langchain.output_parsers import CommaSeparatedListOutputParser
def chat():
# 1. 构建提示词模板
prompt = ChatPromptTemplate.from_messages([
("system", "{parser_instructions}"),
("human", "列出{cityName}的{viewPointNum}个著名景点。")
])
# 2. 初始化模型
model = Ollama(model="qwen2")
# 3. 定义输出解析器
output_parser = CommaSeparatedListOutputParser()
parser_instructions = output_parser.get_format_instructions()
# 4. 绑定参数并生成最终提示词
final_prompt = prompt.invoke({
"cityName": "成都",
"viewPointNum": 4,
"parser_instructions": parser_instructions
})
# 5. 调用模型获取响应
response = model.invoke(final_prompt)
print("----- response -----")
print(response)
# 6. 解析响应
ret = output_parser.invoke(response)
print("------ret-----")
print(ret)
if __name__ == "__main__":
chat()
代码解析：
ChatPromptTemplate 定义系统指令和用户问题。system 中的 parser_instructions 是对输出的格式要求，human 中的 cityName 和 viewPointNum 是动态参数。qwen2。CommaSeparatedListOutputParser 将模型返回的字符串解析为列表。LangChain 还支持 DatetimeOutputParser、EnumOutputParser 等多种解析器。invoke 是 LangChain 的核心方法，用于触发链的执行。prompt.invoke 将输入绑定到模板，model.invoke 提交给 LLM，output_parser.invoke 将结果转为结构化数据。此外，LangChain 支持 LCEL (LangChain Expression Language) 表达语言，可以将上述步骤简化为链式调用：
# 简化的链式调用
chain = prompt | model | output_parser
result = chain.invoke({"cityName": "成都", "viewPointNum": 4, "parser_instructions": parser_instructions})
print(result)
这种表达方式更加直观，体现了 LangChain 将工作流串起来的优势，避免了 invoke 满天飞的情况。
通过本文的介绍，我们了解了 LLM、RAG 和 Fine-Tuning 的基本概念及其区别。RAG 通过外挂知识库解决了 LLM 知识滞后和幻觉问题，而 Fine-Tuning 则增强了模型的领域适应性。在实际开发中，Ollama 提供了便捷的本地模型运行环境，而 LangChain 则大大降低了构建 LLM 应用的复杂度。
随着大模型技术的快速发展，掌握这些工具将成为程序员的重要技能。建议开发者在实践中不断尝试不同的 RAG 策略（如混合检索、重排序）和优化 LangChain 的 Chain 结构，以获得生产级别的效果。同时，关注社区的最新动态，及时跟进新的模型能力和框架更新，才能在 AI 时代保持竞争力。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online