跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书GitHub 精选镜像AI 生图工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
PythonAI

Linux 下部署 GraphRAG 并接入 Ollama 本地模型

GraphRAG 在 Linux 环境下基于 Ollama 本地模型的部署实践。通过 conda 创建虚拟环境,安装 graphrag 包并初始化配置。重点解决了无 GPU 场景下的索引构建问题,调整了 settings.yaml 中的模型参数与 API 路径。实测发现本地小模型配合精简语料可完成基础问答,但需注意 API 连接路径及文本分块设置对性能的影响。

moshang发布于 2026/3/29更新于 2026/8/2349 浏览

GraphRAG 的官方文档是主要参考,但实际落地时往往需要结合具体环境调整。这次我们在 Linux 环境下尝试部署 GraphRAG,并接入 Ollama 进行本地模型推理。

本次测试环境基于 openEuler 22.03 LTS-SP3,Python 版本控制在 3.10 到 3.12 之间。值得注意的是,如果没有 GPU 支持,索引构建过程可能会非常慢甚至超时,配置项需要反复调试才能跑通。

环境搭建

创建虚拟环境

官网建议创建一个项目空间和 Python 虚拟环境来安装 graphrag。我使用的是 Anaconda,这里直接展示关键命令:

# 创建虚拟环境 conda create -n AutoGenStudio python=3.10

激活环境后,确保 Python 版本符合要求。

安装与初始化

python -m pip install graphrag
graphrag init

运行 init 后会生成 .env、settings.yaml 和 input 目录。这里有个坑,官网文档里的初始化说明可能已经滞后,生成的文件结构略有不同,需以实际生成为准。

准备数据

官方示例是纯英文的,为了测试中文效果,我准备了一些中文语料。不过全量中文数据索引太慢,最后用了一句简单的测试句来验证流程:

mkdir input
curl https://www.gutenberg.org/cache/epub/24022/pg24022.txt -o ./input/book.txt
# 或者使用自定义中文测试文本 echo "张三是小学语文老师,他的哥哥张三丰是中学数学老师,他们都在郑州。" > ./input/test.txt

配置本地模型

核心在于修改 settings.yaml,将模型提供商从 OpenAI 切换为 Ollama。由于是在本地无 GPU 服务器测试,尽量选择小参数量的模型。

首先确认 Ollama 服务可用:

curl http://localhost:11434/api/tags

然后更新配置文件,注意 api_base 不要带 /v1 后缀,否则容易报错:

models:
  default_chat_model:
    type: chat
    model_provider: ollama
    auth_type: api_key
    api_key: dummy_key
    model: qwen2.5:0.5b
    api_base: http://localhost:11434
    model_supports_json: true
    concurrent_requests: 1
    async_mode: threaded
    retry_strategy: exponential_backoff
    max_retries: 1
    request_timeout: 1800
  default_embedding_model:
    type: embedding
    model_provider: ollama
    auth_type: api_key
    api_key: dummy_key
    model: nomic-embed-text:latest
    api_base: http://localhost:11434
    concurrent_requests: 1
    request_timeout: 1800
    async_mode: threaded
    retry_strategy: exponential_backoff
    max_retries: 1
chunks:
  size: 64
  overlap: 8
  group_by_columns: [id]
extract_graph:
  extractor_type: nlp
  extract_graph_nlp:
    text_analyzer:
      extractor_type: regex_english
    async_mode: asyncio

创建索引

执行以下命令开始构建知识图谱:

graphrag index

运行过程中会输出日志到 logs/indexing-engine.log。如果遇到类似 404 page not found 的错误,通常是 api_base 路径多了 /v1 导致的,请检查配置。

成功后的截图如下:

[图:索引构建完成示意]

查询测试

配置完成后,可以分别使用全局查询和本地查询模式进行测试。

全局查询:

graphrag query -m global -q "郑州有几个老师?"

输出结果通常会比较谨慎,例如:

对不起,我无法回答这个问题。根据提供的信息,我们只知道有两个老师在郑州工作,但没有提供具体的数量或详细的信息。

本地查询:

graphrag query -m local -q "郑州的这两个老师什么关系?"

本地模式下的回答逻辑会有所不同,可能会尝试推断实体间的关系:

在提供的数据中,我们无法直接找到关于'郑州的两个老师'之间具体关系的信息。然而,我们可以从其他相关数据中推断出一些可能的关系...

总结

这次部署有几个关键点值得注意:

  1. 文档时效性:官网的部署流程并非最新,部分配置项已变更,需以实际生成为准。
  2. 硬件限制:没有 GPU 的服务器初始化及问答的效果都不理想,显存和算力对大模型推理影响很大。
  3. 配置细节:API 路径错误(如多写 /v1)会导致连接失败,本地测试时尽量调低模型参数量和分块大小以提升速度。

整体来看,在无 GPU 环境下通过 Ollama 跑通 GraphRAG 是可行的,但需要根据实际情况不断微调配置参数。

目录

  1. 环境搭建
  2. 创建虚拟环境
  3. 创建虚拟环境 conda create -n AutoGenStudio python=3.10
  4. 安装与初始化
  5. 准备数据
  6. 或者使用自定义中文测试文本 echo "张三是小学语文老师,他的哥哥张三丰是中学数学老师,他们都在郑州。" > ./input/test.txt
  7. 配置本地模型
  8. 创建索引
  9. 查询测试
  10. 总结
  • 免费图片AI生成工具免费生成了解详情
  • Magick API 一键接入全球大模型注册送1000万token查看
  • 免费图片视频在线生成30秒,将你的创意变成现实开始设计
  • X/Twitter免费视频下载器免登陆无限额度免费视频解析下载了解详情
  • 100+免费在线小游戏爽一把
极客日志微信公众号二维码

微信扫一扫,关注极客日志

微信公众号「极客日志V2」,在微信中扫描左侧二维码关注。展示文案:极客日志V2 zeeklog

更多推荐文章

查看全部
  • Cursor 集成 MCP 服务实战指南
  • AI 时代产品经理全流程落地管控方法:从需求到上线
  • JVS-APS是什么?算法驱动+低代码融合,重塑智能排产新范式!
  • Python 宠物美容服务预约档案系统设计与可视化
  • CSS 元素显示模式详解:块级、行内与行内块
  • Java Stream 流常用方法
  • Go 语言实现复杂密码生成器算法(附源码)
  • 基于Termux的Android平台OpenClaw部署:移动端AI助理实现
  • C++ 智能指针详解:RAII 原理与标准库实现
  • 前端如何编写优秀的 AI Agent Skills
  • OpenClaw 多节点访问 Gateway 的配置指南
  • WIN11必备!QTTabBar中文优化版保姆级安装教程(含常见问题解决)
  • 学习 Python 对软件测试有哪些优势?
  • AI猫娘?让微信接入Deepseek:获得一个AI聊天机器人,喵~
  • 利用 AI 辅助工具快速构建电商系统核心模块
  • RTAB-Map 机器人 3D 环境感知与建图技术解析
  • OpenClaw 开源个人 AI 智能助理完整部署教程
  • 飞牛 NAS 原生 WebDAV 挂载 115 网盘配置详解
  • MySQL 与 MCP 协议集成实战:从环境搭建到 AI 数据交互
  • Ubuntu 部署 Claude Code 及 Web 界面完整指南

相关免费在线工具

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • curl 转代码

    解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具,curl 转代码在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online

  • Base64 文件转换器

    将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online