Open Notebook 与本地 AI：离线环境下使用开源模型

下载命令：打开终端，执行以下命令下载推荐模型：

# 基础模型组合（推荐 8GB 内存用户）
ollama pull qwen3
ollama pull mxbai-embed-large

# 高级推理模型（推荐 16GB 内存用户，可选）
ollama pull deepseek-r1

第三步：安装 open-notebook

使用 Docker 安装（推荐新手）：

# 创建项目目录
mkdir open-notebook && cd open-notebook

# 下载配置文件
curl -O https://raw.githubusercontent.com/lfnovo/open-notebook/main/docker-compose.yml
curl -O https://raw.githubusercontent.com/lfnovo/open-notebook/main/.env.example

# 重命名环境配置文件
mv .env.example docker.env

# 编辑环境文件，添加本地 AI 配置
echo "OLLAMA_API_BASE=http://localhost:11434" >> docker.env

# 启动服务
docker compose up -d

从源码安装（开发者选项）：

# 克隆仓库
git clone https://github.com/lfnovo/open-notebook
cd open-notebook

# 配置环境变量
cp .env.example .env
echo "OLLAMA_API_BASE=http://localhost:11434" >> .env

# 安装依赖并启动
uv sync
make start-all

第四步：配置本地模型

1. 访问 open-notebook 界面（默认地址：http://localhost:8502）
2. 点击左侧导航栏的"🤖 Models"（模型设置）
3. 在"语言模型"部分，选择 Ollama 提供的模型（如 qwen3）
4. 在"嵌入模型"部分，选择 mxbai-embed-large
5. 点击"保存设置"应用更改

无网络环境下的使用场景

场景一：离线文献分析

1. 在有网络时，提前将需要分析的 PDF 论文、文档添加到 open-notebook
2. 系统会自动处理并存储这些文档
3. 在无网络环境下，直接向 AI 提问分析这些文档：
   • "总结这篇论文的核心发现"
   • "比较文档 A 和文档 B 的研究方法"
   • "提取所有参考文献并按年份排序"

场景二：本地知识库问答

open-notebook 会为所有添加的文档建立本地知识库，即使没有网络：

1. 添加多个相关文档到一个笔记本
2. 使用搜索功能快速定位关键信息
3. 通过聊天界面进行深度问答：
   • "根据这些文档，推荐一个研究方向"
   • "解释这个技术术语并给出示例"
   • "帮我整理一份基于这些材料的演讲提纲"

场景三：创意写作与编辑

利用本地 AI 进行内容创作，无需担心数据泄露：

1. 创建新笔记，输入写作主题和大纲
2. 使用"转换"功能获取 AI 辅助：
   • 扩展大纲细节
   • 改进段落表达
   • 调整写作风格
3. 所有创作过程完全在本地完成，保护知识产权

高级配置与优化

硬件资源优化

如果你的设备配置有限，可以通过以下方式优化性能：

减少模型加载数量：

export OLLAMA_MAX_LOADED_MODELS=1

限制内存使用：

OLLAMA_MAX_VRAM=4GB ollama serve

自定义模型配置

对于高级用户，可以创建自定义模型配置以获得更好的性能：

1. 创建模型配置文件：

cat > Modelfile << EOF
FROM qwen3
PARAMETER temperature 0.7
PARAMETER top_p 0.9
SYSTEM "你是一个专注于科研分析的助手，回答简洁专业。"
EOF

2. 创建自定义模型：

ollama create research-assistant -f Modelfile

3. 在 open-notebook 中选择新创建的"research-assistant"模型

网络恢复后的同步

当网络恢复后，系统会自动：

• 检查模型更新
• 同步元数据（不影响本地内容）
• 提供可选的云端功能扩展

故障排除与常见问题

问题 1：Ollama 服务无法启动

可能原因：端口冲突或资源不足

解决方法：

# 检查端口占用
lsof -i :11434

# 重启 Ollama 服务
sudo systemctl restart ollama

# 查看日志排查问题
journalctl -u ollama -f

问题 2：open-notebook 无法连接本地模型

可能原因：环境变量配置错误

解决方法：

1. 检查环境变量配置：

echo $OLLAMA_API_BASE
# 应输出 http://localhost:11434

2. 测试 Ollama 连接：

curl http://localhost:11434/api/tags
# 应返回已安装的模型列表

3. 在 open-notebook 设置中重新选择模型

问题 3：模型运行缓慢

优化建议：

• 选择参数更小的模型（如 phi4 替代 qwen3）
• 关闭其他占用资源的程序
• 增加系统交换内存
• 考虑添加 GPU 加速（需 NVIDIA 显卡）

最佳实践与技巧

模型选择策略

根据任务类型选择合适的模型：

• 快速笔记和简单问答：phi4（速度优先）
• 文献分析和内容总结：qwen3 或 gemma3（平衡性能）
• 复杂推理和深度分析：deepseek-r1（推理优先）

存储管理

• 定期清理不再需要的模型：ollama rm 模型名
• 将不常用的笔记本导出为 PDF 存档
• 使用外部存储扩展空间（适用于大量文献）

安全与隐私

• 定期更新 Ollama 和 open-notebook 获取安全补丁
• 对于高度敏感数据，可断开网络后再处理
• 考虑使用加密存储保护笔记本数据

总结与展望

open-notebook 与本地 AI 模型的结合，彻底解决了网络依赖和数据隐私问题，为研究人员、学生和专业人士提供了一个安全、灵活的知识管理解决方案。无论是在没有网络的旅行途中，还是在安全要求严格的工作环境中，你都可以随时访问强大的 AI 辅助功能。

随着本地 AI 技术的不断进步，我们可以期待：

• 更小体积但性能更强的模型
• 更低的硬件门槛
• 更丰富的离线功能扩展

立即尝试搭建你的本地 AI 笔记系统，体验真正的数据自主掌控！