基于 Meilisearch 与 Ollama 的文本向量搜索实现

1.3 启动服务

运行以下命令启动 Meilisearch：

docker-compose up -d

2. Ollama 设置

Ollama 是支持本地部署的大语言模型平台，可通过 API 访问 AI 模型。与 Meilisearch 集成时，Ollama 负责将用户查询转换为向量，实现语义搜索。

2.1 安装 Ollama

按照官方文档指示安装 Ollama。安装完成后配置服务。

2.2 配置 Ollama 服务

创建 systemd 服务文件 /etc/systemd/system/ollama.service：

[Unit]
Description=Ollama Service
After=network.target

[Service]
ExecStart=/usr/local/bin/ollama serve
Restart=always
User=root

[Install]
WantedBy=multi-user.target

2.3 允许外部访问

如需从外部网络访问，修改配置绑定所有接口。创建 /etc/systemd/system/ollama.service.d/override.conf：

[Service]
Environment="OLLAMA_HOST=0.0.0.0"

重新加载并启动服务：

systemctl daemon-reload
systemctl restart ollama

3. 配置 Meilisearch 向量搜索

3.1 激活向量搜索功能

通过 API 开启实验性功能：

curl -X PATCH 'http://localhost:7700/experimental-features/' \
  -H 'Content-Type: application/json' \
  -H 'Authorization: Bearer vhcdWXs31gt3cB76' \
  --data-binary '{"vectorStore": true}'

3.2 配置嵌入模型

将 Ollama 设为 Meilisearch 的嵌入模型源：

curl -X PATCH 'http://localhost:7700/indexes/posts/settings' \
     -H 'Content-Type: application/json' \
     -H 'Authorization: Bearer vhcdWXs31gt3cB76' \
     --data-binary '{
       "embedders": {
         "default": {
           "source": "ollama",
           "url": "http://localhost:11434/api/embeddings",
           "model": "nomic-embed-text",
           "documentTemplate": "The document titled {{doc.title}} contains: {{doc.summary|truncatewords: 20}}"
         }
       }
     }'

Nomic-embed-text 是一个开源文本嵌入模型，上下文长度 8192，性能优异且参数量较小。

4. 索引文档

在搜索前，需先将文档添加到 Meilisearch 索引中。假设有一个名为 posts 的索引：

curl -X POST 'http://localhost:7700/indexes/posts/documents' \
  -H 'Content-Type: application/json' \
  -H 'Authorization: Bearer vhcdWXs31gt3cB76' \
  --data-binary '[
    {
      "id": "1",
      "title": "Cloudflare Tunnel 指南",
      "summary": "如何在 Mac 上设置 Cloudflare Tunnel 进行本地隧道映射。"
    },
    {
      "id": "2",
      "title": "Docker 容器化部署",
      "summary": "使用 Docker Compose 快速部署微服务架构的最佳实践。"
    }
  ]'

5. 执行向量搜索

完成配置后，可执行混合搜索（关键词 + 语义）：

curl -X POST 'http://localhost:7700/indexes/posts/search' \
  -H 'content-type: application/json' \
  -H 'Authorization: Bearer vhcdWXs31gt3cB76' \
  --data-binary '{
    "q": "Mac 本地设置隧道指南",
    "hybrid": {
      "semanticRatio": 0.1,
      "embedder": "default"
    }
  }'

6. 监控与维护

查看 Ollama 运行日志：

journalctl -u ollama.service -f

检查 Meilisearch 设置是否正确：

curl -X GET 'http://localhost:7700/indexes/posts/settings' \
   -H 'Authorization: Bearer vhcdWXs31gt3cB76' \
   -H 'Content-Type: application/json'

该方案结合了 Meilisearch 的高性能检索能力与 Ollama 的本地 AI 推理能力，适用于对数据隐私有要求且需要语义理解能力的搜索场景。