借助 Ollama 和 Embeddings 构建智能知识图谱问答系统

2. 生成 Embeddings

利用 Ollama 的 API 将文本转换为向量。这里假设使用 llama3.1:8b 或其他支持 Embedding 的模型。

import requests
import json

def get_embedding(text, model="llama3.1:8b", base_url="http://localhost:11434"):
    """
    调用 Ollama API 获取文本的 Embedding 向量。
    """
    url = f"{base_url}/api/embeddings"
    payload = {
        "model": model,
        "prompt": text
    }
    headers = {'Content-Type': 'application/json'}
    
    try:
        response = requests.post(url, headers=headers, data=json.dumps(payload))
        if response.status_code != 200:
            raise Exception(f"API request failed with status code {response.status_code}: {response.text}")
        
        response_data = response.json()
        
        # 处理不同的响应格式
        if 'embedding' in response_data:
            return np.array(response_data['embedding'], dtype=np.float32)
        elif 'embeddings' in response_data and len(response_data['embeddings']) > 0:
            return np.array(response_data['embeddings'][0], dtype=np.float32)
        else:
            raise KeyError(f"No embedding found in API response.")
    except Exception as e:
        print(f"Error generating embedding: {e}")
        return None

3. 构建索引 (Annoy)

为了加速相似性搜索，我们使用 Facebook 开源的 Annoy (Approximate Nearest Neighbors Oh Yeah) 库建立索引。相比暴力遍历，Annoy 能在海量数据下提供毫秒级响应。

from annoy import AnnoyIndex

def build_annoy_index(conn, vector_size=4096, n_trees=10):
    """
    从数据库中读取向量，构建 Annoy 索引。
    """
    c = conn.cursor()
    c.execute("SELECT id, embedding FROM embeddings")
    rows = c.fetchall()
    
    # 初始化索引
    annoy_index = AnnoyIndex(vector_size, metric='angular')
    
    for i, (row_id, embedding_blob) in enumerate(rows):
        # 将 BLOB 转换回 numpy 数组
        embedding = np.frombuffer(embedding_blob, dtype=np.float32)
        if len(embedding) != vector_size:
            print(f"Warning: Vector size mismatch at ID {row_id}. Skipping.")
            continue
        # Annoy 索引通常从 0 开始计数
        annoy_index.add_item(i, embedding)
    
    print(f"Building index with {len(rows)} vectors...")
    annoy_index.build(n_trees)
    annoy_index.save('kg_index.ann')
    print("Index saved successfully.")
    return annoy_index

4. 智能查询流程

当用户发起提问时，系统将执行以下步骤：

1. 将问题转换为向量。
2. 在 Annoy 索引中查找最相似的 K 个向量。
3. 根据 ID 从数据库获取原始文本作为答案。

def query_knowledge_base(query_text, k=5):
    """
    执行智能问答查询。
    """
    # 1. 获取查询向量
    query_vector = get_embedding(query_text)
    if query_vector is None:
        return "无法生成查询向量，请检查 Ollama 服务。"
    
    # 2. 加载索引
    annoy_index = AnnoyIndex(len(query_vector), metric='angular')
    annoy_index.load('kg_index.ann')
    
    # 3. 搜索最近邻
    indices = annoy_index.get_nns_by_vector(query_vector, k, include_distances=True)
    
    results = []
    for idx, dist in zip(indices[0], indices[1]):
        # 注意：这里的 idx 是插入时的顺序索引，需映射回数据库 ID
        # 实际生产中应维护一个 ID 映射表
        results.append({
            "index": idx,
            "distance": dist,
            "text": f"(模拟返回第 {idx} 条数据内容)"
        })
    
    return results

四、优化与进阶

1. 数据更新策略

知识图谱不是一成不变的。随着新知识的产生，需要定期增量更新。

• 全量重建：数据量较小时，直接重新运行 build_annoy_index。
• 增量更新：对于大规模数据，建议引入支持动态更新的向量数据库（如 Faiss, Weaviate），避免频繁重建索引带来的性能开销。

2. 混合搜索增强

单纯依靠向量相似度可能丢失精确匹配的能力。建议结合关键词搜索（BM25）与向量搜索（Vector Search）。

• Rerank 机制：先通过向量召回 Top 50 候选，再通过重排序模型（Cross-Encoder）对结果进行精细化打分。

3. 安全与隐私

• 本地部署：本方案强调使用 Ollama 本地运行，确保敏感数据不出内网。
• 权限控制：在生产环境中，应在应用层增加用户鉴权，防止未授权访问知识库。

五、总结

通过结合 Ollama 的本地推理能力和 Embeddings 向量技术，我们可以低成本地构建具备语义理解能力的智能问答系统。这种架构特别适合中小规模的知识库场景，既避免了高昂的云服务成本，又保护了数据隐私。

未来，您可以进一步探索 LangChain 等框架，将此类系统与 RAG（检索增强生成）深度集成，实现更复杂的业务逻辑，如自动报告生成、多轮对话记忆等功能。动手实践是掌握 AI 技术的最佳途径，建议您从上述代码片段开始，逐步完善自己的知识管理系统。