AI 工程化实战：RAG 与 Agent 融合架构详解

🌟 优势：避免一次性检索无关内容；工具参数来自 真实文档，非幻觉。

2.2 思考层：状态化推理引擎（LangGraph）

为什么用 LangGraph？

• 支持 循环、条件分支、状态管理；
• 天然适配 ReAct / Plan-and-Execute 范式。

状态定义：

from typing import TypedDict, List

class AgentState(TypedDict):
    input: str  # 用户原始问题
    steps: List[dict]  # 执行历史
    retrieved_docs: List[str]  # 检索到的知识片段
    tool_outputs: List[dict]  # 工具调用结果
    final_answer: str  # 最终答案

节点编排：

from langgraph.graph import StateGraph

workflow = StateGraph(AgentState)
workflow.add_node("plan", create_plan)  # 生成子任务
workflow.add_node("retrieve", retrieve_knowledge)  # 动态检索
workflow.add_node("act", execute_tool_with_rag)  # 安全执行
workflow.add_node("answer", generate_final_answer)  # 条件边：是否需要更多知识？
workflow.set_conditional_edges(
    "plan",
    lambda state: "need_retrieve" if needs_knowledge(state) else "act",
    {"need_retrieve": "retrieve", "act": "act"}
)
workflow.set_entry_point("plan")
app = workflow.compile()

✅ 效果：复杂任务自动拆解为 '检索→行动→再检索' 循环。

2.3 行动层：安全工具执行器

三大安全机制：

1. 参数校验（Guardrails）

<!-- tool_schema.rail -->
<output>
  <object name="book_flight">
    <string name="departure" format="regex:^\[A-Z\]{3}$" />
    <string name="arrival" format="regex:^\[A-Z\]{3}$" />
    <date name="date" format="iso-date" />
  </object>
</output>

自动拦截非法参数（如 departure="上海" → 拒绝）。

2. 权限检查（RBAC）

def check_permission(user_role: str, tool_name: str) -> bool:
    policy = {
        "employee": ["query_leave_balance"],
        "manager": ["query_leave_balance", "approve_leave"]
    }
    return tool_name in policy.get(user_role, [])

3. 高危操作人工确认

if tool_name in ["delete_data", "send_external_email"]:
    send_approval_request(user_id, tool_call)
    wait_for_approval()  # 阻塞直到人工确认

🔒 原则：宁可中断，不可越权

三、典型场景实战

3.1 场景一：智能 HR 助手

用户问：'帮李四申请 5 天年假，从下周一到周五。'

系统执行：

1. 检索：
   • '李四的剩余年假天数' → 返回'8 天'；
   • '年假审批流程' → 返回'需直属经理审批'。
2. 思考：
   • 剩余天数足够（5 ≤ 8）；
   • 需调用 submit_leave_request 工具。
3. 行动：
   • 填充参数：employee_id=李四，days=5, start_date=2025-12-30；
   • 调用工具 → 触发审批流；
   • 返回：'已提交申请，请等待王经理审批。'

✅ 全程无需人工干预，且 参数 100% 来自知识库。

3.2 场景二：合规审查 Agent

用户上传合同 PDF，问：'这份合同是否符合最新数据安全法？'

系统执行：

1. 多模态解析（见相关章节）：
   • 提取文本 + 表格 + 签字页；
2. 检索：
   • '数据安全法 2025 修订版' → 返回关键条款；
   • '公司合同模板 v3' → 返回标准措辞。
3. 分析：
   • 对比合同条款 vs 法律要求；
   • 发现：'未明确数据删除时限'（违反第 22 条）。
4. 行动：
   • 调用 risk_assessment_api 上报风险；
   • 生成修改建议：'请补充'数据应在服务终止后 30 日内删除''。

📄 输出：带高亮批注的 PDF + 风险报告。

3.3 场景三：IT 运维 Agent

用户问：'app-server-01 响应慢，帮我排查。'

系统执行：

1. 检索：
   • 'app-server-01 配置文档' → 返回 CPU/内存规格；
   • '近期变更记录' → 返回'昨天升级了 v2.3'。
2. 工具调用：
   • get_server_metrics(server="app-server-01") → CPU 98%；
   • list_running_processes() → 发现内存泄漏进程。
3. 决策：
   • 自动执行 restart_service(service="app-api")；
   • 监控 5 分钟，确认恢复。
4. 回答：
   '已重启 app-api 服务，CPU 降至 40%。建议开发团队检查 v2.3 的内存管理。'

⚙️ 价值：MTTR（平均修复时间）从 2 小时 → 5 分钟。

四、性能与成本优化

4.1 检索缓存（减少重复查询）

from functools import lru_cache

@lru_cache(maxsize=1000)
def cached_retrieve(query: str, user_id: str) -> list:
    # 加盐哈希防止越权
    cache_key = hash(f"{query}_{user_id[:8]}")
    return vector_db.search(query)

💰 实测：高频问题检索 QPS 提升 3 倍。

4.2 工具调用批处理

• 合并多个小请求：
  get_user_info("张三") + get_user_info("李四") → get_users(["张三", "李四"])
• 减少 API 调用次数，降低延迟 40%+。

4.3 分级响应策略

✅ 用户体验：绝不让用户干等

五、安全与审计

5.1 全链路追踪

每条请求生成 唯一 Trace ID，关联：

• 用户输入；
• 检索的文档 ID；
• 工具调用参数；
• 最终输出。

{
  "trace_id": "agt-20251223-abc123",
  "user": "zhangsan",
  "input": "帮李四申请年假",
  "retrieved_docs": ["hr_policy_v3.pdf#p12", "leave_balance_q4.csv"],
  "tool_calls": [{"name": "submit_leave", "args": {"days": 5}}],
  "output": "已提交申请..."
}

🔍 审计就绪：满足 ISO 27001 / GDPR 要求。

5.2 敏感操作双人复核

• 对 删除、转账、外发 类操作：
  • 第一人发起 → 第二人审批 → 执行；
  • 系统自动分配审批人（非发起人同部门）。

六、部署架构（Kubernetes）

6.1 微服务拆分

6.2 Helm Chart 片段

# charts/rag-agent/values.yaml
agent:
  image: rag-agent:v1.2
  resources:
    limits:
      nvidia.com/gpu: 1
      memory: "16Gi"
  autoscaling:
    enabled: true
    minReplicas: 2
    maxReplicas: 10
    metrics:
      - type: Resource
        resource:
          name: nvidia.com/gpu
          target:
            type: Utilization
            averageUtilization: 80

🚀 弹性伸缩：应对流量高峰。

七、评估与监控

7.1 关键指标

7.2 告警规则

• 任务失败率 >10% → 通知值班工程师；
• 未授权工具调用尝试 → 立即阻断 + 安全团队告警；
• GPU 显存 >90% → 自动扩容。

八、避坑指南

九、未来方向

1. 多 Agent 协作：
   • HR Agent + 财务 Agent 联合处理'离职结算'；
2. 长期记忆：
   • 用向量库存储用户偏好，实现个性化服务；
3. 自主学习：
   • 从失败案例中自动优化工具调用策略。

十、总结：RAG + Agent = 企业 AI 的终极形态

核心价值：把企业知识转化为生产力；让 AI 从'顾问'升级为'员工'；在安全边界内最大化自动化。