跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书AI学习GitHub 精选镜像AI 生图工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
编程语言Agent Runtime教程可观测性

《Agent Runtime 工程化》第十章 Eval Harness 与 CI 回归:10.3 replay:让 trace 进入测试

一次线上失败,如果不能转化为 eval,它就会再次发生。建议流程: 1. 从 trace 中提取用户目标、关键上下文、工具调用和失败结果; 2. 去除 secret 和用户隐私; 3. 固化 workspace fixture; 4. 写 expected behavior; 5. 加入 CI; 6

站点编辑发布于 2026/8/13更新于 2026/9/3040 浏览
《Agent Runtime 工程化》第十章 Eval Harness 与 CI 回归:10.3 replay:让 trace 进入测试

《Agent Runtime 工程化:从工具调用循环到可恢复执行系统》封面

书名:《Agent Runtime 工程化:从工具调用循环到可恢复执行系统》

作者:陈堂会

章节:第十章 Eval Harness 与 CI 回归 / 10.3 replay:让 trace 进入测试

电子版系列:查看完整目录

第十章 Eval Harness 与 CI 回归:10.3 replay:让 trace 进入测试

一次线上失败,如果不能转化为 eval,它就会再次发生。建议流程:

  1. 从 trace 中提取用户目标、关键上下文、工具调用和失败结果;
  2. 去除 secret 和用户隐私;
  3. 固化 workspace fixture;
  4. 写 expected behavior;
  5. 加入 CI;
  6. 修复 runtime;
  7. 证明 eval 通过。

trace 到 eval 的转换,不必一开始全自动。半自动工具已经很有价值:生成 eval 草稿,让工程师审阅。


系列导航

前 5 篇

  • 第十章 Eval Harness 与 CI 回归:10.2 deterministic mock model
  • 第十章 Eval Harness 与 CI 回归:10.1 golden task
  • 第十章 Eval Harness 与 CI 回归:导读
  • 第九章 可观测与 Trace:9.7 验收标准
  • 第九章 可观测与 Trace:9.6 动手任务

后 5 篇

  • 第十章 Eval Harness 与 CI 回归:10.4 指标:不要只看成功率
  • 第十章 Eval Harness 与 CI 回归:10.5 flaky eval
  • 第十章 Eval Harness 与 CI 回归:10.6 prompt A/B 与 runtime 策略对比
  • 第十章 Eval Harness 与 CI 回归:10.7 动手任务
  • 第十章 Eval Harness 与 CI 回归:10.8 验收标准

目录

  1. 第十章 Eval Harness 与 CI 回归:10.3 replay:让 trace 进入测试
  2. 系列导航
  3. 前 5 篇
  4. 后 5 篇

更多推荐文章

查看全部
  • 基于 Spring Boot 的 WebSocket 服务示例
  • FLUX.2 Klein 开源模型本地部署与 AI 绘画极简方案
  • 人工智能:自然语言处理在医疗健康领域的应用与实战
  • ToClaw:从聊天工具到可执行任务的数字助理
  • 2026 AI 编程新范式:从 Copilot 到 Agentic Coding
  • 大模型突破对话边界:天工 3.0 与 SkyMusic 评测
  • 带电/含锂电/储能产品出口的三条合规新变化
  • 二分查找实战:山峰数组峰顶索引与寻找峰值
  • 使用 Trae IDE 将 Figma 设计稿转化为前端代码的实践指南
  • Git Cola 图形界面工具使用指南:可视化版本控制
  • Java 使用 org.w3c.dom 解析 XML 文档的创建、读写与遍历
  • FAST-LIVO2 算法解析与实战(一):SLAM 系统架构与核心原理
  • 2G 内存云服务器部署 Spring Boot + MySQL 实践
  • 单片机四舍五入算法原理与嵌入式边界处理实践
  • Qwen-Image-Lightning 极速图像生成技术解析
  • Linux 下 C/C++ 调试工具 GDB 实战指南
  • 大语言模型基础原理与技术演进学习笔记
  • 企业级 AI 视频管理平台功能详解:算法商城与集群管理
  • OpenCV 功能特性与依赖关系配置
  • 5 款 AI 流程图生成工具评测:图像识别、Mermaid 与文档解析

相关免费在线工具

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online

  • Base64 文件转换器

    将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online

  • Markdown转HTML

    将 Markdown(GFM)转为 HTML 片段,浏览器内 marked 解析;与 HTML转Markdown 互为补充。 在线工具,Markdown转HTML在线工具,online

  • HTML转Markdown

    将 HTML 片段转为 GitHub Flavored Markdown,支持标题、列表、链接、代码块与表格等;浏览器内处理,可链接预填。 在线工具,HTML转Markdown在线工具,online

  • JSON 压缩

    通过删除不必要的空白来缩小和压缩JSON。 在线工具,JSON 压缩在线工具,online

  • JSON美化和格式化

    将JSON字符串修饰为友好的可读格式。 在线工具,JSON美化和格式化在线工具,online