agent-core-java Auto Harness 代码评审代理:evaluate.md 提示词与 strict-but-fair 评审机制解析
人工智能AI AgentAgent 框架工具调用Agent 工作流RAGMCP Clients强化学习【免费下载链接】agent-core-javaopenJiuwen agent core Java是 openJiuwen Core的 Java版本提供AI Agent开发、运行、调优与演进相关的全套SDK能力。项目地址https://gitcode.com/openJiuwen/agent-core-java点击查看免费下载导读本文以 openJiuwen agent-core-java 中 Auto Harness 代码评审代理的提示词 evaluate.md 为主线剖析 Auto Harness 自优化闭环中评审Evaluate环节的角色定义、strict-but-fair 评审标准与结构化输出协议并结合 MetaVerifyStage.java、FixLoopController.java 等源码还原评审代理在修复循环Fix Loop中的实际调用链与判定逻辑。读完你将掌握如何理解、复用并定制这套代码变更自动评审机制。一、evaluate.md 是什么评审代理的系统提示词在 Auto Harness 的流水线中每一个阶段代理Stage Agent都由系统提示词驱动。evaluate.md 是评审Evaluate阶段代理的系统提示词。它通篇只做一件事让 LLM 扮演代码评审代理根据给定的任务描述、代码变更git diff与 CI 状态输出一个二值结论PASS / FAIL和一句理由。提示词本身包含 5 个占位变量由调用方在运行时注入占位符含义注入来源{task_description}任务描述任务上下文中的原始任务说明{git_diff}代码变更git diff与基线提交的差异内容{ci_status}CI 状态由 CI 门禁结果格式化而来Verdict评审结论模型输出PASS 或 FAILReason评审理由模型输出一句话理由在 AutoHarnessAgentFactory.java 中createEvalAgent直接以loadPrompt(evaluate.md)作为系统提示词并装配了verify、verify_ext技能与只读 RailsSysOperationRail、AutoHarnessContextRail、LspRail、AutoHarnessExperienceRail默认最多 10 次迭代eval: 10。也就是说评审代理被设计为只读代理它可以读文件、跑命令、做验证但被 Rails 约束为不写代码、不修改工作区。二、strict-but-fair 评审标准逐条拆解提示词中的评审标准是整个机制的核心原文共 6 条语义如下FAIL实现与任务描述不符——变更没有解决任务描述中提出的问题FAIL破坏了现有功能——变更引入了回归影响了既有行为FAIL引入安全问题——存在注入、路径遍历、凭据泄露等安全风险FAIL存在阻塞型门禁失败——例如static_check、ut或st的代码失败不因以下情况单独判 FAIL风格偏好问题、非阻塞告警、st 的环境失败——这是 fair 的部分PASS其他情况——即默认放行。strict-but-fair严格但公平的含义可以这样理解strict任务符合度、功能回归、安全、阻塞型 CI 失败这四类硬性红线一旦触碰即判 FAIL不存在模棱两可的中间态fair风格偏好、非阻塞告警、环境类失败如 st 环境不可用被明确排除在 FAIL 理由之外避免评审代理因鸡毛蒜皮的问题否决整体变更。这一设计在 verify/SKILL.md 的评审要点中也有呼应验证时关注正确性、安全性、兼容性、测试覆盖与风格但风格仅作为参考项并不构成独立的否决条件。为什么需要把环境失败与代码失败分开提示词特别强调stsystem test的环境失败不应单独判 FAIL。在分布式 CI 场景中环境失败依赖安装失败、沙箱资源不足、网络抖动与代码失败是两类问题前者与本次变更无关判 FAIL 会导致修复循环空转。从源码看VerifyStage.java 的formatCiStatusForEvaluator在生成 CI 状态文本时会把所有门禁结果含lint、type-check逐条输出为- name: PASS/FAIL | 详情并对未匹配到任何 CI 门禁的情形输出结论: blocking failure确保评审代理拿到的 CI 状态是结构化、可判读的。三、输出协议Verdict Reason 的机器可解析设计提示词规定的输出格式只有两行Verdict: PASS 或 FAIL Reason: 一句话理由这个极简协议是刻意为之其核心目的是机器可解析。在 MetaVerifyStage.java 中修复循环对评审输出的判定逻辑是boolean approved output.toString().toLowerCase().contains(verdict: pass);即只要评审代理的输出文本中包含verdict: pass不区分大小写即视为评审通过。这种字符串匹配策略对格式要求极高——评审代理必须严格遵循Verdict:前缀任何自由发挥如先写一大段分析再下结论都可能因格式漂移导致判定失败。因此evaluate.md 的输出格式小节是整个提示词中与代码逻辑耦合最紧密的部分。相比 assess.md 要求输出多章节 Markdown 评估报告evaluate.md 刻意压缩为两行结构化输出这正是评审结论只需要一个位bit的工程取舍。四、在修复循环Fix Loop中的实际调用链评审代理并非孤立存在它被 MetaVerifyStage 的修复循环Fix Loop作为第二阶段评审器调用。调用链如下运行 CIMetaVerifyStage.stream调用ciGate.run(all)执行全部门禁并通过iterCiGateMessages将结果转为可读消息Phase 1自动修复若 CI 未通过FixLoopController.run进入 Phase 1最多重试 10 次phase1MaxRetries 10每次超时 600 秒由修复代理根据 CI 错误反复修改并重跑 CIPhase 2评审门当 CI 通过后进入 Phase 2最多重试 9 次phase2MaxRetries 9此时才调用createEvalAgent构建评审代理注入如下 query任务描述: {task.description} 代码变更: {preview(diff, 5000)} CI 状态: {formatCiStatusForEvaluator(ciResult)} 请评审这些变更。判定与循环解析评审输出中是否含verdict: pass通过则修复循环成功结束未通过则评审代理的 Reason如evaluator rejected作为修复目标继续驱动修复代理直至 Phase 2 重试耗尽。值得注意的是 Phase 2 的评审发生在修复代理已把 CI 修到全绿之后。这意味着评审代理评审的是已经通过 CI 的变更它要捕捉的是 CI 覆盖不到的语义问题如任务符合度、安全隐患、功能回归与 CI 门禁形成互补的双闸门。从 FixLoopController.java 可见Phase 2 中evaluator rejected同样会驱动agentFixer.fix(evaluator rejected)再次修改代码且评审与修复共享同一个超时控制timeoutPerAttempt。若最终失败MetaVerifyStage 会丢弃 worktree 变更、将任务状态置为REVERTED并把失败经验写入经验库ExperienceType.FAILURE。五、评审标准背后的 CI 门禁与配置支撑要理解ci_status的语义需要结合 Auto Harness 的 CI 门禁配置。仓库中的 ci_gate.yaml 定义了默认门禁ci_gates: - name: lint command: make check COMMITS1 required: true - name: type-check command: make type-check COMMITS1 required: true fix_loop: phase1_max_retries: 10 phase1_timeout_per_attempt: 600 phase2_max_retries: 9 revert_on_exhaustion: true评审标准中提到的阻塞型门禁失败static_check、ut、st即对应此类required: true的门禁。revert_on_exhaustion: true则与 MetaVerifyStage 的回滚行为一一对应修复循环耗尽后自动 revert。同一目录还提供了 Auto Harness 的默认配置模板见 AutoHarnessSchema.java 中的DEFAULT_CONFIG_TEMPLATE其中agent.eval: 20表明评审代理在外部配置中的默认迭代上限而 Java 实现内置默认值为eval: 10见defaultAgentIterations两者均可通过配置文件覆盖。此外AutoHarnessAgentFactoryTest.java 验证了createEvalAgent与其他阶段代理一样会采用配置的completionTimeout确保评审代理不会因模型调用超时而拖垮整个修复循环。六、如何理解、调试与定制评审机制1. 评审不通过时的排查思路当修复循环在 Phase 2 反复被评审拒绝时可从三个方向排查格式漂移评审代理未按Verdict: PASS/FAIL格式输出例如先输出分析段落、或把 verdict 写成小写加粗导致contains(verdict: pass)匹配失败——这是最容易被忽略的失败模式标准误判提示词注入的ci_status不完整或含非阻塞告警导致模型把环境失败误判为阻塞失败——可检查formatCiStatusForEvaluator的输出是否把门禁逐条列出任务描述与 diff 不匹配{task_description}与{git_diff}错位如 diff 截断超过 5000 字符的preview限制模型无法判断实现是否符合任务。2. 定制评审标准的边界evaluate.md 位于openjiuwen/auto_harness/prompts/目录。需要注意的是ci_gate.yaml 将auto_harness/prompts/identity.md列为 immutable 文件而 evaluate.md 本身不在不可变清单中属于可定制提示词。若需调整评审口径例如增加性能回归FAIL 条件、放宽安全红线直接编辑 evaluate.md 并保持Verdict:/Reason:两行协议不变即可判定逻辑无需改动。3. 复用建议若要在自己的流水线中复刻该机制只需准备任务描述 → 生成 git diff → 格式化 CI 状态 → 用 evaluate.md 作为系统提示词 → 解析输出中的verdict: pass若评审需要更严格的证据链可在 evaluate.md 中追加必须引用具体行号/文件路径作为 FAIL 证据的约束但不建议改变输出协议本身评审代理装配了verify技能见 verify/SKILL.md它可调用read_file、bash_tool、glob_tool、grep_tool做主动验证因此评审不是盲审而是可以实际检查代码的。七、小结evaluate.md 用不足 30 行文本定义了一个最小但完备的代码评审协议明确输入任务描述 git diff CI 状态、明确标准strict-but-fair 四类 FAIL 红线、明确输出Verdict Reason。它在 Auto Harness 修复循环中作为 Phase 2 的评审闸门与 CI 门禁构成双层校验是AI 自动改进代码流程中防止改对了 CI 却做错了事的关键防线。其设计思路——机器可解析的结构化输出、显式排除非阻塞噪声、只读代理加验证技能——对任何希望构建自动代码评审或自优化流水线的开发者都具有直接的参考价值。延伸阅读评审代理同族的其他提示词见 prompts 目录assess / plan / select_pipeline / learnings / pr_draft修复循环实现见 FixLoopController.java流水线编排见 AutoHarnessOrchestrator.java。赞分享人工智能AI AgentAgent 框架工具调用Agent 工作流RAGMCP Clients强化学习【免费下载链接】agent-core-javaopenJiuwen agent core Java是 openJiuwen Core的 Java版本提供AI Agent开发、运行、调优与演进相关的全套SDK能力。项目地址https://gitcode.com/openJiuwen/agent-core-java点击查看免费下载相关推荐提示词定生死给阿里代码评审 agent 定制评审规则与结构化输出提示词定生死给阿里代码评审 agent 定制评审规则与结构化输出 AI 代码评审在 2026 年几乎成了每个团队的标配实验CI 里接一个 agent让人工智能AI 应用代码评审开发工具代码质量深入解析 agents24 代码审查 Agent基于 git-pr-workflows 插件的现代 AI 代码评审系统提示词设计深入解析 agents24 代码审查 Agent基于 git pr workflows 插件的现代 AI 代码评审系统提示词设计 导读 本篇技术指南围绕当前仓AI 插件AI 技能开发工具Wasmtime 代码评审机制全解析PR 自动分配评审人、四支评审团队与三阶段评审法Wasmtime 代码评审机制全解析PR 自动分配评审人、四支评审团队与三阶段评审法 Wasmtime 作为一个由 Bytecode Alliance 维护、语言运行时JIT编译编译器创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

Vibe Coding落地K12教育:从原型到生产的四大工程门槛与把控

Vibe Coding落地K12教育:从原型到生产的四大工程门槛与把控

你说说,一个上午从零弄出来一个「自动化作业提醒系统」是什么体验?某位老师对着AI编程助手口述需求,五分钟生成了页面框架,两小时补完逻辑,中午就能在办公室演示“谁没交作业”的实时统计,在场所有人都觉得…

2026/10/13 13:06:38 阅读更多 →
TSN时间敏感网络全解析:时间同步、数据调度与工程落地

TSN时间敏感网络全解析:时间同步、数据调度与工程落地

简介:《2022年TSN技术白皮书整本手册》是一份面向工业自动化、汽车电子、医疗设备等实时通信领域从业者与技术学习者的参考资料,系统讲解TSN技术的产生背景、演进历史、网络标准与运行机制,并针对时间同步、流量控制、资源预留等关键机制展开…

2026/10/13 13:06:43 阅读更多 →
VASP计算中K点测试:布里渊区采样精度的收敛判定与实操指南

VASP计算中K点测试:布里渊区采样精度的收敛判定与实操指南

1. 项目概述:为什么K点测试是VASP计算里最不能跳过的“体检”环节在用VASP做第一性原理计算时,我见过太多人把精力全砸在结构优化、能带绘制或者态密度分析上,却在提交任务前随手写个KPOINTS文件,填个“4 4 4”就点运行——结果等…

2026/10/13 13:05:44 阅读更多 →

最新新闻

dsoFramer 2.3.0.2 源码编译指南:用 ActiveX 实现 Office 文档网页与 MFC 嵌入

dsoFramer 2.3.0.2 源码编译指南:用 ActiveX 实现 Office 文档网页与 MFC 嵌入

简介:dsoFramer V2.3.0.2 完整源码包,面向需要在 Visual Studio 2013 下编译、定制 COM 控件或 ActiveX 组件的 C 开发人员。资源共 106 个文件,核心为 8 个 .h 头文件与 7 个 .cpp 源文件,配套 .sln/.vcxproj 工程文件、bat 注册…

2026/10/13 19:41:29 阅读更多 →
面向Agent的轻量Workflow设计:从失控到可控的工程实践

面向Agent的轻量Workflow设计:从失控到可控的工程实践

从去年开始,我陆续做了好几个跟 Agent 相关的项目,从最初“给大模型套个 Prompt 就让它自由发挥”,到后来不得不面对多步骤、有条件分支、需要调用多个工具的真实业务场景。很快发现一个尴尬的事实:纯靠 Prompt 驱动的 Agent&…

2026/10/13 19:41:29 阅读更多 →
LiteLLM实战:统一大模型API网关与多模型路由部署全复盘

LiteLLM实战:统一大模型API网关与多模型路由部署全复盘

先说个场景:如果你手头的项目同时接了四五家大模型的 API,你会立刻发现,最麻烦的根本不是模型本身效果怎么样,而是各个服务商的接口格式不一样、报错风格不一样、限流策略不一样。今天聊的这个项目叫 LiteLLM,命令行工…

2026/10/13 19:41:29 阅读更多 →
从部署到算法:Apollo 1.4.0 避坑指南与 openspace 入门实战

从部署到算法:Apollo 1.4.0 避坑指南与 openspace 入门实战

简介:一套针对Apollo配置中心1.4.0源码进行PostgreSQL数据库适配的完整改造包,主要面向需要将配置中心数据源从MySQL切换为PostgreSQL的Java后端开发人员。由于官方发行版默认仅支持MySQL,作者基于PostgreSQL 11.4完成全部适配工作&#xff0…

2026/10/13 19:41:29 阅读更多 →
从零构建 Agent Runtime:架构、编排与工程落地全解析

从零构建 Agent Runtime:架构、编排与工程落地全解析

"Agent Runtime"这个词,这两年几乎被说烂了。但真正能把它讲清楚、真正能把它落地的人并不多。我见过太多团队,用一个大模型 API 加上几行循环代码,就对外宣称"我们做了 Agent",结果一遇到真实业务场景——多…

2026/10/13 19:41:29 阅读更多 →
5G-A通感融合能力开放:NEF架构、接口与信令流程详解

5G-A通感融合能力开放:NEF架构、接口与信令流程详解

简介:这份文档资料聚焦5G-A阶段通信感知融合的能力开放技术,面向通信领域研究者、核心网工程师及高校相关专业师生,帮助读者系统理解通感一体化从架构设计到业务落地的完整脉络。资源包内含1个docx文档,大小约151KB,内…

2026/10/13 19:40:25 阅读更多 →

日新闻

物联网系统集成避坑指南:从选型到验收的关键要点

物联网系统集成避坑指南:从选型到验收的关键要点

做了这么多年物联网系统集成的项目,我最大的感受是,大部分坑不是出在技术前沿,而是出在一些看起来很平常的地方。设备选了便宜的、协议没问清楚、现场没摸透、验收标准写得含糊——这些细枝末节,最后都会变成延期、超支和扯皮的大…

2026/10/13 0:00:57 阅读更多 →
ESP32舵机控制全攻略:从PWM原理到高级玩法与常见故障排查

ESP32舵机控制全攻略:从PWM原理到高级玩法与常见故障排查

如果你玩ESP32有一阵子了,很难不碰到舵机控制这道坎。做智能小车要转方向,做机械臂要抬关节,做云台要偏航俯仰,背后都是同一个东西在干活:舵机。而我见过太多人卡在“代码能编译、舵机就是不听话”这个阶段&#xff0c…

2026/10/13 0:00:57 阅读更多 →
CAN总线原理与STM32实战:抗干扰、仲裁、错误处理全解析

CAN总线原理与STM32实战:抗干扰、仲裁、错误处理全解析

1. 为什么CAN总线至今仍是工业现场的“硬通货”?——从汽车底盘到智能温室的真实需求你有没有拆过一辆老款燃油车的中控台?或者调试过某高校实验室里那台跑着Modbus协议却频频丢帧的PLC控制柜?又或者,在某个农业物联网项目里&…

2026/10/13 0:00:57 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介:基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码,面向计算机相关专业课程设计与期末大作业学生,以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程,…

2026/10/13 2:54:56 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化,十个新手有八个栽在"往输入框里填东西"这件事上:要么填不进去,要么填了一半,要么直接把原来内容追加在后面。这背后的根因&…

2026/10/13 16:22:04 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀:什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面,跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/13 1:58:08 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 21:05:09 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 14:57:39 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 18:11:17 阅读更多 →