ClawGUI Episode记录与回放:把每次GUI任务变成可复用训练数据的技巧
【免费下载链接】ClawGUIBuild, Evaluate, and Deploy GUI Agents — online RL training, standardized benchmarks, and real-device deployment in one framework.项目地址https://gitcode.com/gh_mirrors/cl/ClawGUI点击查看免费下载ClawGUI 是一个覆盖「训练 → 评测 → 部署」全流程的 GUI 智能体GUI Agent开源框架。其中训练模块 ClawGUI-RL 在 Online RL 训练时会自动记录每一个 Episode完整任务轨迹每一步的截图、模型推理、动作坐标全部落盘保存并内置可视化服务可逐帧回放任意一次 Rollout。这意味着每次 GUI 任务的成败过程都可以被复查、标注、复用变成宝贵的训练数据资产。为什么 Episode 数据对 GUI 智能体训练至关重要GUI 智能体完成任务不是一步到位而是一段多步轨迹接收截图 → 推理 → 输出动作点击/滑动/输入/终止→ 拿到下一张截图循环直到任务结束或达到max_steps。这样一段完整轨迹就称为一个Episode。标准 GRPO 只会给整个 Episode 一个总分无法回答第 3 步点错了还是第 7 步滑偏了。ClawGUI-RL 用GiGPO算法做锚定状态分组anchor-state grouping实现步骤级信用分配而这一切的前提就是每一步的截图、响应、奖励都被完整记录了下来。自动记录训练即存档无需手动埋点ClawGUI-RL 的多轮 Rollout 循环在每一步结束后自动调用save_episode_to_json()把观测截图base64 解码后存为 PNG和模型响应追加写入 JSON核心逻辑见 save_episode_to_json()调用点位于 rollout_loop.py。每个 Episode 独立成目录结构如下episode/task_name/episode_id/ ├── episode.json # 元信息 每步记录 └── images/ ├── step_0000.png ├── step_0001.png └── ...episode.json中的关键字段一览字段位置含义task_name/task_goalmeta_data任务名称与目标描述success/eval_scoremeta_data任务是否成功、判分结果episode_reward/episode_lengthmeta_data总奖励与步数model_response每步模型原始输出含 thinking 与 tool_callstep_reward/step_reward_reason每步可选PRM 过程奖励模型的打分与理由image_path/timestamp每步截图路径与时间戳任务结束后update_episode_result() 会回填最终评估结果使每条轨迹自带成败标签——这让它天然适合做失败案例库或回归评测集。一键启动 Episode 回放可视化服务仓库内置了一个 FastAPI 可视化服务 episode_visualizer.py启动方式cd clawgui-rl python3 scripts/episode_visualizer.py服务默认扫描clawgui-rl/scripts/episode/目录EPISODE_ROOT在浏览器打开http://localhost:8799即可使用左侧任务树按 task → episode 两级组织一眼定位任意一次 Rollout️坐标自动标注解析每步tool_call把动作画回截图上——点击是红色圆点、长按是橙色双圈、滑动是蓝色方向箭头、拖拽是紫线支持「标注 / 原图」一键切换⌨️逐帧回放Step 导航按钮 A/D或左右方向键前后翻页详情面板完整展示每步的 Action 参数、thinking 推理过程和 Raw Response排查智能体为什么没完成任务时逐帧翻看标注图比翻日志高效得多。5 个把 Episode 变成可复用数据的技巧先回放坏案例再动手调参训练中出现成功率波动时先用可视化器回放success: false的轨迹定位是定位不准grounding 问题还是路径规划错误再针对性地调整history_length、max_steps等参数如 run_mobileworld.sh。开启 PRM 记录步骤级奖励在训练脚本中设置step_reward_judgeTrue并配置 VLM 判官见 run_mobileworld.shEpisode 中会额外留下每一步的{0, 1}打分和理由为后续优化提供更密集的监督信号。配合 GiGPO 做锚定状态分析把多条轨迹中到达相同中间状态的步骤对比起来正是 GiGPO 步骤级优势估计的核心——Episode 存档让你可以直接人工验证这种分组是否合理。按 success 标签建案例库meta_data.success字段让筛选失败案例变成一条简单的 JSON 过滤可沉淀为失败案例回归集每次模型迭代后重跑对比。复用为 SFT / 评测数据成功轨迹截图序列 动作序列 推理文本本身就是一条高质量多模态 SFT 样本配合 ClawGUI-Eval 的 Infer → Judge → Metric 评测流水线还能把历史 Episode 变成固定回归基准。正如实验结果所示完全用此管线端到端训练的ClawGUI-2B在 MobileWorld 上把成功率从基线的 11.1 提升到 17.1——背后正是这种记录—回放—复用的数据飞轮在起作用。目录与资料速查资料路径训练模块中文文档clawgui-rl/README_zh.mdEpisode 保存逻辑clawgui-rl/agent_system/multi_turn_rollout/utils.py可视化服务clawgui-rl/scripts/episode_visualizer.pyGiGPO 优势估计clawgui-rl/gigpo/core_gigpo.pyGiGPO 训练脚本示例clawgui-rl/examples/gigpo_trainer/run_mobileworld.sh环境包MobileWorld / 真机clawgui-rl/agent_system/environments/env_package/需要本地跑通完整流程的话可先克隆仓库git clone https://gitcode.com/gh_mirrors/cl/ClawGUI一句话总结让训练自动存档、用可视化器逐帧回放、按成败标签沉淀案例库——三招即可把 ClawGUI 的每次 GUI 任务都变成可复用的训练数据。赞分享【免费下载链接】ClawGUIBuild, Evaluate, and Deploy GUI Agents — online RL training, standardized benchmarks, and real-device deployment in one framework.项目地址https://gitcode.com/gh_mirrors/cl/ClawGUI点击查看免费下载相关推荐Deployer 集成 Rollbar用 rollbar:notify 任务自动上报每次部署记录Deployer 集成 Rollbar用 rollbar:notify 任务自动上报每次部署记录 DeployerPHP 部署工具提供了开箱即用的 RolDevOpsCI/CDCLI开发工具运维btop 系统资源监控从打开界面到定位问题最快路径btop 系统资源监控从打开界面到定位问题最快路径 晚高峰接口响应从 200ms 飙到 3s。你 SSH 进服务器 top 里几百行滚动CPU 30%、CLI指标监控运维peon-ping Trainer 模式实战用 /peon-ping-log 记录训练次数与自定义每日运动目标peon ping Trainer 模式实战用 /peon ping log 记录训练次数与自定义每日运动目标 本篇技术指南围绕 peon ping 内置的创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

EtherCAT高速高精运动控制方案:选型、配置与调试避坑指南

EtherCAT高速高精运动控制方案:选型、配置与调试避坑指南

1. 为什么高速高精场景都在往EtherCAT上靠1.1 从脉冲控制到总线控制的必然迁移如果你这几年一直在做运动控制相关的项目,应该有一个很明显的感受:以前那种“PLC发脉冲驱动器接收”的方案,在越来越多的场合里开始不够用了。不是脉冲控制不好&a…

2026/10/12 22:41:30 阅读更多 →
ESP32离线语音唤醒实战:从零训练专属唤醒词并部署

ESP32离线语音唤醒实战:从零训练专属唤醒词并部署

1. 为什么我要在ESP32上折腾一个专属唤醒词市面上现成的语音助手方案其实不少,手机上的、智能音箱里的,喊一声就能应。但用久了总有种“寄人篱下”的感觉——唤醒词是固定的,识别逻辑在云端跑,断网就变砖,而且每次说话…

2026/10/12 22:41:28 阅读更多 →
朴素贝叶斯搞定豆瓣影评情感分类:从爬虫到模型评估全流程

朴素贝叶斯搞定豆瓣影评情感分类:从爬虫到模型评估全流程

简介:面向自然语言处理初学者的豆瓣影评情感分类实战课程设计,基于朴素贝叶斯算法完成情感分类全流程。资源涵盖算法原理、中文文本预处理、TF-IDF特征工程、模型训练与评估等环节,并附有完整的Python工程实现与Notebook解析,可帮…

2026/10/12 22:40:26 阅读更多 →

最新新闻

iOS TableView 异步加载图片:从原理到实践,告别列表卡顿

iOS TableView 异步加载图片:从原理到实践,告别列表卡顿

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 1:03:48 阅读更多 →
对称边界如何让模态分析生成‘春节快乐’字形

对称边界如何让模态分析生成‘春节快乐’字形

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 1:03:48 阅读更多 →
纯软件STM32入门:无需开发板,仿真环境跑通核心外设

纯软件STM32入门:无需开发板,仿真环境跑通核心外设

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 1:03:48 阅读更多 →
UDS车载诊断实战指南:服务格式、时序与否定响应码解析

UDS车载诊断实战指南:服务格式、时序与否定响应码解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 1:03:48 阅读更多 →
HTML表单交互与DOM操作实战:从零构建可调试的网络编程训练

HTML表单交互与DOM操作实战:从零构建可调试的网络编程训练

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 1:03:48 阅读更多 →
LightGBM因子筛选与BiLSTM时序建模:量化投资策略实战

LightGBM因子筛选与BiLSTM时序建模:量化投资策略实战

简介:这份资源面向计算机相关专业学生、高校教师及量化投资初学者,提供一套将LightGBM与BiLSTM结合进行因子组合选取并构建量化投资策略的完整实践项目,可直接用于毕业设计、课程设计、实训实验或公司项目二次开发。压缩包共1408个文件&#…

2026/10/13 1:02:48 阅读更多 →

日新闻

物联网系统集成避坑指南:从选型到验收的关键要点

物联网系统集成避坑指南:从选型到验收的关键要点

做了这么多年物联网系统集成的项目,我最大的感受是,大部分坑不是出在技术前沿,而是出在一些看起来很平常的地方。设备选了便宜的、协议没问清楚、现场没摸透、验收标准写得含糊——这些细枝末节,最后都会变成延期、超支和扯皮的大…

2026/10/13 0:00:57 阅读更多 →
ESP32舵机控制全攻略:从PWM原理到高级玩法与常见故障排查

ESP32舵机控制全攻略:从PWM原理到高级玩法与常见故障排查

如果你玩ESP32有一阵子了,很难不碰到舵机控制这道坎。做智能小车要转方向,做机械臂要抬关节,做云台要偏航俯仰,背后都是同一个东西在干活:舵机。而我见过太多人卡在“代码能编译、舵机就是不听话”这个阶段&#xff0c…

2026/10/13 0:00:57 阅读更多 →
CAN总线原理与STM32实战:抗干扰、仲裁、错误处理全解析

CAN总线原理与STM32实战:抗干扰、仲裁、错误处理全解析

1. 为什么CAN总线至今仍是工业现场的“硬通货”?——从汽车底盘到智能温室的真实需求你有没有拆过一辆老款燃油车的中控台?或者调试过某高校实验室里那台跑着Modbus协议却频频丢帧的PLC控制柜?又或者,在某个农业物联网项目里&…

2026/10/13 0:00:57 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介:基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码,面向计算机相关专业课程设计与期末大作业学生,以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程,…

2026/10/12 0:16:30 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化,十个新手有八个栽在"往输入框里填东西"这件事上:要么填不进去,要么填了一半,要么直接把原来内容追加在后面。这背后的根因&…

2026/10/12 0:16:38 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀:什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面,跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/12 0:16:43 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 21:05:09 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 14:48:49 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 18:11:17 阅读更多 →