browser-agent:5 分钟跑通的自然语言浏览器自动化框架
browser-agent5 分钟跑通的自然语言浏览器自动化框架【免费下载链接】browser-agentOpen-source, vision-first browser agent项目地址: https://gitcode.com/GitHub_Trending/magnit/browser-agentbrowser-agentMagnitude是一个开源的视觉优先vision-first浏览器自动化框架它用视觉 AI 理解页面截图让你用自然语言驱动一个真实浏览器——点按钮、填表单、拖拽、提取结构化数据甚至直接跑端到端测试。如果你受够了UI 一改、选择器全崩的 E2E 测试或者想给编码代理装上手和眼睛去操作 Web 应用这个框架值得看一眼。一、它凭什么好用不靠选择器靠像素坐标。传统浏览器代理在页面上画带编号的框来定位元素遇到复杂现代站点就容易失效。browser-agent 让视觉接地能理解图片上精确坐标的多模态模型直接指定点击的像素位置交互不依赖 DOM 结构。效果是实打实的官方在 WebVoyager 基准上拿到 94% 的得分见 README.md。测试写成大白话。测试步骤用act(Log in)这种自然语言描述断言用check(Dashboard is visible)视觉检查。把一段 Playwright 的 todo 用例迁过来代码能从十几行压到五六行对比示例见 docs/testing/building-test-cases.mdx。一套内核三种形态。同一个浏览器操作内核同时支撑自动化 SDKpackages/magnitude-core/、测试运行器packages/magnitude-test/、MCP 服务器packages/magnitude-mcp/。写自动化脚本和写测试用例共享同一套心智模型。抽象层级随意切。agent.act()既能接创建一个任务这种高层任务也能接把某张卡片拖到第一列顶部这种低层动作还能在 agent 级和单个 action 级注入自定义 prompt方便在生产环境里精确控制行为。二、从零到跑通1. 两条命令完成初始化在已有的 Web 项目里加测试npm i --save-dev magnitude-test npx magnitude init它会生成tests/magnitude目录里面有magnitude.config.ts全局配置和example.mag.ts示例用例。如果你是想从零搭一个自动化项目而不是接入现有测试用脚手架npx create-magnitude-app2. 写一个最小用例import { test } from magnitude-test; test(can add and complete todos, { url: https://magnitodo.com }, async (agent) { await agent.act(create 3 todos, { data: Take out trash, Buy groceries, Ship it }); await agent.check(should see all 3 todos); // 视觉断言 await agent.act(mark each todo complete); await agent.check(says 0 items left); });步骤描述像跟同事交代事情目标说清楚即可不用细化到先点哪个输入框。3. 跑起来npx magnitude # 运行所有 *.mag.ts 用例 npx magnitude -w 4 # 4 个 worker 并行跑有任一用例失败时进程以退出码 1 结束可以直接挂在 CI/CD 里当门禁。注意一个前置条件它需要一个视觉接地的模型推荐 Claude Sonnet 4设置ANTHROPIC_API_KEY即可开源替代是 Qwen 2.5 VL 72B。大多数常见模型包括部分大厂的通用多模态模型并不支持精确坐标定位选错模型是最常见的翻车点清单见 docs/core-concepts/compatible-llms.mdx。三、真实场景怎么落地给自己的 Web 应用做端到端测试。适用想降低 UI 改版带来的测试维护成本用例数量在几十到上百这个量级。边界它是概率性判断不是确定性断言。如果你的场景要求毫秒级时序控制或必须逐字符相等这类严格校验还是该用 Playwright 的精确断言把它当补充而非替代。抓取没有 API 的站点数据。用extract()传一段说明加 zod schema它把页面内容转成结构化数据返回详见 docs/core-concepts/data-extraction.mdx。边界受站点条款约束别拿它做高频爬取适合取一次数据喂给下游流程这类低频集成。给编码代理装上浏览器。通过 MCP 接入后Claude Code、Cursor、Cline 这类代理能在开发过程中实时打开页面、看到截图、动手点页面边写边验证。适合改完代码自己看一眼页面的自测循环不适合无人值守的大批量操作。四、进阶玩法与生态集成接入 MCP 服务器。安装后把下面配置贴进你用的客户端Claude Code 可一行claude mcp add magnitude -- npx magnitude-mcp{ mcpServers: { magnitude: { command: npx, args: [magnitude-mcp], env: { MAGNITUDE_MCP_PROFILE_DIR: ~/.magnitude/profiles/default, // 持久化 cookie MAGNITUDE_MCP_STEALTH: true, // 反检测 MAGNITUDE_MCP_VIEWPORT_WIDTH: 1024 } } } }测试运行器可调项。magnitude.config.ts里值得留意的几项browser.contextOptions可传任意 Playwright 上下文参数比如recordVideo录下每次运行webServer配置本地开发服务器命令跑测试时自动拉起、结束后自动杀掉continueAfterFailure: true让失败用例不中断整轮。全部选项见 docs/testing/test-configuration.mdx。提取器是独立包。packages/magnitude-extract/ 提供页面内容转 Markdown 的结构化抽取能力可以脱离 agent 单独用。五、踩坑与排错现象解法代理点不准、动作混乱模型不支持视觉接地。换成 Claude Sonnet 4 / Sonnet 3.7 / Opus 4 / Qwen 2.5 VL 72B参考 docs/core-concepts/compatible-llms.mdx同一用例时过时不过把模糊步骤拆细、描述更具体创建公司→在表单里填前两项其余用默认值提交具体描述能显著提升稳定性本地站点测试总打不开在配置里写webServer启动命令 监听 URL 超时Magnitude 会自动起服务并在结束时清理一个失败全队列停摆加--no-fail-fast参数或配置continueAfterFailure: true不想上传运行遥测配置里设telemetry: false即可关闭另外提醒测试 URL 的解析顺序是环境变量MAGNITUDE_TEST_URL→ 全局配置 → 用例组 → 单条用例排查它到底打开了哪个地址时按这个顺序查。收尾一句话browser-agent 把操作浏览器这件事从写选择器换成了说人话换来的是 UI 改版不再批量击穿你的测试。想深入可以直接翻 packages/magnitude-core/examples/ 里的可运行示例和 docs/ 下的完整文档照着改几个act()调用就是最快的上手方式。【免费下载链接】browser-agentOpen-source, vision-first browser agent项目地址: https://gitcode.com/GitHub_Trending/magnit/browser-agent创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

Mac Mouse Fix 鼠标平滑滚动与按键重映射:十分钟上手指南

Mac Mouse Fix 鼠标平滑滚动与按键重映射:十分钟上手指南

Mac Mouse Fix 鼠标平滑滚动与按键重映射:十分钟上手指南 【免费下载链接】mac-mouse-fix Mac Mouse Fix - Make Your $10 Mouse Better Than an Apple Trackpad! 项目地址: https://gitcode.com/GitHub_Trending/ma/mac-mouse-fix 把鼠标滚轮一格一格硬往下…

2026/10/18 1:46:50 阅读更多 →
深入理解STM32外部中断EXTI:从引脚映射到ISR编写与排错

深入理解STM32外部中断EXTI:从引脚映射到ISR编写与排错

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 1:45:49 阅读更多 →
数学公式识别难在哪?olmOCR-bench 的 arxiv_math 与 old_scans_math 测试集完整揭秘

数学公式识别难在哪?olmOCR-bench 的 arxiv_math 与 old_scans_math 测试集完整揭秘

数据集AI 评测模型评测人工智能OCR 【免费下载链接】olmOCR-bench 项目地址: https://ai.gitcode.com/hf_mirrors/allenai/olmOCR-bench 点击查看 免费下载 olmOCR-bench 是一个专门评测"PDF → Markdown"转换能力的 OCR 基准数据集。它的两大数学测试集…

2026/10/18 1:45:49 阅读更多 →

最新新闻

货拉拉业务Agent评测平台:面向高可靠决策的端到端测试体系

货拉拉业务Agent评测平台:面向高可靠决策的端到端测试体系

1. 为什么需要一个“货拉拉业务 Agent 评测平台”——从调度失败率跳变说起去年底,某次跨城搬家订单的履约链路中,系统连续3小时出现异常:司机接单后5分钟内取消率陡升至37%,远超日常均值8%。后台日志里没有报错,监控大…

2026/10/18 2:40:02 阅读更多 →
两万星标AI编程教程:从零到跑通大模型应用开发实战

两万星标AI编程教程:从零到跑通大模型应用开发实战

1. 从两万星标说起:一个AI编程教程的意外出圈两万颗星标,放在任何一个开源社区里都不是小数目。我最初把这个AI编程教程挂上去的时候,预期其实很低——能有个几百星、几十个issue讨论就算不错了。结果几个月过去,星标数一路爬升&a…

2026/10/18 2:40:02 阅读更多 →
内存屏障:给乱序执行立规矩

内存屏障:给乱序执行立规矩

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 2:40:02 阅读更多 →
AI编码代理实战:从任务拆解到工程交付的行动营复盘

AI编码代理实战:从任务拆解到工程交付的行动营复盘

1. 项目概述与核心思路拆解1.1 这个项目到底在做一件什么事先说结论:银河it 2026年Codex AI工程交付行动营,本质上是一个以真实工程项目交付为靶场、以Codex类AI编码代理为核心生产力工具的集中训练项目。它不教你“AI能写代码”这种概念,也不…

2026/10/18 2:40:02 阅读更多 →
原子操作与原子指令:一个承诺,多种实现

原子操作与原子指令:一个承诺,多种实现

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 2:40:02 阅读更多 →
基于5777张图片的垃圾检测数据集实战:六大场景与模型训练指南

基于5777张图片的垃圾检测数据集实战:六大场景与模型训练指南

垃圾检测在计算机视觉里是个看着简单、做起来相当磨人的细分方向。说它简单,是因为目标就是“找出画面里的垃圾”;说它磨人,是因为垃圾这东西没有固定形状、没有统一颜色、尺度跨度极大——一个矿泉水瓶和一个建筑垃圾堆,在特征层…

2026/10/18 2:39:02 阅读更多 →

日新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/18 0:00:55 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/18 0:00:55 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 0:55:02 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/17 17:22:31 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 14:23:36 阅读更多 →