Skyvern:用大语言模型与计算机视觉构建“无 XPath“的浏览器自动化引擎
开发工具数据可视化【免费下载链接】star-historyThe de facto GitHub star history graph.项目地址https://gitcode.com/gh_mirrors/st/star-history点击查看免费下载本文是 Star History 博客 Starlet List 系列第 19 期的技术解读主题是 Skyvern——一个用大语言模型LLM和计算机视觉驱动浏览器自动化的开源项目。文章基于仓库中 skyvern.md 原文展开梳理 Skyvern 的诞生动机、三大核心技术特性与真实落地场景并结合当前仓库的博客渲染管线与 Star History SVG 图表端点说明这类项目在 Star History 平台上的呈现方式。读完本文你将理解无 XPath、无固定选择器的浏览器自动化方案的核心设计思路以及如何在 README 中嵌入实时 Star 走势图。文章背景Starlet List 第 19 期这篇文章是 Star History 博客Starlet List系列的第 19 期由 Skyvern 团队作者 Kerem Yilmaz 撰写发布于 2024-03-28并被标记为featured: true。原文 frontmatter 中包含title、author、featured、featureImage、publishedDate、description六个字段与仓库中博客类型定义 blog.ts 的Blog接口一一对应title文章标题author作者featured是否精选推荐featureImage封面图路径publishedDateISO 8601 格式的发布时间description用于 SEO 与社交分享的摘要。构建时generateBlogJson.mts 会扫描public/blog/目录下所有.md文件解析 YAML frontmatter 生成helpers/blog.json其中slug直接由文件名派生如skyvern.md→skyvern并按照publishedDate降序排序。页面渲染则交由 blog/[slug].tsx 完成它先用gray-matter剥离 frontmatter再用marked将正文渲染为 HTML同时自动提取 H2/H3 标题生成右侧目录TableOfContents。这意味着本文所述的内容都托管在该仓库的 Markdown 体系中读者可以直接在仓库中追本溯源。The Birth of Skyvern从两难处境中诞生的自动化方案Skyvern 的诞生源于作者团队与数百家公司交流后总结出的两大痛点纯人工操作无法规模化大量重复性的浏览器工作流依赖人力完成随着业务量增长靠不断招人来堆人力显然不可持续传统自动化工具过于刚性以 Selenium 为代表的传统浏览器自动化工具依赖固定的 DOM 选择器与录制流程页面一旦改版就需要重新维护脚本维护成本居高不下。Skyvern 的答案是取两者之长用 LLM 去推理一个网站的布局与语义同时保留传统浏览器自动化的执行能力使其能随需求规模化地并行运行。三大核心特性1. 自然网页导航Natural Web NavigationSkyvern 可以在从未见过的网站上工作。其做法是用计算机视觉computer vision与 DOM 解析的组合手段识别页面上可执行动作的候选集如按钮、输入框、下拉菜单等用多模态 LLM将用户给出的自然语言指令映射到页面上这些可用动作上从而把自然语言目标翻译成页面上的具体操作序列。这意味着用户不再需要为每个站点编写专属脚本只需要描述目标模型负责理解页面并决定如何操作。2. AI 驱动的适应性AI-driven Adaptability传统自动化脚本一旦页面布局变化就会失灵因为脚本依赖预设的 XPath 或其他选择器。Skyvern 刻意不依赖任何预设选择器页面改版后之前的 XPath 自然失效但 Skyvern 会重新执行第 1 点的视觉 DOM 解析 LLM 映射流程仍然能够完成用户指定的目标从实现上看这是把定位元素从硬编码选择器升级为模型实时理解从而获得对布局变化的抵抗力。3. 上下文信息匹配Contextual Information Matching在复杂的业务流程中表单往往要求填写大量信息而其中一部分答案需要推断而非直接给出。Skyvern 允许调用方在发起工作流时传入一个 JSON blob——任何你认为有用的信息集合然后由 LLM 负责把 JSON 中的字段映射到屏幕上的表单问题。原文给出了一个非常直观的保险报价例子在美国生成车险报价时表单常会问你在 21 岁时有资格驾驶吗Were you eligible to drive at 21?。这个问题并没有现成的答案字段但可以从2012 年取得驾照1996 年出生这两个信息推断出来。Skyvern 正是通过 LLM 完成这种跨字段的推理映射而不是要求调用方预先填好每一个问题。Skyvern in Action真实业务场景原文记录了 Skyvern 已经落地的三类典型用例物料采购自动化为制造/采购企业自动化完成物料询价与下单流程避免采购人员反复在供应商网站上手工操作政府网站表单办理在政府网站上自动注册账号、填写表单简化行政类事务的在线办理流程。下图展示了在加州就业发展局EDD雇主服务页面上的表单场景保险报价生成通过动态表单导航在保险提供商的网站上自动获取报价并且支持任何语言的页面。这类场景对上下文信息匹配能力的要求很高因为保险表单问题多、字段杂、且各站点布局完全不同。下图为 Skyvern 在 GEICO 官网执行车险报价流程的录屏截图以及其在智利 BCI Seguros 保险网站执行报价工作流的录屏从这些用例可以看出Skyvern 面向的不是写脚本的开发者而是有真实重复性网页操作的业务方——采购、政务、保险、客服等。上述截图与更多演示素材均存放在 frontend/public/assets/blog/skyvern/ 目录下。社区反响与项目走势原文提到Skyvern 在 Hacker News 上完成了开源发布发布后不到一周其仓库 Star 数即达到 2.7K该数据来自原文陈述。开源项目能否持续获得关注往往要看它的 Star 增长轨迹是否健康——这正是 Star History 存在的意义。在 Star History 中嵌入 Skyvern 的实时走势原文以一张 Star History 图表收尾展示 Skyvern 仓库的 Star 走势。这种图表在当前仓库中由后端服务实时生成后端 main.ts 提供/svg端点接受如下查询参数生成 SVG 图表repos仓库列表逗号分隔最多 20 个上限定义在 const.ts 的MAX_REPOS_PER_REQUESTtype图表类型取值为Date或Timeline见 const.ts 的CHART_TYPESDate模式按日期展示 Star 增长size图表尺寸取值为mobile、laptop、desktop见CHART_SIZES其他可选参数theme主题、transparent透明背景、logscale对数坐标、legend图例位置等。仓库中 main.ts 给出了一条可直接参考的示例参数串/svg?reposstar-history/star-historytypetimelinelogscalelegendbottom-right。此外该端点还做了两处工程化设计URL 规范化main.ts仓库名会被统一转为小写并做 301 重定向到规范化地址这样 CDN 可以为同一个图表只缓存一份LRU 缓存cache.ts以repos|type|size|theme|transparent|legendPosition|useLogScale作为缓存键命中缓存直接返回响应头为image/svgxml且Cache-Control: public, s-maxage86400缓存一天。因此项目维护者完全可以把类似reposSkyvern-AI/skyverntypeDate的图表嵌入自己的 README获得一张随仓库自动更新的实时 Star 走势图。关于 Star History 的完整使用方式三种仓库输入格式、多仓库对比、时间线对齐、GitHub Token 配置、iframe 嵌入等可进一步阅读仓库内的使用指南 how-to-use-github-star-history.md如果想让自己的开源项目也出现在 Starlet List 中参见发布说明 list-your-open-source-project.md。小结Skyvern 的核心理念可以概括为一句话把定位元素这件事从硬编码选择器交给多模态大语言模型。它用计算机视觉与 DOM 解析理解页面结构用 LLM 完成自然语言指令 → 页面动作和JSON 信息 → 表单字段两层映射从而获得对未知网站与布局变化的自适应能力。本文所基于的 skyvern.md 原文连同其封面图与演示录屏都保留在当前仓库中可作为了解该项目第一手信息的起点。赞分享开发工具数据可视化【免费下载链接】star-historyThe de facto GitHub star history graph.项目地址https://gitcode.com/gh_mirrors/st/star-history点击查看免费下载相关推荐大麦抢票自动化实战指南三步跑通完整流程大麦抢票自动化实战指南三步跑通完整流程 票开售 3 分钟就没了手动点根本来不及。你不是手慢是登录、选场次、选档位、选观演人、提交订单这一整串步骤太多人比GUI 自动化RPA多模态AI在浏览器自动化中的应用Skyvern视觉-语言融合技术多模态AI在浏览器自动化中的应用Skyvern视觉 语言融合技术 传统浏览器自动化工具依赖固定选择器和DOM结构面对动态网页和复杂UI时频繁失效。Skyve人工智能AI Agent浏览器控制GUI 自动化工作流自动化RPA后端Skyvern革命用AI大模型重构浏览器自动化新范式Skyvern革命用AI大模型重构浏览器自动化新范式 你是否曾经为了重复的网页操作而烦恼每天手动查询股票价格、填写相同的在线表格或者从多个网站上收集数据。人工智能AI Agent浏览器控制GUI 自动化工作流自动化RPA后端上一篇破解IL2CPP兼容性难题BepInEx多运行时插件框架的架构演进与性能优化实践下一篇掌握ControlNet-v1-1 FP16模型精准图像控制的完整指南创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

Rufus 4.0 起 Windows 7 无法启动?U盘启动盘工具最后兼容版本判断与处理指南

Rufus 4.0 起 Windows 7 无法启动?U盘启动盘工具最后兼容版本判断与处理指南

Rufus 4.0 起 Windows 7 无法启动?U盘启动盘工具最后兼容版本判断与处理指南 【免费下载链接】rufus The Reliable USB Formatting Utility 项目地址: https://gitcode.com/GitHub_Trending/ru/rufus Rufus(U 盘格式化工具与 ISO 启动盘写入工具&…

2026/10/13 10:15:32 阅读更多 →
BitTorrent Tracker 列表 3 步完整导入:让停在 0% 的下载重新动起来

BitTorrent Tracker 列表 3 步完整导入:让停在 0% 的下载重新动起来

BitTorrent Tracker 列表 3 步完整导入:让停在 0% 的下载重新动起来 【免费下载链接】trackerslist Updated list of public BitTorrent trackers 项目地址: https://gitcode.com/GitHub_Trending/tr/trackerslist 下载进度停在 3%、速度掉到 0、同伴数一直是…

2026/10/11 3:24:01 阅读更多 →
marketingskills:用Claude Code自动化SEO与CRO的AI营销技能库

marketingskills:用Claude Code自动化SEO与CRO的AI营销技能库

1. 从“marketingskills”说起:一个被低估的AI营销技能库第一次看到“marketingskills”这个词,是在一个做独立站的朋友群里。有人甩了个链接,说“这玩意儿把SEO和CRO的活儿全拆成Claude Code能直接跑的skill了”。我当时的第一反应是&#x…

2026/10/10 21:39:35 阅读更多 →

最新新闻

免部署AI绘画实战指南:从零生成第一张图的完整路径与避坑要点

免部署AI绘画实战指南:从零生成第一张图的完整路径与避坑要点

很多人第一次听说AI绘画,第一个念头可能就是“这东西是不是得配一台特别牛的电脑?”实际上这两年“免部署、即开即用”的AI绘画方案已经非常成熟了,你不用装Python、不用配CUDA、甚至不用下载动辄几个G的模型文件,打开浏览器就能画…

2026/10/20 14:43:57 阅读更多 →
用Go syscall读取网卡路由与网关实现最长前缀匹配选路

用Go syscall读取网卡路由与网关实现最长前缀匹配选路

碰到一个很实际的需求:设备上插了多块网卡,程序需要知道每块网卡都配了什么IP、谁是对外默认网关,并且在访问某个目标IP时,能自己决定走哪条出口。Go语言里第一反应是翻net包,但翻完会发现它只管给你 IP 和掩码&#x…

2026/10/20 14:43:57 阅读更多 →
振动信号转灰度图+LBP+CNN故障诊断:完整代码与对比实验

振动信号转灰度图+LBP+CNN故障诊断:完整代码与对比实验

做故障诊断这几年,我越来越觉得一维振动信号直接扔给模型是个挺亏的事。波形虽然信息完整,但人看着费劲,模型学起来也容易把噪声和故障混在一起。我最近完成的一个小项目,思路很直接:先把一维振动信号变成二维灰度图&a…

2026/10/20 14:43:57 阅读更多 →
Python桌面宠物项目拆解:Tkinter透明窗口与帧动画实现

Python桌面宠物项目拆解:Tkinter透明窗口与帧动画实现

简介:一款基于Python 3.7与PyQt5的桌面宠物程序,面向对桌面美化或Python GUI应用开发感兴趣的初学者与进阶学习者。程序默认每10秒自动播放一个动作,鼠标双击左键可激活行走模式,再次单击取消,右键则提供简洁的系统功能…

2026/10/20 14:43:57 阅读更多 →
Python桌面宠物开发:tkinter实现透明无边框动画窗口

Python桌面宠物开发:tkinter实现透明无边框动画窗口

简介:桌面宠物Python实现项目,基于Python 3.7与PyQt5开发,适合希望学习桌面应用开发、GUI交互或宠物动画机制的初中级开发者。程序内置多套动作帧,默认每10秒播放一个动作,支持双击左键激活行走、右键呼出系统功能&…

2026/10/20 14:43:57 阅读更多 →
Markdown+YAML批量生成PPT:ppt-master自动化流水线实践

Markdown+YAML批量生成PPT:ppt-master自动化流水线实践

如果你也被周报、月报、季度复盘这些演示文稿折磨过,那你大概能理解我为什么写了 ppt-master 这个工具。它做的事情听起来很简单:给一份 Markdown 写的大纲和一份 YAML 配置,就能批量生成结构完整、自带图表和表格的 .pptx 文件。没有花哨的界…

2026/10/20 14:42:38 阅读更多 →

日新闻

CLRC663芯片Pin-to-Pin替代实战:从评估到量产全记录

CLRC663芯片Pin-to-Pin替代实战:从评估到量产全记录

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →
ESP32舵机控制指南:原理、多路驱动与避坑实战

ESP32舵机控制指南:原理、多路驱动与避坑实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →
位移法实现一阶低通滤波:单片机ADC采样降噪实战

位移法实现一阶低通滤波:单片机ADC采样降噪实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/20 10:02:13 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/19 17:32:41 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/20 2:50:50 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 10:02:08 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 9:50:17 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 9:50:45 阅读更多 →