影刀RPA 网页滚动加载的稳定处理:到底部加载新内容的正确姿势
影刀RPA 网页滚动加载的稳定处理到底部加载新内容的正确姿势“为什么只采了20条页面上明明有200条”——这是采集无限滚动页面时新手最常遇到的问题。答案是你没等新内容加载出来就去取数据了。这篇文章把滚动加载的三种模式讲清楚到底部触发加载、滚动到某个位置触发加载、手动点击加载更多。每种模式给出稳定的处理方案。先判断页面用的是哪种加载方式F12 → Network面板 → 清空 → 然后手动操作页面。观察模式A滚动到底部自动加载。手动滚到页面最底部发现加载圈转了一下新内容出现了。Network面板里会看到一个新的API请求通常是XHR类型返回了下一批数据。模式B滚动到某个元素位置触发加载。页面一开始只显示前20条当你滚到第15条左右时后面的内容才加载出来。这种方式叫懒加载或可视区域触发。模式C点击加载更多按钮。页面上有个查看更多或加载更多的按钮点一下出下一批。每批出固定条数。模式A滚动到底部加载无限滚动最典型的就是微博时间线、抖音评论区、知乎回答列表。拼多多店群自动化报活动上架错误做法【滚动到元素】→ 滚动到页面底部元素 【获取元素列表】→ 立刻取数据# ← 此时新数据还在加载中取的还是旧的正确做法等数据稳定后再取核心思路每滚一次等新数据加载出来确认数据条数不再增长后再采集。page_num1prev_count0all_items[]WHILETrue:# 1. 滚动到底部【执行JS】window.scrollTo(0,document.body.scrollHeight)# 2. 等待新内容加载【等待3秒】# 给加载动画时间# 3. 获取当前数据条数【执行JS】document.querySelectorAll(.item).length current_count当前元素数量# 4. 判断是否还有新数据IF current_countprev_count:# 连续滚了多次没有新数据可能到底了【等待5秒】# 再给一次机会【执行JS】document.querySelectorAll(.item).length IF 数量还是不变:BREAK# 真的没了prev_countcurrent_count 【日志输出】第 {page_num} 次滚动当前共 {current_count} 条page_num1# 5. 数据加载完成开始采集【获取元素列表】→ 采集所有数据优化用等待元素替代固定等待上面的方案用了固定等待3秒。网络快的时候浪费时间网络慢的时候可能不够。优化一下——等待加载中的指示器消失【滚动到底部】 【等待元素】→ 等待加载中的图标出现可选 【等待元素】→ 等待加载中的图标消失 → 超时10秒 【等待 1 秒】→ 额外缓冲 【获取元素列表】如果页面上没有明确的loading指示器可以用元素数量不再变化来判断。但数量检测本身也需要等一段时间。模式B懒加载可视区域触发某些列表比如搜索结果页、商品列表页采用了懒加载——你滚到某个位置那附近的图片或内容才渲染。处理策略逐步滚动每一步给渲染时间。【获取元素列表】→ items目前可能只有部分渲染了 FOR EACH item IN items:【滚动到元素】→ 滚动到当前item 【等待0.5秒】# 给懒加载渲染时间【获取元素文本】→ 提取数据 END FOR注意滚动到每个元素会触发它的渲染但如果页面逻辑是滚动到底部才加载新一批只滚到中间某个元素可能触发不了。更稳健的方案分段滚动。item_height300# 每个商品卡片的大概高度像素total_height800# 初始可见高度WHILE total_height预计最大高度:【执行JS】window.scrollTo(0,{total_height}) 【等待2秒】 total_height600# 每次向下滚600像素每段滚动之间留足够的渲染时间。这个方法的缺点是需要预计最大高度——你可以先手动滚到底在F12里看document.body.scrollHeight记下来作为参考。模式C点击加载更多按钮最常见于电商平台、新闻网站。加载更多按钮点一下出20条再点一下再出20条。WHILETrue:# 1. 检查加载更多按钮是否存在【执行JS】 var btndocument.querySelector(.load-more-btn);if(!btn||btn.style.displaynone)returnfalse;returntrue;btn_existsJS返回结果 IF btn_existsFalse:BREAK# 2. 记录点击前的数据条数prev_count当前元素数量# 3. 点击加载更多【点击元素】→ 加载更多按钮# 4. 等待新数据加载【等待元素】→ 等待新元素出现元素数量增加 或者等待 loading 图标消失# 5. 验证数据确实增长了current_count当前元素数量 IF current_countprev_count:# 点了按钮但没有新数据【等待3秒】# 再等一下再次检查 IF 还是没变:BREAK# 确实没了【日志输出】已加载 {current_count} 条点击加载更多的常见坑坑1按钮被广告或页脚挡住了。滚动到按钮位置时页面底部可能有固定的广告条挡住了按钮。影刀点按钮实际点到了广告上。解决先把页面滚得稍微往上一点让按钮完全暴露出来再点击。// 先滚到按钮上方一点varbtndocument.querySelector(.load-more-btn);btn.scrollIntoView({block:center});坑2点击后按钮变成加载中…然后消失。有些网站在加载过程中按钮文案会变。如果你的选择器是基于按钮文本的按钮文本变了就找不到了。解决选择器不要依赖文本内容用class或id。坑3最后一页没有加载更多按钮。TEMU店群矩阵自动化运营核价报活动当数据全部加载完毕后按钮消失或者变成没有更多了。你的循环需要在按钮消失时自然退出而不是报错。通用稳定方案三层保险不管哪种加载方式可以套用这个三层保险外层循环最多滚50页防止无限循环 ↓ 中层循环每次操作后等待、检查 ↓ ![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/0b69fe35f8024ad698f28c153656df42.png#pic_center) 内层检查确认前后数据量有变化没变化就重试/退出max_scrolls50scroll_count0prev_count0no_change_count0# 连续无变化的次数WHILE scroll_countmax_scrolls:# 执行滚动或点击加载更多执行加载操作# 等待【等待3秒】# 检查数据量current_count获取当前数据条数 IF current_countprev_count:no_change_count1IF no_change_count3:【日志输出】连续3次无新数据停止加载BREAK ELSE:no_change_count0# 有新数据重置计数prev_countcurrent_count scroll_count1【日志输出】f第{scroll_count}次加载共{current_count}条连续3次没有新数据才退出避免因为网络波动导致的误判。采集特定区域内的滚动列表有些页面的滚动列表不是在整个页面上滚动而是在一个特定div区域里滚动。比如钉钉审批列表、飞书表格。识别方法F12 → 选中列表区域 → 看它的CSS有没有overflow: auto或overflow: scroll。滚动方法不能用window.scrollTo要针对特定元素滚动。// 对特定div进行滚动varcontainerdocument.querySelector(.list-container);container.scrollTopcontainer.scrollHeight;// 滚到底在影刀里通过【执行JS】把这段代码放进去。每次滚动后同样需要等待和检查。总结滚动加载的核心不是怎么滚而是怎么确认数据已经加载完了。固定等待不可靠数量比较是底线。三层保险最大次数数量比对连续无变化退出是最稳的方案。作者林焱

相关新闻

影刀RPA 网页表单自动填充:文本框、下拉框、单选复选框的完整处理

影刀RPA 网页表单自动填充:文本框、下拉框、单选复选框的完整处理

影刀RPA 网页表单自动填充:文本框、下拉框、单选复选框的完整处理 作者:林焱 表单填写是网页自动化里最高频的操作。注册账号、提交申请、录入数据、搜索筛选——背后都是表单填充。但很多新手在写表单自动化的时候,经常遇到:文本…

2026/10/16 2:29:02 阅读更多 →
影刀RPA 网页自动化中的等待策略进阶:等待元素出现消失与文本变化

影刀RPA 网页自动化中的等待策略进阶:等待元素出现消失与文本变化

影刀RPA 网页自动化中的等待策略进阶:等待元素出现消失与文本变化 上一篇讲过四种基础等待(固定、智能、条件、事件)。这篇文章更进一步,讲实际业务中的等待策略怎么选、怎么组合、怎么避免"等太久"和"没等到就跑…

2026/10/14 20:38:49 阅读更多 →
影刀RPA 网页翻页全攻略:页码与加载更多

影刀RPA 网页翻页全攻略:页码与加载更多

影刀RPA 网页翻页全攻略:页码与加载更多 作者:林焱 什么情况用什么 采集列表数据时一页只有20条,总共几百上千条需要翻页。不同网站的翻页方式不同——有传统的页码点击翻页、有"加载更多"按钮、有无限滚动。在影刀RPA里需要根据不…

2026/10/11 1:53:57 阅读更多 →

最新新闻

云原生高级 docker到harbor的流程实践

云原生高级 docker到harbor的流程实践

一.部署docker1.配置软件仓库并安装docker-ce用阿里云源&#xff1a;$ cat > /etc/yum.repos.d/docker.repo << EOF [docker] name docker baseurl https://mirrors.aliyun.com/docker-ce/linux/rhel/9.8/x86_64/stable/ gpgcheck 0 EOF$ dnf makecache $ dnf remo…

2026/10/16 3:17:02 阅读更多 →
CANoe 10.0安装失败原因:驱动签名、VC++运行库与许可证服务配置

CANoe 10.0安装失败原因:驱动签名、VC++运行库与许可证服务配置

简介&#xff1a;本资源是一份面向汽车电子工程师、嵌入式开发人员及高校相关专业学习者的 CANoe 10.0 安装实操指南&#xff0c;聚焦解决 Vector 官方工具部署过程中的权限配置、依赖组件安装、License 激活等高频卡点问题。PDF 文档结构清晰&#xff0c;完整覆盖安装前系统要…

2026/10/16 3:17:02 阅读更多 →
500 万测点、1956 亿行:KES 如何让时序数据存得更省、写得更快?

500 万测点、1956 亿行:KES 如何让时序数据存得更省、写得更快?

工业互联网、能源数字化与智能制造的快速推进&#xff0c;让设备监测、电力采集、生产过程指标等时序数据的规模持续攀升。对长期运行的业务系统来说&#xff0c;时序数据库不仅要扛住实时写入与查询&#xff0c;还得解决海量历史数据的长期保存、快速加载与高效管理。围绕工业…

2026/10/16 3:17:02 阅读更多 →
不只是命令行补全:GitHub Copilot SDK 如何把 CLI 智能体引擎嵌入企业工作流?

不只是命令行补全:GitHub Copilot SDK 如何把 CLI 智能体引擎嵌入企业工作流?

不只是命令行补全&#xff1a;GitHub Copilot SDK 如何把 CLI 智能体引擎嵌入企业工作流&#xff1f; 在很多开发者的刻板认知中&#xff0c;GitHub Copilot 依然被等同于 IDE 里的“灰色幽灵代码提示”或者终端里偶尔唤起的单次命令翻译器。然而&#xff0c;随着智能体&#…

2026/10/16 3:17:02 阅读更多 →
跨国会议真正难的,往往不是英语,而是同时处理太多信息

跨国会议真正难的,往往不是英语,而是同时处理太多信息

很多人第一次参加跨国会议之前&#xff0c;最担心的一件事就是英语。怕听不懂&#xff0c;怕口音太重&#xff0c;怕轮到自己发言时突然卡住。准备阶段通常也很直接&#xff0c;提前背专业词&#xff0c;把可能要说的话写下来&#xff0c;甚至把整段发言练很多遍。真正进入会议…

2026/10/16 3:17:02 阅读更多 →
KES时序数据库_千亿级数据压缩与高速写入实战

KES时序数据库_千亿级数据压缩与高速写入实战

工业互联网、能源数字化、智能制造的浪潮之下&#xff0c;设备监测、电力采集、生产过程指标等时序数据的体量正在以肉眼可见的速度膨胀。对于需要长年累月运转的业务系统来说&#xff0c;时序数据库的考题早已不只是"写得进、查得出"&#xff0c;更在于海量的历史数…

2026/10/16 3:16:02 阅读更多 →

日新闻

个人 AI Agent 平台接入 TaoToken:统一 Key 与 API 通道的配置大纲

个人 AI Agent 平台接入 TaoToken:统一 Key 与 API 通道的配置大纲

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 0:00:05 阅读更多 →
信号与系统频域分析作业解题指南

信号与系统频域分析作业解题指南

1. 作业背景与核心要求解析信号与系统作为电子信息类专业的核心基础课&#xff0c;其作业设计往往直接关联课程的核心知识框架。2026年春季第六次作业的布置&#xff0c;通常对应着课程进展到频域分析的关键阶段。根据常规教学进度推测&#xff0c;本次作业可能涉及以下核心内容…

2026/10/16 0:00:05 阅读更多 →
Django MVT实战:从零构建图书借阅系统,彻底搞懂Model-View-Template分层

Django MVT实战:从零构建图书借阅系统,彻底搞懂Model-View-Template分层

1. 从一个"四不像"的练手项目说起如果你已经看完了Django的官方教程前几章&#xff0c;跟着敲完了投票应用&#xff0c;大概会有一种"我好像会了&#xff0c;又好像什么都不会"的割裂感。教程里每个知识点都是拆开的——这一章讲模型&#xff0c;下一章讲视…

2026/10/16 0:00:05 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介&#xff1a;基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码&#xff0c;面向计算机相关专业课程设计与期末大作业学生&#xff0c;以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程&#xff0c;…

2026/10/15 16:18:54 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程&#xff1a;键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化&#xff0c;十个新手有八个栽在"往输入框里填东西"这件事上&#xff1a;要么填不进去&#xff0c;要么填了一半&#xff0c;要么直接把原来内容追加在后面。这背后的根因&…

2026/10/15 19:41:51 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程&#xff1a;阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀&#xff1a;什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面&#xff0c;跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/15 13:48:15 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/15 0:14:36 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/14 22:45:47 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/15 9:49:14 阅读更多 →