Python爬虫下载加州高速路网PeMS交通流量数据集以及交通公开数据集分享
2026 年更新新版 PeMS 数据下载工具已开源虽然本人已经工作多年但是还是不断有同学来询问数据集并且发现之前的下载脚本下载已经不可用了因此最近重新进行下载工具的整理与开源也欢迎有条件的同学一起来维护这个gihub项目:pems-data-downloader如果有问题或者需要进一步交流的地方也可以添加我用户名数字就是本人Q号原文中的脚本完成于 2019 年主要用于下载单个 VDS 的 5 分钟数据。随着 PeMS 页面、认证方式和科研数据需求变化原脚本中的硬编码账号密码、Windows 路径、手工时差换算和 XLS 合并方式已不再推荐。新版主要支持PeMS Station 5-Minute 官方数据PeMS Station Hour 官方小时数据查询 PeMS 当前实际发布的最新日期下载前搜索 Station ID按 District、经纬度、道路、方向、车道类型和 County 筛选自动生成标准化观测表、站点表、GeoJSON 和近似路网边可选下载 Caltrans 官方道路几何并生成交互地图Windows、macOS 和 Linux下载进度、环境诊断、断点恢复和数据 manifest。快速开始gitclone https://github.com/wcc961129/pems-data-downloader.gitcdpems-data-downloader uvsync--lockeduv run playwrightinstallchromium uv run pems-data auth uv run pems-data doctor uv run pems-data latest--district7此外如果需要其他城市的公开交通数据以及矩阵/张量插补和预测模型可以参考transdim另附本人之前论文的开源代码GE-GAN论文GE-GAN: A novel deep learning framework for road traffic state estimation由于PeMSPeMS下载交通数据集一次只能下载一周数据并且要一次一次的点击比较麻烦。故写出了一个小的爬虫程序自动下载PeMS路网上VDS的数据集前提需要FQ需要挂全局代理下载为5分钟时间间隔的流量数据为了防止IP被封每下载一周 Sleep 15秒也可自己更改具体使用只需要更改文件保存地址save_path需要下载的VDS列表vds_list下载数据的开始与结束时间: start_time, end_time以及down_load_data函数中data中登陆PeMS系统的账号与密码PEMS官网自动下载数据集代码需FQ#!/usr/bin/env python# -*- coding: utf-8 -*-# Time : 2019/11/14 21:23# Author : Chenchen Wei# Description: 下载PeMS流量数据一次下载一周数据并将下载的周数据进行合并importtimeimportosimportnumpyasnpimportpandasaspdimportrequestsdeftime_2_timestamp(input,lagsTrue):默认True: 时间转化为时间戳, 包含时差计算iflags:timeArraytime.strptime(input,%Y-%m-%d %H:%M)# 转换成时间戳returnint(time.mktime(timeArray)8*60*60)# 时差计算else:time_localtime.localtime(input-8*60*60)returntime.strftime(%Y-%m-%d %H:%M,time_local)defdownload(save_path,vds,start_time,end_time):时间转化为时间戳start_stamp,end_stamptime_2_timestamp(start_time),time_2_timestamp(end_time)i1forbegininrange(start_stamp,end_stamp,60*60*24*7):urlget_url(vds,begin)down_load_data(save_path,url,i)i1print(Sleeping...)time.sleep(15)# 下载完成休息五秒defdown_load_data(save_path,url,i):headers{User-Agent:Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36}data{redirect:,username:账号,password:密码,login:Login}sessionrequests.session()responsesession.post(url,headersheaders,datadata)responsesession.get(url)withopen(save_path\\str(i).xlsx,wb)asf:f.write(response.content)print(下载成功)defget_url(vds,begin):str_begintime_2_timestamp(begin,False)s_beginstr_begin[5:7]%2Fstr_begin[8:10]%2Fstr_begin[:4]00%3A00,endbegin60*60*24*7-60str_endtime_2_timestamp(end,False)s_endstr_end[5:7]%2Fstr_end[8:10]%2Fstr_end[:4]23%3A59,urlhttp://pems.dot.ca.gov/?report_form1dnodeVDScontentloopsexportxlsstation_id\str(vds)s_time_idstr(begin)s_time_id_fstr(s_begin)e_time_idstr(end)e_time_id_fstr(s_end)todalltod_from0tod_to0dow_0ondow_1ondow_2ondow_3ondow_4ondow_5ondow_6\onholidaysonqflowq2gn5minaggonlane1onlane2onlane3onlane4on# print(url)print(获取url: vds[%s] %s --- %s%(str(vds),str_begin,str_end))returnurldefcombine_download_data(vds,path):numlen(os.listdir(path))dfspd.read_excel(path\\1.xlsx,index_colNone).valuesforiinrange(2,num1):dfpd.read_excel(path\\str(i).xlsx,index_colNone).values dfsnp.row_stack((dfs,df))pd.DataFrame(dfs).to_csv(path\\str(vds)_combine.csv,indexNone,headerNone)print(合并文件保存成功)if__name____main__:save_pathrG:\文档\交通数据集\加州数据集\自动下载数据# 文件保存路径vds_list[602467,602468]# 需要下载的VDS列表start_time,end_time2019-01-01 00:00,2019-01-14 23:59# 数据下载开始于结束时间每次下载一周无数据则下载为空文件forvdsinvds_list:namestart_time[2:10]_end_time[2:10]save_pathssave_path\\name\\str(vds)# 创建文件保存路径ifnotos.path.exists(save_paths):os.makedirs(save_paths)print(开始下载%s %s---%s%(str(vds),start_time,end_time))download(save_paths,vds,start_time,end_time)# 下载文件combine_download_data(vds,save_paths)# 将单个VDS下载文件进行合并2020年6月16日 更新部分路网数据集由于许多同学联系私信寻求数据集因此在此将本人做研究下载的部分数据集分享出来希望对大家有帮助提取密码lwil另提供一个自己Fork的Github,里面有部分交通数据集可自行下载。由于Github中西雅图数据也存储在谷歌网盘里面需要FQ因此在百度网盘中有原始数据集以及按照工作日与休息日划分后的西雅图数据集。此外截止目前评论区留邮箱的同学本人已将数据链接及数据作为附件发送至邮箱注意查收。2020年7月18日 更新论文以及部分数据集由于之前百度云失效抽空更新了下最新的百度云链接提取码g8ce另附上本人最新发表的一篇论文GE-GAN: A novel deep learning framework for road traffic state estimationTRC希望对大家有帮助欢迎引用。还有本人了解的其他论文中公开的交通数据集及代码此部分数据集均可直接下载Diffusion Convolutional Recurrent Neural Network: Data-Driven Traffic Forecasting(DCRNN)该数据集包含Los Angeles (METR-LA) 207个检测器2012年四个月的数据the Bay Area (PEMS-BAY)325个检测器2017年6个月的数据另一个公布数据集与代码的文章为Attention Based Spatial-Temporal Graph Convolutional Networks for Traffic Flow Forecasting (ASTGCN)该数据集包含同样已将数据集发送至所有留邮箱的同学。如未收到可自行下载。点波关注不迷路后续如发现新的交通数据集会不定期更新。。。2020年11月02日 更新data中22个检测器的数据补充说明很多同学私信询问pems 22条路段的空间关系在此说明一下22个检测器是一条道路上的检测器检测器顺序为文件第一行的检测器编号即1与2相连2与13相连3与24相连。。。。具体空间关系可以进PEMS官网搜VDS会显示具体的经纬度以及检测器之间的空间关系。关于代码写的太乱就不好意思放出来了。。。后续有时间整理在更新吧。另外博客中提到的所有数据集都已经在上面的百度网盘还有github上面分享出来了大家可以按照需要自行下载的哈。2020年11月13日 更新代码公开今天抽空重新整理了下代码目前代码与数据集已公开详见Github: GE-GAN: A novel deep learning framework for road traffic state estimationTRC同样已将代码发送至要代码并留邮箱的同学。如未收到可自行下载。2020年11月26日 更新PEMS四部分数据集更新高速路网数据集出处Spatial-Temporal Synchronous Graph Convolutional Networks: A New Framework for Spatial-Temporal Network Data Forecasting(STSGCN)百度网盘下载地址提取码p40o

相关新闻

Java 泛型接口详解:从基础使用到进阶技巧

Java 泛型接口详解:从基础使用到进阶技巧

1. 泛型接口初识 在 Java 中,泛型不仅可以用在类和方法上,也可以定义在接口中。泛型接口的核心思想是:将接口中要处理的数据类型参数化,使其能够适用于多种数据类型,从而极大地提高代码的复用性和灵活性。本节我们先通…

2026/7/30 16:45:13 阅读更多 →
⭐ App详情页转化率到底怎么看?

⭐ App详情页转化率到底怎么看?

做 App 出海,一定要看一个关键指标: 商品详情页转化率 很多开发者只看下载量,却不知道: 为什么有曝光却没有安装? 为什么广告花钱但是转化低? 答案可能就在商品详情页转化率。Google Play 查看方法 打开&am…

2026/7/30 16:45:13 阅读更多 →
了解软件著作权,守护软件知识产权成果

了解软件著作权,守护软件知识产权成果

软件著作权是计算机软件领域核心的知识产权类型,依据《中华人民共和国著作权法》《计算机软件保护条例》设立,是自然人、法人或其他组织对独立开发的计算机软件作品依法享有的专属人身权与财产权,也是对软件原创成果的法定法律保护形式。与专…

2026/7/30 16:44:13 阅读更多 →

最新新闻

新大陆物联网Android开发实战(一)通过接入API文档获取新大陆物联网官网Logo-GETPOST多线程实战-网络资源下载

新大陆物联网Android开发实战(一)通过接入API文档获取新大陆物联网官网Logo-GETPOST多线程实战-网络资源下载

目录 一、背景 二、思路与实施 权限配置: 布局设计: 布局代码: 接口类实现代码: DownLoad类代码: 三、文章总结 四、源码下载 一、背景 本文章是针对新大陆物联网竞赛,其中Android开发的相关知识的总结…

2026/7/30 17:02:19 阅读更多 →
如何选择最适合你的编程字体:Maple Mono完整指南

如何选择最适合你的编程字体:Maple Mono完整指南

如何选择最适合你的编程字体:Maple Mono完整指南 【免费下载链接】maple-font Maple Mono: Open source monospace font with round corner, ligatures and Nerd-Font icons for IDE and terminal, fine-grained customization options. 带连字和控制台图标的圆角等…

2026/7/30 17:02:19 阅读更多 →
STM32单片机开发-UARTUSART串口收发(二)不定长数据收发DMA串口收发-STM32CubeMx项目

STM32单片机开发-UARTUSART串口收发(二)不定长数据收发DMA串口收发-STM32CubeMx项目

目录 一、概述 二、程序实现 三、不定长数据收发 四、总结 一、概述 本篇文章我们进入STM32串口收发功能第二部分的教学,主要讲解DMA的收发模式,源码将在最后免费提供。 开发工具:STM32CubeMx、STM32开发板(型号不限&#xf…

2026/7/30 17:02:19 阅读更多 →
HarmonyOS开发革命:Plan+Build模式全解析

HarmonyOS开发革命:Plan+Build模式全解析

引言:从“直接编码”到“先规划后构建” DevEco Code 作为 HarmonyOS 应用开发的核心 IDE,其 Plan+Build 模式代表了开发理念的进化。 简述传统开发流程中“边想边写”的痛点:需求理解偏差、架构反复、代码质量参差不齐。 引出 Plan+Build 模式的核心价值:将“方案设计”与…

2026/7/30 17:02:19 阅读更多 →
两张稀疏手稿,被我拿去跑四方连图了

两张稀疏手稿,被我拿去跑四方连图了

前两天翻素材库,发现两张都是「半成品」性质的手稿——元素摆了几只,空白一大片,按平常的标准根本进不了印花提取池。我顺手拿它们去试了试四方连图这个功能。 所谓四方连图,就是把一张图铺到面料或者产品上能循环接边、不露接缝。…

2026/7/30 17:02:19 阅读更多 →
利用Python自动化下载ECMWF S2S回算数据:从API配置到批量处理

利用Python自动化下载ECMWF S2S回算数据:从API配置到批量处理

1. 项目概述:从ECMWF获取S2S回算数据如果你正在做季节预测、次季节预测或者气候模式评估相关的研究,那么“S2S回算数据”对你来说绝对不陌生。S2S,也就是次季节到季节预测,是连接短期天气预报和长期气候预测的关键桥梁。而回算数据…

2026/7/30 17:01:19 阅读更多 →

日新闻

Windows驱动存储终极清理工具:DriverStoreExplorer完全指南

Windows驱动存储终极清理工具:DriverStoreExplorer完全指南

Windows驱动存储终极清理工具:DriverStoreExplorer完全指南 【免费下载链接】DriverStoreExplorer Driver Store Explorer 项目地址: https://gitcode.com/gh_mirrors/dr/DriverStoreExplorer 您是否曾因Windows系统盘空间不足而烦恼?是否遇到过设…

2026/7/30 0:00:13 阅读更多 →
如何3步掌握Video Download Helper:网页视频下载的完整实战指南

如何3步掌握Video Download Helper:网页视频下载的完整实战指南

如何3步掌握Video Download Helper:网页视频下载的完整实战指南 【免费下载链接】VideoDownloadHelper Chrome Extension to Help Download Video for Some Video Sites. 项目地址: https://gitcode.com/gh_mirrors/vi/VideoDownloadHelper 你是否曾经在浏览…

2026/7/30 0:00:13 阅读更多 →
“双减”后首个AI备课压力测试报告:覆盖32所中小学的176节AI辅助课,暴露4大隐性增负节点

“双减”后首个AI备课压力测试报告:覆盖32所中小学的176节AI辅助课,暴露4大隐性增负节点

更多请点击: https://intelliparadigm.com 第一章:AI 教师备课辅助 AI 教师备课辅助系统正逐步成为教育数字化转型的核心支撑工具,它并非替代教师,而是通过语义理解、知识图谱与多模态生成能力,将教师从重复性劳动中解…

2026/7/30 0:00:13 阅读更多 →

周新闻

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 数据集6000张 完整源码已标注数据集训练好的模型环境配置教程程序运行说明文档,可以直接使用!系统支持图片、视频、摄像头等多种方式检测裂缝,功能强大实用。 1数据集6000张 8各类别

2026/7/29 22:18:20 阅读更多 →
深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

pubg数据集 精选原图1.42万数据 1.49万标签 无任何重复、算法增强或冗余图像! pubg绝地求生目标检测数据集 1分类:e_body,14905个标签,txt格式 共计14244张图,99%为640*640尺寸图像 适合yolo目标检测、AI训练关键词&am…

2026/7/29 14:34:28 阅读更多 →
Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex检测数据集数据集详情检测类别: allies enemy tag图片总量:7247张训练集:5139张验证集:1425张测试集:683张标注状态:全部已标注,即拿即用数据格式:支持YOLO格式及其他格式&#…

2026/7/29 15:00:03 阅读更多 →

月新闻