批量核验任务跑到一半挂了怎么办:断点续跑的设计与实现
这是接口对接系列的又一篇。上一篇讲了超时后先查后重这篇解决一个更工程化的问题一个 5000 条的批量核验任务跑到 3000 条时服务挂了/断网了/发版了怎么优雅地继续而不是从头再来从头再来的代价不只是时间已核验的 3000 条要重新计费用户会收到第二次通知账单和对账全乱。断点续跑是批量任务的标配能力但它比想象中容易做错。一、断点续跑的核心任务状态必须落库最容易想到的做法是记个进度数字——已完成 3000 条。这不够。真正的断点续跑要求任务可以随时被杀死重启后从持久化状态完整恢复这意味着要落库的不只是进度而是每一条的明细状态importsqlite3,json,time dbsqlite3.connect(batch_task.db)db.execute( CREATE TABLE IF NOT EXISTS task_items ( seq INTEGER PRIMARY KEY, -- 序号原始顺序 biz_no TEXT UNIQUE, -- 业务单号幂等键来源 payload TEXT, -- 原始请求参数 status TEXT DEFAULT pending,-- pending/done/failed/timeout result TEXT, -- 核验结果 JSON updated_at REAL ))判断你的落库设计合不合格用一个标准把进程 kill -9 之后重启系统能否从库里恢复出哪些做完了、哪些没做、哪些结果未知的完整视图。能就合格只靠内存进度就不合格。二、断点分类不同断法续法不同任务中断后重启不能无脑从第 3001 条继续——要按每条的末次状态分流defresume_task(task_id):# 三类续跑队列pending[]# 从未执行直接跑retryable[]# 执行过但失败/超时按超时纪律处理verify[]# 超时未确认先查询别重跑rowsdb.execute(SELECT seq, biz_no, status FROM task_items WHERE task_id?,(task_id,)).fetchall()forseq,biz_no,statusinrows:ifstatusdone:continue# 完成的跳过不重复计费elifstatustimeout:verify.append(seq)# 先查后重elifstatusin(failed,pending):pending.append(seq)returnpending,retryable,verify三个关键决策1.done的绝不重跑——每一条重跑都是真实计费。这就是为什么 done 状态必须在收到响应的瞬间落库而不是批量收工后统一写。2.timeout的先查询——超时是结果未知直接重跑可能重复核验。用上一篇文章讲的查询接口确认状态后再决定补跑还是标记完成。3.failed的看原因——业务拒绝不一致补跑无意义直接标终态系统异常才进重试队列且受重试预算约束。三、写入时机每条确认后立即落库断点续跑最常见的翻车是批量写状态跑完 100 条写一次进度。进程在第 99 条挂掉时前 99 条全部状态未知只能靠查询接口逐条确认——费钱又费时。正确的写入时机每一条收到响应立即 commit。defprocess_one(seq,biz_no,payload):try:resultcall_verify_api(biz_no,payload)status,res(done,result)ifresult[ok]else(failed,result)exceptrequests.Timeout:status,restimeout,None# 单条立即落库——kill -9 也不丢db.execute(UPDATE task_items SET status?, result?, updated_at? WHERE seq?,(status,json.dumps(res,ensure_asciiFalse),time.time(),seq))db.commit()SQLite 单条 commit 的性能完全够用每秒数千次量级更大再换 PostgreSQL模式不变。代价是吞吐下降——每条一次磁盘写。生产上的折衷按确认即写保证正确性把性能优化放在批量读取一次取 100 条待处理而不是批量写入上。四、发版/迁移场景任务与代码解耦批量任务经常死于发版任务跑到一半代码要更新。两个实践1. 任务数据与代码版本解耦——task_items 表里的 payload 存的是当时请求参数的完整快照而不是引用业务表的最新数据。业务数据可能已经变了续跑时用快照保证同一批的一致性。2. 版本号记录在任务元数据里db.execute(INSERT INTO task_meta (task_id, code_version, started_at) VALUES (?,?,?),(task_id,CODE_VERSION,time.time()))续跑时如果代码版本变了至少日志里能看到这个任务是 v1.3 跑了一半、v1.4 续的——出了数据口径问题知道往哪查。五、一套完整的断点续跑 Checklist□ 明细落库每条独立状态行非进度数字 □ 即时提交收到响应立即 commit非批量写 □ 断点分类pending/timeout/failed 三类分流续跑 □ timeout 先查询确认后决定补跑防重复计费 □ done 永不重跑幂等键 状态检查双保险 □ payload 快照续跑用当时的参数非最新业务数据 □ 版本记录任务元数据带代码版本可追溯 □ 恢复演练上线前真的 kill -9 一次验证恢复完整最后一条最重要——断点续跑是必须演练过才算有的能力。没被真正 kill 过的续跑逻辑等于没有。小结断点续跑 明细状态落库 即时提交 按末次状态分流恢复timeout 先查询、done 永不重跑、failed 看原因——三类断点的处理纪律payload 快照保证续跑一致性版本记录保证可追溯上线前必须 kill -9 演练一次上一篇超时之后别急着重试先查状态的接口设计模式。示例代码仓库在 GitHub搜索 nztapi-verify-skill 可找到完整实现批量场景的合规边界见官网说明https://www.nztapi.com/blog/insights/batch-identity-verification-compliance-boundary

相关新闻

pdf.js实现纯前端PDF预览与打印:渲染原理、性能优化与踩坑指南

pdf.js实现纯前端PDF预览与打印:渲染原理、性能优化与踩坑指南

简介:这是一份基于PDF.js的纯JavaScript PDF在线预览与打印Demo,适合Web前端开发者快速上手PDF渲染场景。压缩包共376个文件(约2.49MB),包含168个bcmap字符映射文件、105个properties描述文件,以及js、html…

2026/10/17 1:48:17 阅读更多 →
sketch-json-cli:设计稿与JSON双向转换的工程实践指南

sketch-json-cli:设计稿与JSON双向转换的工程实践指南

简介:这是一款面向设计师与前端开发者的开源命令行工具 sketch-json-cli,用于在 Sketch 设计文件与 JSON 数据之间双向转换,便于设计稿版本管理、差异对比与自动化处理。资源压缩包共 8 个文件,整体仅 34KB,包含 2 个 …

2026/10/15 17:55:10 阅读更多 →
Harness Engineering:AI辅助开发的工程化实践框架

Harness Engineering:AI辅助开发的工程化实践框架

每次看到团队里有人把大模型当成"高级自动补全"来用,我就觉得挺可惜的。明明同样的模型、同样一套IDE插件,有人能又快又稳地把一个跨平台模块从头搭起来,有人却要跟AI反复纠缠两个小时,最后拿回来的代码还得自己重写大半…

2026/10/16 18:25:48 阅读更多 →

最新新闻

Lokinet多平台部署实战:Windows、Linux、MacOS完整安装教程

Lokinet多平台部署实战:Windows、Linux、MacOS完整安装教程

Lokinet多平台部署实战:Windows、Linux、MacOS完整安装教程 Lokinet是一个匿名、去中心化且基于IP的互联网覆盖网络,让用户能够在保护隐私的同时安全地访问互联网。本教程将详细介绍如何在Windows、Linux和MacOS三大主流操作系统上部署Lokinet&#xff…

2026/10/17 1:48:27 阅读更多 →
软考 系统架构设计师历年真题集萃(154)

软考 系统架构设计师历年真题集萃(154)

接前一篇文章:软考 系统架构设计师系列知识点之杂项集萃(153) 第291题 EJB是企业级Java构件,用于开发和部署结构的、分布式的、面向对象的Java应用。其中,()负责完成服务端与客户端的交互;()用于数据持久化来简化数据库开发工作;()主要用来处理并发和异步访问操作…

2026/10/17 1:48:27 阅读更多 →
就地型馈线自动化技术原则与整定避坑指南:四种模式详解

就地型馈线自动化技术原则与整定避坑指南:四种模式详解

简介:这份名为《附件8:就地型馈线自动化技术原则(试行)》的技术文档,系统阐述了自适应综合型馈线自动化技术,面向配电网规划运行、自动化改造及运维检修人员,重点解决多分支多联络配电网中故障定…

2026/10/17 1:48:27 阅读更多 →
Spark-X2.5 全面解析:4B 参数 + 1M 上下文 + 200 语言,端侧 Agent 模型新王如何炼成

Spark-X2.5 全面解析:4B 参数 + 1M 上下文 + 200 语言,端侧 Agent 模型新王如何炼成

【免费下载链接】Spark-X2.5-4B-FP8 项目地址: https://ai.gitcode.com/SparkLLM/Spark-X2.5-4B-FP8 点击查看 免费下载 Spark-X2.5-4B-FP8 是一款面向端侧部署的 4B 参数大语言模型,原生支持 1M token 上下文窗口和 200 多种语言,主打 Agen…

2026/10/17 1:48:27 阅读更多 →
CKEditor 4 在 iOS 移动端工具栏按钮 Hover 样式的正确修复与手动验收测试指南

CKEditor 4 在 iOS 移动端工具栏按钮 Hover 样式的正确修复与手动验收测试指南

前端UI组件 【免费下载链接】ckeditor4 The best enterprise-grade WYSIWYG editor. Fully customizable with countless features and plugins. 项目地址: https://gitcode.com/gh_mirrors/ck/ckeditor4 点击查看 免费下载 导读 本文基于 CKEditor 4 官方仓库中的…

2026/10/17 1:48:27 阅读更多 →
云上运维系统学习路线:VPC、Terraform与K8s实操指南

云上运维系统学习路线:VPC、Terraform与K8s实操指南

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/17 1:47:27 阅读更多 →

日新闻

DeepSeek选型与部署:V3/R1、Ollama、API全攻略

DeepSeek选型与部署:V3/R1、Ollama、API全攻略

简介:《DeepSeek使用方法.pdf》是一份面向DeepSeek入门及进阶用户的完整使用指南,重点围绕V3与R1两款模型的能力差异与适用场景展开,帮助读者根据任务类型与成本选择合适的模型。资源共1个PDF文件,压缩包大小约311KB,篇…

2026/10/17 0:00:25 阅读更多 →
200+Deepseek润色指令拆解:从底层原理到场景落地的完整指南

200+Deepseek润色指令拆解:从底层原理到场景落地的完整指南

简介:这是一份聚焦DeepSeek提示词优化的《200Deepseek润色指令》PDF文档,共收录两百余条可直接套用的润色指令,涵盖语法修正、风格统一、逻辑梳理、表达精炼等维度,并针对商务写作、学术论文、广告文案等场景给出差异化建议。文档…

2026/10/17 0:00:25 阅读更多 →
OpenCV轮廓法物体计数系统:轻量、可控、可落地的工业级实现

OpenCV轮廓法物体计数系统:轻量、可控、可落地的工业级实现

简介:本资源是一份基于OpenCV的本科课程设计完整报告,面向计算机视觉初学者、图像处理学习者及高校通信/信息类专业学生,解决物体智能计数与检测结果结构化记录的实际问题。项目覆盖图像预处理、轮廓检测、边界框绘制、轨迹栏交互式参数调节、…

2026/10/17 0:00:25 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介:基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码,面向计算机相关专业课程设计与期末大作业学生,以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程,…

2026/10/16 21:35:51 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化,十个新手有八个栽在"往输入框里填东西"这件事上:要么填不进去,要么填了一半,要么直接把原来内容追加在后面。这背后的根因&…

2026/10/17 1:44:59 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀:什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面,跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/16 15:04:24 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 21:54:38 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 3:49:43 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 14:23:36 阅读更多 →