09-多线程推理架构:图像采集、推理、显示解耦
多线程推理架构:图像采集、推理、显示解耦为什么需要多线程前面几篇的代码都是单线程的:读一帧 → 预处理 → 推理 → 后处理 → 显示 → 读下一帧。这些步骤串行执行,总耗时是各步骤时间之和。假设各环节耗时:读取 5ms + 预处理 3ms + 推理 60ms + 后处理 5ms + 显示 3ms =76ms/帧 ≈ 13FPS。问题在哪?推理那 60ms 里,CPU 在干活,但摄像头采集和显示都在空等。摄像头明明能 30FPS 出帧,但你 13FPS 去读,中间的帧全浪费了。多线程的核心思路:把采集、推理、显示拆成独立线程,各干各的,通过队列传递数据。推理线程忙着的时候,采集线程继续读帧攒着,显示线程画上一次的结果,互不阻塞。多线程架构设计┌─────────────┐ Queue ┌──────────────┐ Queue ┌──────────────┐ │ 采集线程 │──────────────→│ 推理线程 │─────────────→│ 显示线程 │ │ capture() │ latest frame │ inference() │ results │ display() │ └─────────────┘ └──────────────┘ └──────────────┘ │ │ │ │ 持续读摄像头 │ 持续推理 │ 持续刷新画面 └──────────────────────────────────────────────────────────────┘三个线程各司其职:采集线程:死循环读摄像头帧,把最新帧塞进队列,队列满了就丢旧帧推理线程:从队列取帧,预处理 → 推理 → 后处理,把结果塞进结果队列显示线程:从结果队列取检测结果,画框显示,同时显示最新采集帧完整代码实现importcv2importnumpyasnpimportonnxruntimeasortimportthreadingimportqueueimporttimeclassFrameQueue:"""线程安全的帧队列,只保留最新帧"""def__init__(self,maxsize=2):self.queue=queue.Queue(maxsize=maxsize)self.lock=threading.Lock()self.latest=None# 始终保留最新帧defput(self,frame):withself.lock:self.latest=frame# 队列满了就丢弃旧帧,不阻塞try:self.queue.put_nowait(frame)exceptqueue.Full:passdefget(self,timeout=1.0):try:returnself.queue.get(timeout=timeout)exceptqueue.Empty:withself.lock:returnself.latest# 队列空了就用最新帧defget_latest(self):withself.lock:returnself.latestclassResultQueue:"""检测结果队列"""def__init__(self,maxsize=3):self.queue=queue.Queue(maxsize=maxsize)self.latest=Noneself.lock=threading.Lock()defput(self,result):withself.lock:self.latest=resulttry:self.queue.put_nowait(result)exceptqueue.Full:passdefget_latest(self):withself.lock:returnself.latestclassCaptureThread(threading.Thread):"""采集线程:持续读取摄像头帧"""def__init__(self,source,frame_queue):super().__init__(daemon=True)self.source=source self.frame_queue=frame_queue self.running=Trueself.fps_counter=FPSCounter()defrun

相关新闻

08-推理性能优化:帧率提升、CPU/NPU 占用优化

08-推理性能优化:帧率提升、CPU/NPU 占用优化

推理性能优化:帧率提升、CPU/NPU 占用优化 为什么要性能优化 嵌入式端最大的特点就是算力有限。一块 RK3588,CPU 6 核看着还行,但跑个 YOLOv8n 640 输入,CPU 推理也就 10FPS 出头。放到产品场景,10FPS 可能不够: 无人售货柜需要快速响应开门关门,检测慢了用户体验差 工…

2026/10/12 2:30:41 阅读更多 →
Unity动态加载BMP图片的三种方案:从原生API到手动解析

Unity动态加载BMP图片的三种方案:从原生API到手动解析

1. 项目概述:为什么Unity加载BMP是个“问题”?如果你在Unity项目里处理过图片资源,大概率会直接把.png或.jpg文件拖进Assets文件夹,然后通过Sprite或Texture2D来使用。整个过程丝滑流畅,Unity引擎在背后帮你处理了格式…

2026/10/12 2:30:44 阅读更多 →
红蓝对抗实战指南:网络安全攻防演练与能力提升

红蓝对抗实战指南:网络安全攻防演练与能力提升

1. 红蓝对抗的本质与价值红蓝对抗不是简单的攻防演练,而是一套完整的网络安全能力验证体系。在真实的对抗环境中,红队(攻击方)和蓝队(防御方)通过模拟实战来检验企业安全防御的有效性。这种对抗模式最早源于…

2026/10/11 12:54:54 阅读更多 →

最新新闻

Agent框架工程化:全插件化设计与可回放会话日志实践

Agent框架工程化:全插件化设计与可回放会话日志实践

做Agent框架开发的人,一定都体会过这种痛苦:模型A下跑得好好的流程,换到模型B就崩了;某一轮对话触发的工具调用,复现时怎么都对不上;线上用户反馈了一个诡异问题,你翻遍了日志也不知道是哪一步出…

2026/10/12 2:30:25 阅读更多 →
专业数据库数据共享策略:库级、表级与接口级共享落地指南

专业数据库数据共享策略:库级、表级与接口级共享落地指南

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 2:30:25 阅读更多 →
数据库课程设计实战:在线学习系统MySQL表结构与SQL优化

数据库课程设计实战:在线学习系统MySQL表结构与SQL优化

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 2:30:25 阅读更多 →
看视频就懂《人工智能怎么学》|人工智能是什么

看视频就懂《人工智能怎么学》|人工智能是什么

为了帮助读者更好的理解图书《人工智能怎么学》的精彩内容,通过观看视频就能快速搞懂人工智能应该怎么学,公众号制作了系列视频并进行发布。欢迎读者朋友观看和转发。 本期内容主要对本公众号发布的文章《什么是人工智能?》进行视频讲解&…

2026/10/12 2:30:25 阅读更多 →
树与二叉树:数据结构的核心精髓

树与二叉树:数据结构的核心精髓

一、树型结构 1.基本定义 树形结构是一种非线性的数据结构,用于模拟具有层次关系的数据。它由节点(Node)和边(Edge)组成,其中每个节点可以有零个或多个子节点,但至多只有一个父节点&#xff0…

2026/10/12 2:30:25 阅读更多 →
Python 装饰器:我以为的语法糖,其实是定义时立刻执行的函数调用

Python 装饰器:我以为的语法糖,其实是定义时立刻执行的函数调用

这个坑我是被项目逼着学会的。 有一次产品要求给所有接口加耗时统计,我打开函数,开头写一行 start_time time.time(),return 前再写一行 print。改到第三个函数时我开始怀疑人生——同样的代码复制粘贴几十遍,以后改格式还得逐个…

2026/10/12 2:29:25 阅读更多 →

日新闻

复古胶片颗粒感噪点合成器:Canvas ImageData 像素高斯杂色注入算法

复古胶片颗粒感噪点合成器:Canvas ImageData 像素高斯杂色注入算法

在数码相机、高清显示屏与现代矢量图形技术高度发达的今天,画面可以做到绝对的锐利、平滑与无瑕。然而,当一张秋日手账插画或拍立得照片过于“平整无瑕”时,往往会散发出一种冰冷生硬的“数码塑料感(Digital Plasticity&#xff0…

2026/10/12 0:00:59 阅读更多 →
活字印刷古籍线装排版:Canvas 竖排文字与栏线自适应算法

活字印刷古籍线装排版:Canvas 竖排文字与栏线自适应算法

在现代网页与移动端设计中,横排(Horizontal Layout)早已经成为了绝对的主流。然而,当我们翻开泛黄的线装古籍、宋版木刻诗集,或是欣赏一张茶道雅集的手写便签时,那种**自上而下纵向书写、自右向左逐列铺展&…

2026/10/12 0:00:59 阅读更多 →
周日晚间的“精神松绑减震器”:无压力情绪倾倒箱与温和轻声陪伴

周日晚间的“精神松绑减震器”:无压力情绪倾倒箱与温和轻声陪伴

每到周日的晚上八点到十点,很多人心里都会悄悄亮起一盏警示灯。 在心理学上,这种现象有一个专门的称谓——“周日夜晚焦虑症(Sunday Scaries)”。明天又是周一,闹钟又要重新在七点响彻卧房;脑海里仿佛有一个…

2026/10/12 0:00:59 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介:基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码,面向计算机相关专业课程设计与期末大作业学生,以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程,…

2026/10/12 0:16:30 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化,十个新手有八个栽在"往输入框里填东西"这件事上:要么填不进去,要么填了一半,要么直接把原来内容追加在后面。这背后的根因&…

2026/10/12 0:16:38 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀:什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面,跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/12 0:16:43 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/11 10:45:37 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/11 14:36:53 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/11 14:36:54 阅读更多 →