[具身智能-611]:JPG / RAW / NV12 格式深度解析(适配 RDK X5 MIPI 相机场景)
表格格式类型压缩存储内容典型用途CPU 开销JPG封装图像有损压缩有损压缩RGB 压缩码流图片存储、网页推流、websocket解压开销中等RAW传感器原始裸数据无压缩Sensor 光电原始采样Bayer 拜耳相机底层调试、图像标定极高必须 ISP 做去马赛克NV12YUV 平面格式未压缩无压缩亮度 Y 交错 UVMIPI 相机输出、硬件编解码、BPU 推理输入极低嵌入式标准格式1. RAWBayer Raw传感器原始数据核心说明The data directly output by the MIPI camera sensor isnot an image, but merely the photoelectric signal collected by photosensitive diodes. Common formats:RGGB8/RGGB10(OV5647/IMX219/IMX335). Data arrangement example (RGGB):plaintextR G R G G B G B R G R G G B G B✅ 需要经过ISP 流水线才能生成可视图像 去马赛克 (Demosaic) → 白平衡 → 降噪 → 伽马校正 → 输出 YUV (NV12)工程特点只能在最前端获取mipi_cam 底层 VIO 接收层一旦经过 ISP输出就不再是 RAW。文件后缀常见.raw/.bayer无法直接使用普通图片软件打开。适用场景镜头标定、调试 Sensor 寄存器、排查曝光 / 噪点问题。⚠️不能直接送入 FCOS/YOLO 神经网络网络只能接收 YUV/RGB。在地平线 Demo【2. 摄像头图像本地保存】中可以选择抓取RAW 帧用于底层调试。2. NV12YUV420 Semi-Planar重中之重内存布局关键分为两个平面连续存放Y 平面全部亮度信息分辨率 H × WUV 平面色度信息U、V 交错存储分辨率 H/2 × W/2plaintextYYYYYYYY YYYYYYYY UVUVUVUV UVUVUVUV采样比例 4:2:0色度分辨率宽高各减半。嵌入式核心优势RDK X5 标准MIPI相机 ISP 默认输出格式你的mipi_cam节点/image_combine_raw话题就是 NV12硬件编解码原生支持hobot_codec H264/H265 编码输入优先使用 NV12VPS、BPU 零拷贝友好地平线硬件单元全部原生支持 NV12避免转 RGB 带来内存拷贝相比 RGB24 节省50% 内存带宽。常见坑NV12没有文件头单纯二进制数据保存成文件后播放器无法直接打开必须附带分辨率。AI 推理注意网络输入要求 RGB 时需要在 ISP/VPS 或 CPU 完成 NV12→RGB 转换。3. JPGJPEG有损压缩图像核心说明基于 YUV420 进行离散余弦有损压缩带文件头、元信息通用图片格式。在项目里的链路位置NV12 图像 → hobot 硬件 JPEG 编码器 → JPG 码流 对应你日志里的参数out_format: jpeg、jpg_quality:85、websocket 接收/image_combine_jpeg✅优点通用、体积小浏览器直接解码❌缺点有损压缩损失图像细节不建议送入 AI 目标检测网络多一层编码开销不适合作为算法输入仅用于预览、上传、存档。在整套视觉链路中的标准数据流推荐plaintextMIPI Sensor → RAW(Bayer) → ISP处理 → NV12主链路 ├─分支1NV12直接送入VPS缩放 → FCOS/YOLO推理最优无多余转换 ├─分支2NV12送入硬件JPEG编码器 → JPG → websocket网页预览 ├─分支3NV12送入H264编码器 → .h264视频录像 ├─分支4调试抓帧保存RAW底层调试 / 保存NV12算法调试选型决策速查表AI 算法推理输入→ 优先NV12禁止使用 JPG网页远程预览、截图存档→JPG调试 Sensor、标定镜头、排查底层图像问题→RAW本地硬件编码录像→ 使用原始 NV12 送入编码器补充实操RDK X5mipi_cam 输出话题/image_combine_raw NV12hobot_codecNV12 → JPG / H264如果你保存裸 NV12 文件播放命令示例必须指定分辨率bash运行ffplay -f rawvideo -pixel_format nv12 -video_size 1280x720 frame.nv12p运行ffplay -f rawvideo -pixel_format nv12 -video_size 1280x720 frame.nv12

相关新闻

[具身智能-610]:Linux EGL Preview(嵌入式相机本地 HDMI 预览,适配你 RDK X5 + TROS/mipi_cam 场景)

[具身智能-610]:Linux EGL Preview(嵌入式相机本地 HDMI 预览,适配你 RDK X5 + TROS/mipi_cam 场景)

一、基础概念EGL Embedded-System Graphics Library 作用:作为 OpenGL ES 和底层显示硬件(Framebuffer/Drm/KMS)的桥梁,无需 X11 窗口系统直接渲染画面到屏幕。✅ EGL Preview 优势(嵌入式核心价值)无 X S…

2026/10/20 4:32:23 阅读更多 →
AI 内容审核系统的多模态策略:文本、图片与视频的联合检测

AI 内容审核系统的多模态策略:文本、图片与视频的联合检测

AI 内容审核系统的多模态策略:文本、图片与视频的联合检测 一、用户上传了违规内容,但只检测了文本,图片里有更严重的问题 内容平台上,单一模态的审核很容易被绕过。一段看似正常的文字描述,配上一张违规图片——如果审…

2026/10/20 13:15:11 阅读更多 →
海外电商的国际化前端架构:RTL 布局、多币种与本地化性能优化

海外电商的国际化前端架构:RTL 布局、多币种与本地化性能优化

海外电商的国际化前端架构:RTL 布局、多币种与本地化性能优化 海外电商平台的国际化,不是简单的文案翻译,而是一整套涉及布局方向、数据格式、性能策略的前端架构命题。本文复盘某跨境电商平台从单一市场扩展到 8 个语种、14 个地区的技术实践…

2026/10/18 9:55:14 阅读更多 →

最新新闻

ComfyUI工作流合集避坑指南:环境对齐、节点检测与批量导入

ComfyUI工作流合集避坑指南:环境对齐、节点检测与批量导入

简介:这份资源是面向AI绘画与自动化流程爱好者的ComfyUI工作流合集,适合希望借助可视化拖拽界面快速搭建图像生成、风格迁移、内容创作等AI应用的用户,无论是否具备编程基础都能上手。压缩包共收录1310个文件,约113.09MB&#xff…

2026/10/20 13:16:08 阅读更多 →
算法基础课学什么?从零搭建算法知识体系与实战指南

算法基础课学什么?从零搭建算法知识体系与实战指南

1. 算法基础课到底在讲什么:从零到一搭建算法知识体系很多人第一次接触算法,脑子里冒出来的第一个念头就是“我是不是得先把数学分析、离散数学、概率论全部啃一遍才能开始”。这个想法不能说错,但绝对会让你在起步阶段就卡死。算法基础课的核…

2026/10/20 13:16:08 阅读更多 →
YOLO26卷积改进实战:MKIR多核卷积倒残差模块替换指南

YOLO26卷积改进实战:MKIR多核卷积倒残差模块替换指南

YOLO26出来后,社区里各种"涨点改进"贴一下多了起来。但说句大实话,大部分改进方案换个数据集就拉胯,能稳定提升几个点的真不多。前几天我复现了一个卷积方向的改进思路,把普通Conv换成一个叫MKIR的多核卷积倒残差模块&a…

2026/10/20 13:16:08 阅读更多 →
大模型并非推理引擎:用强化学习视角破解生成与调优

大模型并非推理引擎:用强化学习视角破解生成与调优

你盯着屏幕上大模型输出的推理步骤,第一眼觉得逻辑清晰、条理分明,再往前一推敲,发现它在第三步偷换了一个关键条件,可文本看起来依然振振有词。这种场景我碰过太多次,早期习惯性归因为"模型推理能力差"&…

2026/10/20 13:16:08 阅读更多 →
MCP协议实战:用标准化接口替代手写JSON,让AI工具调用更简单

MCP协议实战:用标准化接口替代手写JSON,让AI工具调用更简单

写工具接口这件事,我干了差不多十年。以前要给 AI 应用接一个文件系统能力,流程大概是:设计接口、定义 JSON Schema、写执行函数、再写一堆传输层和鉴权的胶水代码,最后还要反复调 prompt 让模型知道该传什么参数。光是一个 read_…

2026/10/20 13:16:08 阅读更多 →
光波导本征模计算:有限差分法MATLAB实战与β传播常数提取

光波导本征模计算:有限差分法MATLAB实战与β传播常数提取

简介:本资源是一套面向本科及硕士阶段电磁场与光波导教学研究的MATLAB实践工具包,聚焦于光波导中电磁本征模求解与传播常数计算这一核心问题,采用数值稳定、工程适用性强的有限差分法实现。压缩包共30个文件,含25个核心MATLAB函数…

2026/10/20 13:15:07 阅读更多 →

日新闻

CLRC663芯片Pin-to-Pin替代实战:从评估到量产全记录

CLRC663芯片Pin-to-Pin替代实战:从评估到量产全记录

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →
ESP32舵机控制指南:原理、多路驱动与避坑实战

ESP32舵机控制指南:原理、多路驱动与避坑实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →
位移法实现一阶低通滤波:单片机ADC采样降噪实战

位移法实现一阶低通滤波:单片机ADC采样降噪实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/20 10:02:13 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/19 17:32:41 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/20 2:50:50 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 10:02:08 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 9:50:17 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 9:50:45 阅读更多 →