数据仓库的分层
整体思路原始数据→洗干净→按主题整理→按维度汇总→面向业务做宽表第一层ODS贴源层全称Operational Data Store干什么将源数据存到数仓里几乎不改动最多添加日期分区方便按天查。什么时候用数据出了问题想回溯原始记录时。第二层DWD明细层/整合层全称Data Warehouse Detail干什么ODS数据做清洗标准化主题整合。这是数仓最核心的一层。具体做了什么事去重、字段统一、空值处理、多源合并、关联建立这一层做完的标志数据干净、编码统一、表与表之间能关联业务方可以直接用。第三层DWS汇总层全称Data Warehouse Summary干什么DWD明细数据按常用维度做轻度聚合。提前算好报表直接查不用每次从几亿行明细重算。什么时候用它写日报、周报、月度分析时从DWS取不用写复杂聚合。第四层ADS应用层/数据集市全称Application Data Service干什么面向具体业务场景的宽表直接给报表工具、BI看板、数据接口用。这一层特点字段多、表宽、面向特定人群市场部一张表、财务部一张表互不干扰。问题1为什么不能从ODS直接取数答案脏、乱、格式不统一、多源不关联问题2为什么不从DWD直接做报表答案太慢每次从几亿条明细算问题3为什么还要单独做ADS答案DWS是通用的市场部和财务部需求不同各做各的ADS互不干扰补充什么是宽表宽表把多张表里有关联的字段横向拼成一张大表。本来分散在用户表、订单表、产品表的信息全部摊在一行里。eg:假设要分析“张三昨天用手机号13800138000花了多少钱”。窄表DWD层的存法多张表各管各的用户表、手机号表、账单表三张表查一次问题要JOIN两次好处省存储、不改结构。宽表ADS层的存法一张表全有一张表字段横向铺开查任何东西不用JOIN直接SELECT...WHERE。好处查的快、不用连表——代价是字段多、有冗余每个字段值在每行都存一遍。

相关新闻

3 种营销玩法拉高服装店业绩,日进斗金服装收银系统轻松实现

3 种营销玩法拉高服装店业绩,日进斗金服装收银系统轻松实现

开服装店比拼的不只是选款眼光,更是运营营销的实力。不少店主都有类似的困扰:到店客流偏少,库存越积越重,想做促销活动又嫌流程繁琐,真正落地后效果也往往打了折扣。其实借助一套成熟的服装收银系统,多数营…

2026/10/18 10:24:10 阅读更多 →
生活不必光芒万丈,但始终温暖有光

生活不必光芒万丈,但始终温暖有光

生活不必光芒万丈,但始终温暖有光。不必追逐旁人耀眼的人生,不必因平凡日常心生焦虑。认真做好手头工作,珍惜三餐与晚风,守住内心平和细碎的温柔。纵使日子平淡琐碎,心中长存善意与期待,这份微光&#xff0…

2026/10/16 13:09:16 阅读更多 →
智能食材采购系统能自动比价吗,省多少时间?深度解析

智能食材采购系统能自动比价吗,省多少时间?深度解析

智能食材采购系统能自动比价吗,省多少时间?深度解析在餐饮连锁、中央厨房以及团餐配送等B2B行业,食材成本占营收比例常高达30%至45%。传统采购模式下,采购员每天需要对接多家供应商、核对报价单、手动比价,一个中等规模…

2026/10/17 8:47:44 阅读更多 →

最新新闻

凸优化视角下的视频运动估计:十一种帧间预测算法统一框架

凸优化视角下的视频运动估计:十一种帧间预测算法统一框架

简介:这是一份面向凸优化课程大作业的完整代码包,围绕MV子视角帧间预测任务,汇聚穷尽块匹配、三步搜索法、分层块匹配三类运动估计方法,结合光流估计与单应性矩阵进行交叉组合,共实现十一种可运行方案。每种方法均配有…

2026/10/18 10:23:42 阅读更多 →
LoRA微调后如何加载与管理权重?从原理到工程实战

LoRA微调后如何加载与管理权重?从原理到工程实战

LoRA 微调这件事,圈子里聊得很多,但大部分人聊的是“怎么训”,少有人把“训完之后怎么加载、怎么管权重”讲明白。我一开始接触 LoRA 的时候也踩过不少坑——明明训练得很顺利,一加载就黑屏报错;明明两个 LoRA 单独用都…

2026/10/18 10:23:42 阅读更多 →
PPT打开密码怎么改?两种方法加避坑指南一次讲透

PPT打开密码怎么改?两种方法加避坑指南一次讲透

当拿到一份带着密码的PPT,或者自己以前设过密码却觉得不够稳妥,很多人第一反应是把文件删了重新存一份——其实不必这么麻烦。修改PPT的打开密码,本身就是几秒钟的事,只是Office藏得有点深,不少人找不着入口。这篇就把…

2026/10/18 10:23:42 阅读更多 →
开关电源Y电容全解析:从安规等级到EMI布局

开关电源Y电容全解析:从安规等级到EMI布局

设计开关电源的朋友基本都遇到过这样的场景:原理图评审时,老工程师指着初级地和次级地之间那个黄豆大小的陶瓷电容,问一句“你的Y电容容值怎么定的?”你要是只说“用了4.7nF”,接下来一定会被追问安规等级是多少、漏电…

2026/10/18 10:23:42 阅读更多 →
自建“口袋书签”:本地优先+全文索引,终结收藏找不到

自建“口袋书签”:本地优先+全文索引,终结收藏找不到

效率党最容易养成的坏习惯是什么?我的答案是“收藏强迫症”:看到一篇好文章先扔进收藏夹,攒了一堆“稍后读”却再也没打开过,等真到了要用的时候,翻遍所有工具都找不回当时存下的内容。为了根治这个问题,我…

2026/10/18 10:23:42 阅读更多 →
【实战】手把手教你搭建企业级Model Context Protocol (MCP)服务:从Spring AI到TaoToken统一通道

【实战】手把手教你搭建企业级Model Context Protocol (MCP)服务:从Spring AI到TaoToken统一通道

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 10:22:42 阅读更多 →

日新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/18 0:00:55 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/18 0:00:55 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 0:55:02 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/17 17:22:31 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 14:23:36 阅读更多 →