数据仓库的分层
整体思路原始数据→洗干净→按主题整理→按维度汇总→面向业务做宽表第一层ODS贴源层全称Operational Data Store干什么将源数据存到数仓里几乎不改动最多添加日期分区方便按天查。什么时候用数据出了问题想回溯原始记录时。第二层DWD明细层/整合层全称Data Warehouse Detail干什么ODS数据做清洗标准化主题整合。这是数仓最核心的一层。具体做了什么事去重、字段统一、空值处理、多源合并、关联建立这一层做完的标志数据干净、编码统一、表与表之间能关联业务方可以直接用。第三层DWS汇总层全称Data Warehouse Summary干什么DWD明细数据按常用维度做轻度聚合。提前算好报表直接查不用每次从几亿行明细重算。什么时候用它写日报、周报、月度分析时从DWS取不用写复杂聚合。第四层ADS应用层/数据集市全称Application Data Service干什么面向具体业务场景的宽表直接给报表工具、BI看板、数据接口用。这一层特点字段多、表宽、面向特定人群市场部一张表、财务部一张表互不干扰。问题1为什么不能从ODS直接取数答案脏、乱、格式不统一、多源不关联问题2为什么不从DWD直接做报表答案太慢每次从几亿条明细算问题3为什么还要单独做ADS答案DWS是通用的市场部和财务部需求不同各做各的ADS互不干扰补充什么是宽表宽表把多张表里有关联的字段横向拼成一张大表。本来分散在用户表、订单表、产品表的信息全部摊在一行里。eg:假设要分析“张三昨天用手机号13800138000花了多少钱”。窄表DWD层的存法多张表各管各的用户表、手机号表、账单表三张表查一次问题要JOIN两次好处省存储、不改结构。宽表ADS层的存法一张表全有一张表字段横向铺开查任何东西不用JOIN直接SELECT...WHERE。好处查的快、不用连表——代价是字段多、有冗余每个字段值在每行都存一遍。

相关新闻

3 种营销玩法拉高服装店业绩,日进斗金服装收银系统轻松实现

3 种营销玩法拉高服装店业绩,日进斗金服装收银系统轻松实现

开服装店比拼的不只是选款眼光,更是运营营销的实力。不少店主都有类似的困扰:到店客流偏少,库存越积越重,想做促销活动又嫌流程繁琐,真正落地后效果也往往打了折扣。其实借助一套成熟的服装收银系统,多数营…

2026/7/26 22:57:53 阅读更多 →
生活不必光芒万丈,但始终温暖有光

生活不必光芒万丈,但始终温暖有光

生活不必光芒万丈,但始终温暖有光。不必追逐旁人耀眼的人生,不必因平凡日常心生焦虑。认真做好手头工作,珍惜三餐与晚风,守住内心平和细碎的温柔。纵使日子平淡琐碎,心中长存善意与期待,这份微光&#xff0…

2026/7/26 4:49:40 阅读更多 →
智能食材采购系统能自动比价吗,省多少时间?深度解析

智能食材采购系统能自动比价吗,省多少时间?深度解析

智能食材采购系统能自动比价吗,省多少时间?深度解析在餐饮连锁、中央厨房以及团餐配送等B2B行业,食材成本占营收比例常高达30%至45%。传统采购模式下,采购员每天需要对接多家供应商、核对报价单、手动比价,一个中等规模…

2026/7/25 4:11:31 阅读更多 →

最新新闻

agent面试必备48-AI Agent 核心进阶:多智能体“任务分配策略”

agent面试必备48-AI Agent 核心进阶:多智能体“任务分配策略”

🎯 AI Agent 核心进阶:多智能体“任务分配策略”全解析与面试通关指南 在搭建多智能体(Multi-Agent)系统时,如果我们已经搞定了“通信机制”,紧接着就会面临一个现实的“管理学”问题:当系统里有…

2026/7/26 22:57:58 阅读更多 →
BO-CNN-GRU混合模型在时空数据预测中的实践

BO-CNN-GRU混合模型在时空数据预测中的实践

1. 项目背景与核心价值 这个标题提到的BO-CNN-GRU模型,本质上是一种融合了三种主流机器学习技术的混合架构。我在金融时间序列预测项目中首次尝试这种组合时,模型表现比单一模型提升了近40%的预测准确率。这种架构特别适合处理具有时空双重特性的数据&am…

2026/7/26 22:57:58 阅读更多 →
深入解析EDMA同步传输与PaRAM配置:从三维模型到高效数据搬运

深入解析EDMA同步传输与PaRAM配置:从三维模型到高效数据搬运

1. 项目概述与核心价值 如果你在嵌入式开发,尤其是涉及TI的C6000系列DSP或AM系列处理器时,被EDMA(Enhanced Direct Memory Access)的同步传输和PaRAM(Parameter RAM)配置搞得一头雾水,那这篇文章…

2026/7/26 22:57:58 阅读更多 →
网安人职场突围,利用技术文档与面试题集打破 35 岁危机

网安人职场突围,利用技术文档与面试题集打破 35 岁危机

破局之道:从“单点依赖”到“多维生态”入行网络安全快十年,身边的同事换了一茬又一茬。有人转了管理,有人去了国企求稳,也有人彻底转行。不得不承认,"35 岁危机”在技术圈并非空穴来风。技术迭代的速度远超我们的…

2026/7/26 22:57:58 阅读更多 →
HarmonyOS应用《玄象》开发实战:RenderingContextSettings(true) 抗锯齿对 Canvas 渲染的影响

HarmonyOS应用《玄象》开发实战:RenderingContextSettings(true) 抗锯齿对 Canvas 渲染的影响

阅读时长:约 18 分钟 | 难度:★★★★☆ | 篇章:第 2 篇 启动体验:Splash 与动画 对应源码:entry/src/main/ets/pages/SplashPage.ets 前言 在 HarmonyOS Canvas 绘制中,抗锯齿(Antialias…

2026/7/26 22:56:57 阅读更多 →
HarmonyOS应用《玄象》开发实战:装卦(世应/六亲/六神)算法的 ArkTS 实现

HarmonyOS应用《玄象》开发实战:装卦(世应/六亲/六神)算法的 ArkTS 实现

阅读时长:约 20 分钟 | 难度:★★★★★ | 篇章:第 5 篇 周易易学模块 对应源码:entry/src/main/ets/common/utils/HexagramData.ets、pages/yijing/CastDivinationPage.ets 前言 传统起卦之后,还需要"装卦…

2026/7/26 22:56:57 阅读更多 →

日新闻

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 数据集6000张 完整源码已标注数据集训练好的模型环境配置教程程序运行说明文档,可以直接使用!系统支持图片、视频、摄像头等多种方式检测裂缝,功能强大实用。 1数据集6000张 8各类别

2026/7/26 0:00:31 阅读更多 →
深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

pubg数据集 精选原图1.42万数据 1.49万标签 无任何重复、算法增强或冗余图像! pubg绝地求生目标检测数据集 1分类:e_body,14905个标签,txt格式 共计14244张图,99%为640*640尺寸图像 适合yolo目标检测、AI训练关键词&am…

2026/7/26 0:00:31 阅读更多 →
Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex检测数据集数据集详情检测类别: allies enemy tag图片总量:7247张训练集:5139张验证集:1425张测试集:683张标注状态:全部已标注,即拿即用数据格式:支持YOLO格式及其他格式&#…

2026/7/26 0:00:31 阅读更多 →

周新闻

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 数据集6000张 完整源码已标注数据集训练好的模型环境配置教程程序运行说明文档,可以直接使用!系统支持图片、视频、摄像头等多种方式检测裂缝,功能强大实用。 1数据集6000张 8各类别

2026/7/26 0:00:31 阅读更多 →
深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

pubg数据集 精选原图1.42万数据 1.49万标签 无任何重复、算法增强或冗余图像! pubg绝地求生目标检测数据集 1分类:e_body,14905个标签,txt格式 共计14244张图,99%为640*640尺寸图像 适合yolo目标检测、AI训练关键词&am…

2026/7/26 0:00:31 阅读更多 →
Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex检测数据集数据集详情检测类别: allies enemy tag图片总量:7247张训练集:5139张验证集:1425张测试集:683张标注状态:全部已标注,即拿即用数据格式:支持YOLO格式及其他格式&#…

2026/7/26 0:00:31 阅读更多 →

月新闻