热门文章> 数据仓库有哪五层架构? >

数据仓库有哪五层架构?

36氪企服点评小编
2021-08-09 17:19
1149次阅读

       数据仓库,英文名为DataWarehouse,可以简称为DW或DWH。数据仓库,是为企业各级决策制定过程,提供各种类型的资料支持的战略集合。这是为了分析报告和决策支持而创建的单一数据存储。为需要业务智能的企业提供改进、监控时间、成本、质量和控制的指导。了解了数据仓库的定义之后,小编和大家一起看看数据仓库有哪五层架构,希望对你有所帮助。

数据仓库有哪五层架构?数据仓库有哪五层架构

1. ODS 数据准备层

功能:ODS层是数据仓库准备区,为DWD层提供基础原始数据,可减少对业务系统的影响

建模方式及原则:从业务系统增量抽取、保留时间由业务需求决定、可分表进行周期存储、数据不做清洗转换与业务系统数据模型保持一致、按主题逻辑划分

2. DWD 数据明细层

功能:为DW层提供来源明细数据,提供业务系统细节数据的长期沉淀,为未来分析类需求的扩展提供历史数据支撑

建模方式及原则:数据模型与ODS层一致,不做清晰转换处理、为支持数据重跑可额外增加数据业务日期字段、可按年月日进行分表、用增量ODS层数据和前一天DWD相关表进行merge处理

3. DW(B/S) 数据汇总层

功能:

为DW、ST层提供细粒度数据,细化成DWB合DWS;

DWB是根据DWD明细数据经行清晰转换,如维度转代理键、身份证清洗、会员注册来源清晰、字段合并、空值处理、脏数据处理、IP清晰转换、账号余额清洗、资金来源清洗等;

DWS是根据DWB层数据按各个维度ID进行粗粒度汇总聚合,如按交易来源,交易类型进行汇合

建模方式及原则:

聚合、汇总增加派生事实;

关联其它主题的事实表,DW层可能会跨主题域;

DWB保持低粒度汇总加工数据,DWS保持高粒度汇总数据;

数据模型可能采用反范式设计,合并信息等。

4. DM 数据集市层

功能:

可以是一些宽表,是根据DW层数据按照各种维度或多种维度组合把需要查询的一些事实字段进行汇总统计并作为单独的列进行存储;

满足一些特定查询、数据挖掘应用;

应用集市数据存储

建模方式及原则:

尽量减少数据访问时计算,优化检索;

维度建模,星型模型;

事实拉宽,度量预先计算;

分表存储

5. ST 数据应用层

功能:

ST层面向用户应用和分析需求,包括前端报表、分析图表、KPI、仪表盘、OLAP、专题等分析,面向最终结果用户;

适合作OLAP、报表模型,如ROLAP,MOLAP;

根据DW层经过聚合汇总统计后的粗粒度事实表

建模方式及原则:

保持数据量小;

维度建模,星形模型;

各位维度代理键+度量;

增加数据业务日期字段,支持数据重跑;

不分表存储

        其实,数据仓库本身既不生产数据也不消费数据,只是作为中间平台集成存储数据;数据仓库实现的难度在于整体结构的构建和ETL的设计,这也是日常管理和维护的重点;数据仓库的真正价值体现在它的数据应用上,没有有效的数据应用就失去了建立数据仓库的意义。以上就是数据仓库有哪五层架构的全部内容,希望对你有所帮助。

[免责声明]

文章标题: 数据仓库有哪五层架构?

文章内容为网站编辑整理发布,仅供学习与参考,不代表本网站赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请及时沟通。发送邮件至36dianping@36kr.com,我们会在3个工作日内处理。

相关文章
最新文章
查看更多
关注 36氪企服点评 公众号
打开微信扫一扫
为您推送企服点评最新内容
消息通知
咨询入驻
商务合作