阅读 16 SEO

【知识】数仓的技术框架和意义

一、数仓的意义

  1. 为什么要有数据仓库
    说起数据仓库存在的意义就必须得说企业面临的数据问题。

     结构复杂
     数据脏乱
     理解困难
     缺少历史
     总结一句话就是:多源异构、脏乱差的数据现象。
    
    
  2. 数据仓库的价值体现

     效果
     诊断
     预警
    
    

二、数据体系

  1. 数据体系构成


    在这里插入图片描述
  2. 常见技术架构
    偏离线:适用于业务初期,迅速形成数仓雏形,快速交付满足业务


    在这里插入图片描述

    离线+实时:适合业务中后期,形成扩展性极强的技术架构


    在这里插入图片描述

    偏实时:适合特殊业务,例如:广告、风控

三、数仓分层

  1. 数仓分层&主题
    数据缓冲层:数据暂存区,只保留每天的增量数据
    数据明细层:全量数据区,采用全量表、快照表、拉链表等保存全量数据,并做基础数据的归一化处理和模型的拆解、合并,多采用ER建模
    数据衍生层:数据聚合区,多用于轻度汇总以及衍生计算,产出标准化数据,屏蔽上游业务变更对下游的影响。
    数据集市层:数据集成区,基于角色+场景构建场景化数据模型。
    数据应用层:数据交付区,提供数据服务以及数据产品的数据。

  2. 建模流派的对比

    ER模型
    规范性较好,冗余小,数据集成和数据一致性方面得到重视,适用于较为大型的企业级数据规划,但缺点是业务形态需要较为稳定,且需要全面了解企业业务、数据和关系,对于建模人员要求很高,实施周期非常长。具有代表性的就是TD的FS-LDM模型。

    维度建模
    相对能快速上手,快速交付,但缺点是冗余会较多。具有普适性,适合业务形态不太稳定的阶段。

  3. 数据管理的挑战

    命名规范&口径管理
    命名规范
    词根的设计,主谓宾、定状补
    表命名
    字段命名
    
    

    3.1口径管理
    新客数:交易新客、流量新客

    规范口径定义流程
    记录常规口径
    口径增删改的检测机制(语义分析)
    推广口径
    
    

    3.2 数据质量

    质量监控大盘
    
    事前
    规范
    测试
    事后
    数据监控
    异常值
    指标
    同环比
    方差、标准差
    时间序列
    

作者:笔名辉哥

原文链接:https://www.jianshu.com/p/c99d8c1fd229

文章分类
后端
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 gxwowoo@163.com 举报,一经查实,本站将立刻删除。
相关推荐