基于Flink电商实时数据仓库系统的设计与实现

来源 :华东师范大学 | 被引量 : 0次 | 上传用户:simon_sx
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
目前智能手机随处可见,各种年龄段的人群都可以在网络上随心所欲的购买商品。巨量电商数据的存储及分析成为了人们普遍关注的话题。在大批量数据的计算场景中,时效性低的离线数据仓库是大多数业务的首要选择。企业需要依靠最近发生的事件迅速决策时,离线数据仓库就无法满足要求,比如金融系统中距离预测点越近的股票成交价格往往会影响投资者的决策,电商系统中可以根据商品的销售情况赠送优惠券促进消费,或根据用户下单的高频关键词推送相近产品给用户,需要根据当前商品的销售情况动态调整,这些问题都具有时效性。各大互联网公司的离线数据仓库已经成熟,搭建实时数据仓库可以促进用户消费,提高营收。各行各业都在通过实时数据仓库加快抢占巨大的经济市场,各大互联网公司实时数据仓库的落地并产生巨大收益也表明搭建实时数据仓库分析、发现数据的潜在价值是有必要而且可行的。因此开发实时数据仓库系统是很有必要的,一方面在异常事件发生时可以被开发人员迅速处理,为公司决策层提供数据支撑,减少企业面临的损失,另一方面可以和离线数据仓库结合起来排查问题。本文分析了数据仓库技术中处理引擎的演进历程,针对Map Reduce、Spark Streaming和Flink三大主流框架多方面对比,最终使用Flink作为搭建实时数据仓库的处理引擎。本文的具体工作如下:(1)根据数据仓库的分层策略,将实时数据仓库自底向上分为ODS、DWD、DWM和DWS层,每层的数据粒度由小变大,开发了通用的DWM中间层数据表,能够极大的减少重复计算。顶层计算时复用底层的数据,提高了计算效率,而且在寻找和使用数据时方便定位数据表所在的分层。(2)设计了基于Flink的实时数据处理系统,通过消费Kafka消息队列中的埋点和业务交易数据,对电商数据进行清洗、实时ETL处理,最后将数据的处理结果写入外部容器,为数据分析人员提供数据支撑。(3)计算了电商实时数据仓库的关键指标,对于初入市场的电商公司来说,网站的实时活跃用户数、留存率、GMV等是衡量电商网站普及程度和运营情况的重要指标。本文通过Springboot接口查询DWS层Clickhouse数据库,通过可视化工具将指标数据渲染成图表后进行可视化展示,方便数据分析人员查看电商系统的运行情况,并通过指标排查异常和竞品分析。在电商系统的业务配置表中新增业务线或对原有的业务线变更时,会导致和现有数据处理的逻辑不匹配,因此需要修改底层代码的业务逻辑,开发成本较高。为达到在业务线变更时通过追踪业务表的变化情况实时更新数据仓库的业务线处理策略,更新数据仓库底层数据的处理逻辑,本文使用Flink CDC监控业务表的二进制binlog日志,将解析后的业务表变更数据根据业务配置表的数据项处理并保存至外部容器。
其他文献
<正>分层教学在我国基础教育中早就被提出,其背景就是不同层次的学生在学习的过程当中,无论是认知能力、思维能力,还是学习结果,都表现出明显的差异性。因此人们常常根据学生的学习过程和结果(更多的是结果)去对学生进行分层,所分的层次往往也就是拔尖生、固基生、潜力生。相应的,面向不同层次的学生采用不同的教学策略,就是每一个学科教师的基本教学思路。经过多年的实践,分层教学的理念已经为教师所接受,在具体分层教
期刊
本实验教材给出的实验材料是橡皮泥等,橡皮泥作实验材料存在诸多问题。笔者从教师使用、学生使用两个角度,用扭扭棒、彩色吸管、磁性纽扣等作实验材料对实验进行了改进,并分析了新方案的优势。
巧妙地利用高阶导数,给出了求一阶非齐次线性微分方程的特解的新方法.
通过综合实践活动开展数学教学是数学教育的一个重要渠道,越来越多的教师发现让学生“做数学”不如让学生“做中学”。本文就以小学数学中高年级为主,以综合实践活动课为例,阐述综合实践课的特点,以及开展以激发学生数学思维、培养数学核心素养为主要目的的综合实践活动课的探索。
在新工科建设及工程专业认证要求下,地方应用型本科工科类专业教师工程实践较少、团队意识差,学校聘用及评价教师制度简单等。经系统分析提出从4个方面解决:地方权威部门、学校、学院三层面相结合,院系教师队伍分层分类培养,建设兼职师资资源库及推进校企合作培训班,提高团队意识,形成一支工程经历丰富、工程能力强、教学水平高、综合素质好的工科专兼职教师队伍。
目的 评价成都市某新冠肺炎疫源地终末消毒过程及消毒效果。方法 对成都市某疫源地终末消毒使用消毒剂种类、用量、消毒顺序、消毒时间和对不同物品的消毒处理方式等进行评价,采用自然沉降法、金黄色葡萄球菌载体和大肠埃希菌载体布点分别对空气和物体表面消毒效果进行采样检测。结果 此次终末消毒的消毒剂种类、剂量、作用时间、消毒方式选择合理,终末消毒后空气自然菌平均菌落数≤4 cfu/(皿·15 min),终末消毒
培养学生热爱劳动的优秀品质是我们在小学教育阶段的重要教学内容之一,小学生是否有劳动热情,是决定我们培养其热爱劳动品质的重要基础。除了在日常的思想品德教育中强化学生相关方面的理解,我们也应重视音乐对于学生劳动热情的提升作用。音乐是艺术的高等级表现形式,其对于人的影响是巨大的,我们的音乐教学工作不能局限在课堂教学之中,同时音乐教学的作用也不能局限于提升学生的艺术欣赏能力,我们应该重视小学音乐教学的多样
面对“偏离班级行为规范、偏离整体学习进度、偏离常规相处方式”的“特殊”学生,教师应从看到“问题学生”或学生“问题行为”的视角转变为看到“问题中的学生”的视角,促使他们生发出力量和能力,应对成长中的问题。
针对室内通信系统,设计了一款具有360°方位角连续扫描特性的圆形阵列天线。圆形阵列天线由8个端射单极子八木天线阵元按旋转对称方式构成,每个天线阵元包含一个激励单极子、一个反射器和四个引向器。采用同幅同相激励时,阵列天线可以工作于全向辐射模式;采用扩展最大功率传输效率法计算的最佳激励分布时,阵列天线工作于定向辐射模式。仿真和实验结果表明,阵列天线工作于全向辐射模式的平均增益为3.78dBi, 增益波
球面阵列天线具有半空间乃至全空间波束覆盖能力,因而受到广泛关注。但是,球面阵列天线的结构形式比其他天线阵面更加复杂,天线阵面的切块分割更加困难,给天线阵面的布局、阵面骨架的架构、天线子阵的划分以及天线单元的结构设计等带来了很大挑战。文中从球面阵列天线结构设计需求出发,提出了一种新的天线阵面结构布局方案,并给出了阵面骨架、天线子阵、天线单元等的设计思路。通过对阵面骨架进行有限元力学仿真,初步验证了球