【摘 要】
:
目前,批流融合数据处理是大数据领域研究和应用的热点,批流融合数据处理涉及的批式大数据处理、流式大数据处理及批流混合处理等内容都对运行支撑环境提出了更高、更复杂的需求。而传统的数据支撑环境主要是基于物理服务器和云服务器来实现对数据处理引擎工具的整合和使用。其在部署的敏捷性、资源利用的高效性和服务状态的实时性等方面有较大的资源开销。批流融合的数据处理要求更加剧了上述问题
论文部分内容阅读
目前,批流融合数据处理是大数据领域研究和应用的热点,批流融合数据处理涉及的批式大数据处理、流式大数据处理及批流混合处理等内容都对运行支撑环境提出了更高、更复杂的需求。而传统的数据支撑环境主要是基于物理服务器和云服务器来实现对数据处理引擎工具的整合和使用。其在部署的敏捷性、资源利用的高效性和服务状态的实时性等方面有较大的资源开销。批流融合的数据处理要求更加剧了上述问题的发生。传统的大数据处理支撑环境已经不能有效地应对数据处理的要求。容器化技术作为近几年新兴的轻量级虚拟化技术,为实验和开发人员构建分布式应用提供了新的渠道。而容器化技术在快速革新的过程中也对批流数据处理服务提供了很好的支持。不过,大数据容器化服务在容器跨主机通信、容器调度等方面还有些许不足,在构建数据处理支撑环境方面还有诸多挑战。本文利用虚拟化容器作为批流数据处理支撑环境部署容器服务的承载平台,以Kubernetes作为基础工具使容器的管理和编排更加合理。通过前端可视化界面对开发人员需要的数据处理引擎进行部署和运维。通过批流融合数据处理支撑环境部署的容器化服务可以极大地提高服务节点的资源利用率和实验和研发人员的研发效率,并能够合理的对容器服务进行调度。针对上述问题,本文开展的主要工作如下:(1)设计了容器化的批流融合数据处理支撑环境架构。首先分析了批流融合处理应用对支撑环境的配置管理、执行环境的调整和资源负载的调整等方面的需求以及主流的批处理、流处理框架容器化后间通信和监控需求,提出了容器化的批流融合数据支撑环境分层架构以及相应的容器化服务,并重点设计了支撑环境的容器跨主机通信机制和容器状态监控机制。(2)针对批流融合数据处理服务在数据处理过程中对资源的动态需求问题,提出了批流融合数据处理支撑环境的容器资源自定义调度算法,并根据实际情况构建了规模化容器调度的约束模型以及衡量调度算法有效性的适应度模型,通过仿真实验平台CloudSim验证了调度算法在降低服务器节点CPU、内存等资源负载的有效性。保证通过支撑系统部署的容器化服务能够快速部署到相应的服务器节点。(3)基于Kubernetes实现了容器化批流融合数据处理支撑环境,重点对支撑环境的通信、监控以及调度等核心模块的实现进行了详细介绍。此外,还在物理服务器集群进行了搭建和部署,并通过实验室服务互联网、电网大数据多个相关项目进行了测试,为项目的研发、测试提供了大数据处理支撑环境。相关的应用结果表明了支撑环境在快速部署、服务状态监控以及控制服务器节点CPU、内存等资源负载情况方面具有较好的效果。
其他文献
随着计算机和网络技术的飞速发展,数字图像、音频、视频等数字产品越来越需要一种有效的版权保护方法,数字水印在技术上为保护多媒体信息和保证其安全使用提供了一种新的解决思路,已成为多媒体信息安全研究领域的一个热点。所谓数字水印技术就是将数字信息如产品序列号、文本内容、图像标志等版权信息嵌入到多媒体数据中,以起到版权保护、秘密通信、数据文件的真伪鉴别等作用。 本文主要是在小波域中对传统数字水印技术(对称
在现代软件系统的生命周期内,缺陷修复、功能增强、性能改进、需求增加,以及运行环境的改变等均要求软件系统具有较强的演化能力,否则软件将会不断地腐化,越来越难以修改,进而维护费用也会越来越高。为了提高软件演化的可信性和降低软件演化的成本,许多应用场景需要对软件的演化行为和演化效果实施定性或定量的评估,例如,代码不一致性修改,代码重构收益等。近年来,开源软件的数据获取更加
光热转换是一种清洁的太阳能利用技术,其中,光热蒸发是广泛涉及且非常重要的热物理过程。太阳辐射具有能流密度低和间歇性的特征,使基于体相加热的小型光热蒸发系统存在温度响应慢、能量效率低的问题。光热局域化界面蒸发(photothermalinterfacialevaporationbyheatlocalization)将能量集中在液体与空气的界面,使局部区域发生快速升温和
工作满意度的研究一直是组织心理学和管理心理学中的研究热点问题。它是构成组织的社会、心理背景的行为,它可以促进工作绩效,减少员工离职倾向,从而提高整个组织的有效性。近年来对领导者的行为风格、心理授权等方面的研究也越来越多,本文试图在现有文献的基础上,提出领导者行为风格和心理授权对员工工作满意度影响的研究假设
现代科技馆与经典的博物馆一样,在展览设计中都是以人为中心。无论是陈列形式、展览环境、还是展品的设计,都应以人为本,科学和艺术相融合,适应人的生活规律。如何使观众在参观的过程中,把疲劳减少到最小程度,是展览(展品)设计中必需考虑的问题。人体工程学又叫人类工学或人类工程学,是第二次世界大战后发展起来的一门新学科它是根据人体解剖学、生理学和心理学等特征,了解并掌握人的作业
目的研究EPO对MPP~ 致PC12细胞损伤保护作用中Akt/GSK-3β/Caspase-3通路的作用。方法以500μmol/L的MPP~ 损伤PC12细胞为帕金森病细胞模型,实验分组如下:空白对照组、LY294002组、LiCl组、MPP~ 组、MPP~ EPO组、MPP~ LiCl组、MPP~ EP0 LY294002组。空白对照组、LY294002组、
分类号:F590单位代码:10361?安反这工犬學论麵目:长三角城市旅游竞争力评价研宄作者姓名:黄智慧专业名称:公共管理与城市文化导师姓名:杨力教授完成时间:2021年6月10日中图分类号:F59Q论文编号:学科分类号:630密级:公开安反这X犬學?
目的1.研究猪膝关节前交叉韧带(ACL)重建后横向测量初始移植张力时的横向拉力-横向位移(F-s)曲线关系,为ACL初始移植张力的最佳测量位置提供实验依据。2.研究基于正常韧带张力的移植张力选择方案对重建ACL后的动物膝关节稳定性影响,为该方案在临床中的应用提供实验基础和理论支持。方法1.生物力学实验取经预处理后的新鲜的猪膝关节前交叉韧带标本24份,随机分为A、B、
为实现适应新时代大应急、大救援全新定位,以及健全完备中国安能集团第一工程局有限公司应急救援体系建设和应急救援能力提升的目的,根据中国安能集团第一工程局有限公司目前应急救援体系建设情况,提出了现阶段应急救援中遇到的实际问题,分析了完善应急救援体系建设与地理信息系统、北斗卫星导航系统、人工智能新技术结合应用对提升应急救援能力的重要意义,论证了地理信息系统、北斗卫星导航系
修正后的刑事诉讼法对人身伤害案件的重新鉴定制度进行了较大幅度的修改,完善了证据制度,从诉讼程序的各个环节上进一步加强了保障犯罪嫌疑人、被告人依法行使诉讼权利的措施,以保证刑事诉讼程序的顺利进行。但《刑事诉讼法》对重新鉴定规定仍然存在原则性强而可操作性欠缺的问题,在实践中产生诸多亟待解决的问题。笔