一种Spark平台下的作业性能评估方法

来源 :信息网络安全 | 被引量 : 0次 | 上传用户:bbcr
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
为了解决Spark作业运行过程中性能评估和性能优化问题,文章提出一种基于层次分析的Spark作业性能评估和分析方法。首先,针对由于特征选取影响传统作业类型划分准确性的问题,文章选取更加真实的CPU、I/O特征,并结合K-Means聚类算法构建作业分类器,提升划分准确率;其次,文章通过消除作业运行过程中数据排序、磁盘溢写、文件合并等操作来优化作业工作流,并将优化后的作业性能指标作为评估基准,使得作业运行性能评估更具客观性和通用性;然后,对各性能指标进行量化、分层,利用层次分析法计算各层级间专家经验的指标权重,结合作业分类器和评估基准构建性能评估模型;最后,在作业类型划分、工作流优化方法和性能评估3方面进行实验验证。实验结果证明了文章提出的作业类型划分和工作流优化方法的有效性以及评估模型的准确性。
其他文献
<正>现藏于台北故宫博物院的《祭侄文稿》书帖,是唐代名臣、著名书法家颜真卿传世名作,在中国书法史和艺术史上具有非常重要的地位和意义,被誉为“天下第二行书”。一、《祭侄文稿》书帖形制和内容《祭侄文稿》全称为《祭侄赠赞善大夫季明文》,是颜真卿于唐乾元元年(758)创作的行书纸本书法作品,共23行、234字,文稿内容为:“维乾元元年,岁次戊戌九月庚午朔三日壬申,
期刊
目的:探讨如何利用2019版Bosniak分级系统,根据MSCT影像诊断结果制定复杂性肾囊性病变的治疗策略。方法:由两位影像科医生根据2019版Bosniak分级系统,独立对MSCT诊断为复杂肾囊性病变的140例患者的图像进行再次评级,并分析其与术后病理良恶性的关联。结果:将不适用于分级的3例病例排除后,137例复杂性肾囊性病变中术后病理为恶性病变者69例(50.3%),良性病变者68例(49.7
本文介绍了如何利用Excel函数将考勤打卡记录制作成考勤表的过程,利用信息化提高工作效率。
书法艺术是中国的传统艺术,具有艺术的一切特性。以情感人,是所有艺术散发魅力的地方。好的书法创作是书家情感的宣泄,而情感也支撑着书法作品的脊梁,撑起书法作品的血与肉,为书法艺术注入灵魂。本文就以颜真卿《祭侄文稿》为例,对《祭侄文稿》进行技法分析和帖文分析,来剖析情感在书法创作中的重要性,并希望由此得到启发,对我们以后的书法创作起到帮助作用。
短跑运动员的速度耐力水平是影响其运动表现的关键因素。本文通过文献资料、专家访谈、跟踪调查和数理统计等方法,重新认识了无氧糖酵解耐力对短跑运动表现的影响,厘清了无氧糖酵解耐力训练的生理基础,并在此基础上,结合短跑运动的专项特征,讨论了短跑运动员速度耐力训练相关训练变量的理想范围;从训练兼容性和训练序列的视角,探讨了短跑运动员速度耐力训练课构建应遵循的基本原则;根据不同阶段的训练目标和任务,分析了短跑
客户资源是银行经营发展过程中最重要的基本来源,也是银行利润的重要来源,客户资源的竞争成为银行也最主要的竞争方向。自党的十九大报告中提出乡村振兴战略,支持“新三农“事业发展成为银行业发展方向的主要导向。服务乡村振兴,就是服务“新三农”客户,为“新三农”客户提供金融产品和金融服务。研究银行客户关系管理,对服务乡村振兴下的客户关系管理起着重要作用。本文以乡村振兴战略为背景,以国有政策性银行X银行HJ支行
<正>摘要 2019年更新了囊性肾肿块的Bosniak分类系统,其与2005年版本相比,在一定程度上是为了提高一致性。目的比较和研究2019版和2005版的Bosniak分类在CT和
期刊
癫痫是神经系统第二大疾病,癫痫患者在病程中往往伴随着多种共患病,认知功能障碍是最常见的癫痫共患病之一。共患认知障碍严重影响癫痫患者的工作、学习,降低患者的生活质量,增加疾病负担。目前癫痫共患认知障碍的发病机制尚不十分清楚,本文就可能的机制对目前的研究进行综述,为临床干预癫痫共患认知障碍提供一定的依据。
<正>一、工程概况凤阳县天河电力排灌站位于凤阳县西北部西泉镇,系引提天河湖水进行农田灌溉的二级电力灌溉站。该站1989—1991年在原地方自建的柴油机灌溉站基础上进行改建,设计灌溉面积6万亩。担负西泉、刘府两镇12个行政村农田灌溉任务,设计灌溉保证率80%,总装机9台套,总装机容量1115kW,其中一级站装机4台套,装机容量720kW,二级站装机5台套,装机容量395kW。泵站工程等别为Ⅲ等,规模
期刊
在商业银行发展的历程中,良好的客户经营管理对于商业银行的持续经营有着至关重要的作用。商业银行在对公客户领域发展的过程中,对公客户经理制是为满足市场与客户需求的变化,而产生的一种营销导向制度安排。为满足各项工作顺利开展的需要,各商业银行应出台相关实效措施,对客户经理管理体系进行完善。本文首先分析商业银行客户经理应具备的基本素养,针对具体工作当中存在的不足提出实效性解决措施,推动我国商业银行向着更好的