面向大数据的分布式存储系统元数据管理技术研究

来源 :战略支援部队信息工程大学 | 被引量 : 1次 | 上传用户:skywateren
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着信息技术的迅猛发展,数据呈现指数式的爆发增长,分布式存储系统应运得到飞速发展,随之而来的存储系统中的性能和安全问题也受到学术界和产业界的广泛关注。Hadoop Distributed File Syetem(HDFS)采用主从架构,作为Google File System(GFS)的一种开源实现,成为目前最受欢迎的一种分布式存储框架。然而,在当前的HDFS框架中,单一的NameNode节点已经无法满足日益增长的数据需求,虽然HDFS对其进行了相应的改进,但未能考虑元数据服务器作为NameNode节点负载均衡的问题。并且,当前的HDFS架构无法应对当前日益严重的数据泄露等安全问题。而拟态防御作为一种新的防御手段,可以有效地改变当前的网络安全格局,已经广泛的应用于各个方面,并得到了实际验证,因此,在当前的HDFS架构应用拟态防御的思想进行拟态化的改造具有十分重要的学术研究意义和实际应用价值。本文依托国家863计划课题“网络空间主动防御体系战略研究(续)”和上海市信息化发展专项资金项目,围绕面向大数据的分布式存储系统元数据管理技术研究,针对当前的HDFS架构存在的性能、安全等问题,结合Nginx反向代理的技术,对HDFS的架构进行了改进,针对HDFS架构中的元数据管理部分进行了代理改进,改进后的架构使得HDFS架构的性能和安全性得到了提升。主要创新点如下:1.针对当前的HDFS架构中元数据服务器不能负载均衡的问题,结合强化学习在自动决策问题上的优势,提出了一种基于强化学习的元数据动态负载均衡算法。通过在客户端和元数据服务器节点之间加入Nginx反向代理机制,利用Hsahing方法通过量化执行体之间的异构性进行元数据的初始分配,然后通过不断测量元数据服务器的各项资源利用率和延迟等信息,利用三个策略模块:策略选择机制网络,负载均衡机制网络与参数更新机制网络对元数据负载进行调整,实验表明,该负载动态均衡算法可以根据元数据服务器的性能动态的调整负载,并且在数据量突变的情况也有良好的适应性。2.针对当前HDFS架构存在的安全问题,结合拟态防御原理的DHR理念,利用Nginx反向代理技术对HDFS架构做出了调整改进,给出了实际的实现模型,得到了改进后的架构具有高安全性的验证结果。而调度环节作为拟态防御的重要环节,调度的结果直接影响了系统的性能和安全性。本文针对调度的现状提出了一种基于基于执行体异构度、性能和历史置信度的随机种子调度算法,将执行体异构性和性能作为调度的考虑因素,实验结果表明,所提出的调度算法的调度周期低于随机调度算法,但调度的执行体的异构性和性能优于随机调度算法,调度结果在安全性和性能之间达到了较好的动态平衡。3.针对拟态防御系统中关键的表决环节的任务特性,在现有算法的基础上,引入执行体间异构性作为决策因素,使表决算法能更加适用于拟态架构所面临的威胁场景。实验结果表明,与现有的一致表决算法相比,该模型能显著提高系统的安全性能,有效抑制共模逃逸的风险。
其他文献
目的 通过全外显子组基因测序技术(Whole-exome sequencing,WES)对特发性全面性癫痫(Idiopathic generalized epilepsy,IGE)患者进行测序,筛选出其中具有CACNA1H基因突变伴或
由于GMT具有材料密度低.成型周期短、冲击韧性好以及可再生利用和贮存期长等显著的优点,被广泛推广应用。
以查干湖监测数据为例,对其进行模糊综合评价.分别利用主成分分析法、污染超标赋权法和层次分析法确定权重,并对不同赋权方法得出的权重值与评价等级进行比较分析.结果表明,
随着我国经济水平的日益提升,人们的生活质量也愈来愈高,对于建筑企业来讲,施工时如何做到房屋建筑防渗漏成为刻不容缓的问题。从其产生原因、发生部位及技术要点3方面进行阐
<正> 新大纲规定了反三角函数和三角方程这两个课题。它是进一步学习高等数学和工程技术不可缺少的工具。但是,反三角函数概念的建立和三角方程的解的检验却是两个难点,学生
近年来,随着人们收入的增加、对美的追求,越来越多的人选择美容果酸,果酸皮肤美容具有简单、安全且对皮肤损伤小的优点,它正逐渐被医学界和大众认同、青睐;但是美容果酸也伴
风险资本作为资本市场中重要的融资中介,主要为初创的中小型企业提供融资。一个典型的风险投资周期包括风险资本的募集、投资以及风险资本的退出机制等三个阶段。本文以美国
对海巴戟种子的形态和结构进行了观察研究,并从环境温度、播种基质、物理处理等方面,探讨了其种子的萌发特性及生理.试验结果表明:海巴戟种子的萌发特性与其结构特点有关;高温能显
旋转可变差动变压器式角位移传感器(RVDT)具有高灵敏度、高重复性、高可靠性等特点,在航空电控领域中,RVDT应用的范围越来越广泛,且功能越来越强大。基于RVDT的工作原理,分析了
目前限制直流GIL大规模发展的一个主要原因是绝缘子表面电荷积聚严重,畸变电场从而降低了绝缘子的沿面闪络电压。而温度分布对电荷积聚影响较大,且目前的测量研究还未获得整