面向电信数据的分布式节点任务调度及负载均衡设计与实现

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:zhuzhuzhuxi
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着电信网络的数据和语音业务量不断增长,电信运营商需要对海量的网元数据进行收集处理、计算分析。数据规模庞大,单台服务器处理能力已经远远满足不了人们对计算速度的要求。针对电信网元数据处理这一应用,我们设计实现了基于分布式计算的DVCP(Distributed Virtual Computing Platform)系统。本文主要针对DVCP系统中任务在分布式计算节点CU(Compute Unit)间的调度及负载均衡展开研究。该系统将网元数据的采集、汇总等计算处理任务进行拆分,通过分割任务,在多个分布式计算节点中并行处理,提高计算效率。通过对任务的管理调度及跟踪,提高系统容错性,故障可恢复性。设计实现一个易实施的负载均衡策略,解决在海量分布式电信数据处理中存在各个计算节点负载不均衡的问题。本文主要做了如下工作:第一,DVCP基础架构设计。对现有的分布式计算技术进行了前期研究和介绍。通过参考对比,提出了中心控制节点与计算资源池组成的DVCP基本架构框架,该框架结构即满足了分布式计算的要求,又避免纯分布式系统所带来的不可靠性、可控性不高、一致性等问题。第二,系统任务调度与其在系统各个计算节点间的负载均衡策略的设计实现。该系统将每个大型数据处理计算问题,分解为小任务后,分发到各个计算节点中并行处理,以提高并行度。而针对任务负载均衡问题,传统负载均衡,一般让主控节点来进行任务调度和负载均衡管理,以决定哪个计算节点应执行该任务。而本系统主要依靠计算节点CU自身来实现。计算节点根据自身情况主动获取任务,分摊主控节点在任务调度及负载均衡控制上的压力以及减少其造成的瓶颈。第三,DVCP中分布式计算节点这一重要子系统的设计与实现。计算节点在架构上采取主控进程与工作进程结合的架构,分离控制与业务。网络部分采用基于Epoll的单线程服务框架,实现高效的网络IO机制。具体任务通过专门的中间任务调度模块异步放入线程池中处理,极大提高了系统处理能力和资源利用率。针对网元数据采集等业务的功能测试,负载均衡性能测试,验证该系统能够满足电信网元数据相关业务的并行处理能力,同时能够达到较为理想的负载均衡。
其他文献
在三维图形领域,主要包括三维场景建模,三维场景Render和三维场景编辑三方面。特别是在三维场景Render和三维场景编辑方面,实时性、系统性和交互性还存在很大的不足。 基于上
Internet网络的兴起推动了整个世界信息产业的飞速发展,但同时也给网络服务的提供者(ISP)们提出了一个无法回避的问题,即如何保证远程访问的网络安全。 远程访问控制的安全包
该文从流媒体技术的特点出发,研究了流媒体服务器在数据存储、数据I/O、缓冲区管理、访问调度等方面的设计要求;并通过分析目前流行的流媒体服务器的体系结构,总结出了的几种
由于NP难解问题的结构难以被解析的了解,人们常常在算法中引入随机化技术,许多求解NP难解问题的算法都可以看作是随机算法.一般的说,随机算法就是指计算过程受到随机数影响的
并行程序设计环境提供了将自动化编译技术和用户干预相结合的一种手段.在并行程序设计环境中,为了使用户方便而有效地识别串行程序的潜在并行性,我们设计了基于并行编译系统
该文提出了三种基于数据分割的关联规则采掘算法:算法PA、算法RP和算法IMA,这三种算法的思想不同,解决问题的方式方法不同,它们分别适用于不同的采掘任务.由于引入数据分割的
该文主要对基于FIPA规范的多Agent系统软件体系结构进行了研究,并针对其中存在缺陷,提出了改进的体系结构.
近年来,随着计算机技术的飞速发展,互联网已经从各方面影响着人们的工作和生活。为了更好的使用互联网资源,搜索引擎应运而生。但是传统的通用搜索引擎存在着网络覆盖率低、
该文依据计算机网络技术理论,以TCP/IP协议为基础,包过滤技术为核心,讨论了在Windows系列平台下,采用网络监听技术,在链路层捕获数据包的可能性和协议无关性的实现方法.以Win
该论文综合分析了VPN中的各种关键技术,并着重介绍了VPN技术中占有重要地位的两个协议:L2TP和IPSec.论文中还提出了一些VPN技术中尚待解决的问题尤其是如何把VPN技术与IP QoS