可伸缩服务器集群的研究与实现

可伸缩服务器集群的研究与实现

刘健[1]2002年在《可伸缩服务器集群的研究与实现》文中认为服务器集群是一组高性能网络连接起来的独立的服务器的集合。它们能够协同工作,共同处理INTERNET上日益增长的客户请求。它具有良好的可用性、可伸缩性以及优秀的性能价格比,是当前服务器技术的热点。本文阐述了目前服务器技术的发展方向、服务器集群的背景以及目前应用的需求,服务器技术的发展水平和可伸缩技术的一些概念和原则。同时也对集群系统的概念,分类,和负载均衡机制做了简单介绍。在本文中,作者提出了一个可伸缩服务器集群原型系统的设计方案,详细讲述了设计思想,分析了设计过程中的操作系统选择和具体模块的实现方法等,并且针对服务器集群在实现过程中的使用到的一些关键技术,提出了作者自己研究的TCP/IP报文Checksum增量算法、双调度器检测、服务结点监测模型、负载均衡算法等。最后讨论了增强服务器集群安全性的方法,介绍了几种DoS防御策略以及防火墙的设置方法。同时,对可伸缩服务器集群今后的发展方向提出了作者自己的看法。

章文嵩[2]2000年在《可伸缩网络服务的研究与实现》文中进行了进一步梳理人类社会正在进入以网络为中心的信息时代,人们需要更快捷、更可靠、功能更丰富的网络服务。万维网的流行促进互联网使用的指数级增长,现在很多站点收到前所未有的访问负载,经常担心系统如何被扩展来满足不断增长的性能需求,同时系统如何保持24x7的可用性。未来的应用将需要更高的吞吐率、更好的交互性、更高的安全性,这要求服务平台具有更强的处理能力和更高的可用性。所以,如何给出合理的框架和有效的设计方法,来建立高性能、高可伸缩、高可用的网络服务,这是摆在研究者面前极富挑战性的任务。本文研究的可伸缩网络服务便是围绕这一任务展开的。 首先,在分析现在和将来网络服务需求的基础上,本文提出基于集群的可伸缩网络服务体系结构Linux Virtual Server,分为负载调度器、服务器池和后端存储叁层结构。负载调度器采用IP负载均衡技术和基于内容请求分发技术。LVS集群提供了负载平衡、可伸缩性和高可用性,可以应用于建立很多可伸缩网络服务。进而,提出地理分布的LVS集群系统,可节约网络带宽,改善网络服务质量,具有良好的抗灾害性。 在IP负载均衡技术上,针对网络服务非对称性的特点,为克服VS/NAT伸缩能力差的缺点,本文提出通过IP隧道和直接路由实现虚拟服务器的两种方法VS/TUN和VS/DR,极大地提高了系统的伸缩性。在负载调度研究中,针对请求的服务时间变化大,本文提出一个动态反馈负载均衡算法,结合内核中的加权连接调度算法,根据动态反馈回来的负载信息来调整服务器的权值,从而有效地解决服务器间的负载不平衡。我们在Linux内核中高效地实现了IP虚拟服务器软件,支持叁种IP负载均衡技术和五种连接调度算法。 在对已有基于内容请求分发(Layer-7交换)的方法进行分析基础上,本文提出在操作系统中利用内核线程高效地实现基于内容请求分发的解决方法,避免多次内核与用户空间的切换和内存复制开销。并提出基于局部性最小连接(LBLC)调度算法,在服务器间负载基本平衡情况下,提高单个服务器的访问局部性。该算法可提高后端服务器的主存Cache命中率,从而提高了整个集群系统的性能。针对高并发度的需求,我们引入多线程事件驱动的服务器结构,在Linux内核中高效地实现了内核Layer-7交换机KTCPVS。实际的性能测试表明内核Layer-7交换方法有更高的吞吐率。 结合IPVS的IP负载均衡技术和KTCPVS的基于内容请求分发技术,本文设计和实现了大规模基于内容请求分发的系统。一个VS/DR或VS/TUN调度器作为系统的单一入口点,将请求分发给一组KTCPVS分发器,KTCPVS分发器通过使用中心的内容位置服务,确定处理该请求的后端服务器,再将该请求分发到后端服务器;并提出基于局部性的最小负载(LBLL)调度算法。进而,将该体系结构应用大规模Cache集群系统中,提出面向Cache应用的LBLL算法。算法通过基于内国防科学技术大学研究生院学位论文容请求分发可提高单个Cache服务器上请求的局部性;KTCPVS分发器将不可Cache的对象请求跳过CaChe服务器,直接发给源服务器,这样可以缩短处理时间,同时可以提高Cache服务器的使用效率;算法还保证Cache服务器在正常负载下工作。 在以上工作基础上,我们提供了一个1万S框架(F~ework),包括含有叁种IP负载均衡技术的IP虚拟服务器软件、基于内容请求分发的KTCPVS软件和相应的集群管理软件。利用LVS框架可以高效地实现高可伸缩的、高可用的V触b、CaChe、Mail和Media等网络服务,进而开发支持庞大用户数的、高可靠的电子商务应用。LVS框架己在世界各地得到很好的实际应用,如Red Hat集群服务器软件、VAL~集群解决方案、英国国家JANET Cache网、Linux门户站点、real.com网站等。

买京京[3]2008年在《Web服务器集群负载均衡技术研究》文中指出随着计算机技术和Internet的飞速发展,人们对web服务器的性能的要求也越来越高,负载均衡集群以其较高的性价比和良好的扩展性在web服务器中得到了广泛的应用。因此如何更好的提高集群服务器的综合处理能力便受到了更多的关注。集群的负载均衡策略是提高集群整体性能的关键,其目的是根据处理机的性能来将任务合理的分配到后面的真实服务节点上,使各节点均衡的分担任务来最小化应用程序的执行时间,从而达到提高性能和服务质量。集群设计中的负载均衡算法的优劣将直接影响集群的性能。动态反馈是基于服务器的实时负载和响应情况,不断调整服务器间请求的比例,来避免有些服务器在过载时仍接收大量的请求,以此来达到提高整个集群系统的处理能力。本文详细讨论了集群的主要概念和特点,并分析了目前常用的集群技术。重点研究了负载均衡集群的原理和特点,详细研究了主要的负载均衡技术和常用的负载均衡算法,并着重分析了几种常用的负载均衡算法的优缺点,并结合动态反馈技术提出了一种新的改进算法,其中重点研究了负载状态的评估和权值动态调整的方法,最后通过构造仿真集群测试环境,并和其他方法对比分析验证该方法的有效性。仿真实验表明,该方法能有效的提高集群的性能,降低系统的延迟时间,提高系统的吞吐量,提高集群的利用率。

张婷[4]2013年在《可伸缩网络服务器群研究与实现》文中指出在实际应用中,很多业务系统具有很强动态性,仅以高峰时段业务要求配置服务器资源不利于资源复用和节能环保。目前,动态扩展服务器有较成熟方案,但既支持动态扩展又支持动态缩减的高效、方便的服务器群的管理方案还比较匮乏,因此,研发可保持业务系统稳定运行的可伸缩的服务器群的部署方案和管理方法具有重要意义。本文针对网络服务器群的可伸缩性问题进行了研究、设计和实现,主要工作如下:1)根据业务系统的特点,提出了可处理多种业务需求的服务器群架构的部署方案。该架构为树形架构,包括若干个管理服务器和节点服务器。管理服务器位于树形架构的根节点或者中间节点位置,节点服务器位于叶子节点位置。2)根据本文服务器群的架构特点,提出了该服务器群架构系统的管理方案。该方案中的关键算法包括节点编码设计、管理服务器的分裂处理、节点服务器的分裂处理、管理服务器的合并处理以及节点服务器的合并处理。3)设计并实现了可伸缩网络服务器群架构系统,该系统可以在服务需求增多时分裂出更多的服务器以增强性能,在服务需求减少时可以合并到更少的服务器以节约资源,从而提高服务器的利用率,保障业务需求得到有效地处理。

朱斌[5]2017年在《基于XMPP协议的分布式通信集群的关键技术的研究及实现》文中提出随着计算机网络和通信技术的快速发展,越来越多的人通过移动互联网获取信息,大量移动设备用户进入网络,需要各类数据处理中心的服务器具备更加复杂并且越来越高的要求,能够接受合理的客户端请求并在短时间内做出应答相应,此外服务器系统必须保持高可用和可靠的特性。例如当前腾讯的微信,QQ等网络通信服务,每日都会经受巨大的通信流量。如此巨大的数据流量和复杂的传输要求,迫切需要具有快速响应能力、高可伸缩性、高可用性、易于管理的信息通信服务器来应对。在复杂的移动平台环境下,如何安全有效且快速地响应客户端的请求,充分利用后端服务器节点的资源能力,渐渐成为影响分布式通信集群架构的难点与重点。本文结合真实的基于XMPP协议的分布式通信集群环境,首先对当前的即时通讯技术、分布式通信集群技术、负载均衡技术、安全通信技术等关键技术进行了调研,发现原有的负载均衡技术在处理基于XMPP协议的通信环境下所存在的调度分配问题。负载均衡算法是实现XMPP通信服务器集群前端的负载均衡器的核心问题,及时准确地预测负载情况是实现合理调度分流的前提。本文分析了现有的负载均衡算法存在的问题,针对这些问题提出了针对于移动平台使用XMPP协议服务器端的基于分类回归树和K近邻结合的预测算法。该方法首先通过动态反馈采集服务器节点的资源信息组成时间序列,对时间序列进行预测计算。然后将服务器节点分区域管理,运用不同的调度策略。实验证明,与Nginx中的轮询和fair算法相比,该预测算法在连接响应时间上减少了 25%,在建立连接的平均速率上提升了近1.3倍,动态的调度策略使得整个服务器集群有更大的吞吐量和可伸缩性,对于移动平台具有更好的适应性。同时本文设计并实现了基于XMPP协议的分布式通信集群系统,详细介绍了系统的需求分析和设计原则,并且对于系统进行模块划分,针对各个模块进行了设计并具体实现,使用的关键技术包括了服务器集群技术、安全通信技术、数据库技术和负载均衡技术。引入的安全通信技术考虑了集群对内和对外的安全,提升了系统的可靠性;并对于负载均衡算法中的多个关键点进行了突破和改进,提升了集群系统的可用性,可伸缩性,和对请求的快速响应能力。

程伟[6]2004年在《网络服务负载均衡技术的研究与实现》文中研究说明人类社会正在进入以网络为中心的信息时代,人们需要更快捷、更可靠、功能更丰富的网络服务。万维网的流行促使互联网的使用呈指数级增长,现在很多站点收到前所未有的访问负载,人们经常担心系统应如何被扩展来满足不断增长的性能需求,同时保持系统的24x7可用性。未来的应用将需要更高的吞吐率、更好的交互性、更高的安全性,这要求服务平台具有更强的处理能力和更高的可用性。所以,如何给出合理的框架和有效的设计方法,来建立高性能、高可伸缩、高可用的网络服务,这是摆在研究者面前极富挑战性的任务。本文研究的网络服务负载均衡技术便是围绕这一任务展开的。 在分析现在和将来网络服务需求的基础上,本文提出基于集群的可伸缩网络服务体系结构FreeBSD Super Server,其为负载调度器和服务器集群的二层结构。负载调度器采用基于IP的负载均衡技术。FSS系统实现了IP单映象的访问方式、负载平衡、可伸缩性和高可用性,并可以应用于建立很多个IP映象的可伸缩网络服务。而且,FSS具有全局负载平衡的能力,可节约网络带宽,改善网络服务质量,同时易于管理且具有良好的抗灾害性。 其间,我们提出了虚拟路由技术,设计了负载评估和路由度量算法,并提出了对于网络瓶颈问题的解决方法。最后,对FSS系统进行了性能测试,其结果显示FSS系统负载分配合理、转发效率高、调度开销小,实现了线性可伸缩。

李乐平[7]2006年在《消息中间件集群服务设计与实现》文中指出消息中间件是中间件技术的发展热点,它作为一个消息系统,利用高效可靠的消息传递机制将信息以消息的形式从一个应用程序传送到另一个或多个应用程序。作为消息中间件平台的重要组成部分,消息中间件集群服务提供拓扑管理、故障监测和恢复、负载平衡和状态复制等功能,使得消息中间件系统获得高可伸缩性、高可靠性和高可用性。论文以消息中间件InforBroker为实例,详细阐述了消息中间件中集群服务的设计。首先对集群服务的有关概念进行了描述,然后介绍了消息中间件集群服务的总体结构。集群服务应用了适配器(Adapter)、解释器(Interpreter)、单件(Singleton)和策略(Strategy)等设计模式,独立于具体消息中间件的架构和实现,增强了软件的可复用性,透明地为消息中间件提供了集群支持。论文详细阐述了消息中间件集群服务的实现。通过对服务器的运行状态的周期性检测实现了集群服务的高可用性,使用双进程技术来保证系统运行的稳定性。然后讨论了集群服务中自适应的拓扑管理和负载监测,详细阐述了自适应的负载均衡,提出了负载平衡算法的可扩展框架并实现了可替换的负载平衡算法。为了提高集群服务的整体性能,论文在现有算法的基础上,对集群服务中的负载均衡算法进行了优化,提出了一种近似负载平衡算法,经测试它解决了消息中间件系统InforBroker出现的负载颠簸引起的问题。论文最后对集群服务的高可用特性和负载均衡特性进行了测试,测试结果表明论文设计的集群服务能够很好的满足消息中间件InforBroker的要求。

郝鹏[8]2007年在《基于IP的网络集群负载优化系统》文中提出随着社会的发展,网络或者说因特网(Internet)在人们的生活中的地位显得日益重要,很多人都开始把网络作为人类赖以生存的基础设施,如同水、电等。Internet的流行促进互联网使用的指数级增长,很多站点收到前所未有的访问负载,系统经常需要被扩展来满足不断增长的性能需求,同时系统需要保持24x7的可用性。未来的应用将需要更高的吞吐率、更好的交互性、更高的安全性,这要求服务平台具有更强的处理能力和更高的可用性。所以,如何给出合理的框架和有效的设计方法,来建立高性能、高可伸缩、高可用的网络服务,这是放在研究者面前极富挑战性的任务。LVS提供了一个解决上诸问题的框架,在这个框架的基础上本文实现了主动自调度负载优化系统(ASAS)。该负载优化系统继承了LVS的所有特点。ASAS实现了NAT、DR、TUN3种调度方式,9种调度算法,并对DOS攻击做了一定的处理。在3种调度方式中,着重分析了实现的机理并对比各自的优劣点。在9种算法中,包含了8种静态调度,1种动态调度,分别给出了算法的详细内容。为了达到近似最优化的负载,在动态调度算法中,使用了综合负载计算,取了计算机中的5项指标。在文中也分析了一些主动自调度负载优化系统的实现时出现的问题以及解决的办法,特别是ARP问题给出了如何利用NDIS实现特定的包过滤,并在最后给出了一个DOS攻击检测的模型。最后给出了测试的数据,从测试结果中来看可以看到动态算法的结果比静态算法要更好一些,更能够符合服务器实际的处理能力来分配负载。论文的结尾给出了可以进一步研究的内容。

洪燕[9]2005年在《基于Linux的可伸缩服务器集群的研究与设计》文中研究指明服务器集群是一组由高性能网络连接起来的独立服务器的集合。它们能够协同工作,共同处理Internet上日益增长的访问请求。它具有高性能、高可用性、可伸缩性、高性价比等特点,是当前服务器技术的研究热点。 服务器集群作为一个新兴的研究领域,有待研究的问题非常多,其关键技术包括:体系结构与请求调度方式的研究、负载均衡算法的研究、高可用性与容错技术的研究、服务器集群系统的性能分析、服务器集群的监测管理,以及全局文件系统的研究。本文的研究工作主要是围绕前两项关键技术展开的。 本文首先分析了网络信息服务的需求及其发展趋势;然后对服务器集群系统的已有体系结构进行了比较分析,并分析了已有结构中请求调度的固有特点;接下来针对LAN和WAN环境的差异,分别设计了两种不同的体系结构,并且在LAN环境下实现了一个代理服务器集群系统;接着对负载均衡算法的理论进行了研究,并在此基础之上本着简单高效的原则设计了一个新的动态负载均衡算法;最后对本文所做的工作进行了总结,并对服务器集群的研究做了展望。

丁宇光[10]2007年在《基于Linux的Web服务集群软件设计及实现》文中指出随着网络技术的不断发展,Web服务广泛的被企业用于产品宣传,日常管理,售后服务以及电子商务。对于一般企业而言,都希望自己的Web服务器能够满足不间断的应用服务需求,但是出于成本考虑,很多企业又都会使用Linux操作系统集群来构建其Web应用的基础架构。但是,长期以来在Linux平台上却一直缺少一种易用性高,扩展灵活,硬件成本低的Web集群软件。本文仔细探讨了各种集群的特点,同时在Linux Web集群中选取了目前被广泛使用的LVS (Linux Virtual Server) Web集群软件进行设计改进。事实上,通过分析,可以看出,LVS本身具有很多非常好的Web集群理念,这些理念在负载均衡方面实现非常优秀,但是作为一种Web集群软件而言,易用性和可靠性依然不够高。与此同时,LVS集群也没有考虑到应用的实际需求,整个集群的管理对管理者和内容发布者都非常复杂,稍有不慎,就有可能造成发布内容不一致的问题。本文在以上基础上,对LVS系统提出改进,并构建了WS-LVS这样一个更适合目前企业应用的Web集群系统。由于LVS本身具备了多种可供选择的负载均衡,因此,在对多种负载均衡方式的详细分析和对比后,最终采用了VS/DR的负载均衡方案,其次,为了满足Web发布者,又经过多方考证,引用了Lustre的集群文件系统。系统最主要的部分是新加入的集群管理模块,该模块从本质上修改了LVS原来的前置机-Web服务器的两层构架,从而使得仅仅使用两台服务器便能够达到LVS可以达到的易用性标准,同时随着WS-LVS集群中的服务器数量增加,集群易用性也能够不断继续提高。原来在LVS系统前置机部分可能存在的集群的性能瓶颈问题也在WS-LVS系统中得以解决。本文最终也以实验数据证明,WS-LVS系统比其原型LVS系统利用率更高,系统易用性和可靠性也更为提高,而可伸缩性也大大的优于原型系统。同时,WS-LVS系统具有目前主流商用集群系统的很多特性,使得新系统能够切实满足各行业Web应用服务基础建设的需要,具有很强的使用价值。同时,系统依然基于Linux及其开放源代码,也使得企业本身对系统的本地化改进成为可能。

参考文献:

[1]. 可伸缩服务器集群的研究与实现[D]. 刘健. 中国人民解放军国防科学技术大学. 2002

[2]. 可伸缩网络服务的研究与实现[D]. 章文嵩. 中国人民解放军国防科学技术大学. 2000

[3]. Web服务器集群负载均衡技术研究[D]. 买京京. 中北大学. 2008

[4]. 可伸缩网络服务器群研究与实现[D]. 张婷. 华南理工大学. 2013

[5]. 基于XMPP协议的分布式通信集群的关键技术的研究及实现[D]. 朱斌. 北京邮电大学. 2017

[6]. 网络服务负载均衡技术的研究与实现[D]. 程伟. 国防科学技术大学. 2004

[7]. 消息中间件集群服务设计与实现[D]. 李乐平. 国防科学技术大学. 2006

[8]. 基于IP的网络集群负载优化系统[D]. 郝鹏. 国防科学技术大学. 2007

[9]. 基于Linux的可伸缩服务器集群的研究与设计[D]. 洪燕. 合肥工业大学. 2005

[10]. 基于Linux的Web服务集群软件设计及实现[D]. 丁宇光. 上海交通大学. 2007

标签:;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  

可伸缩服务器集群的研究与实现
下载Doc文档

猜你喜欢