四川九洲技师学校 四川 绵阳 621000
摘 要:负载平衡问题一直是大型系统管理中的一个热点问题。负载平衡的目的是优化资源的使用,最大限度地提高吞吐量,最大限度地减少响应时间,并避免任何单一节点的资源过载。所以,要解决这个问题,至关重要的是系统性能的平衡。在本文中,我将探讨三种解决方案以便最终能实现负载平衡。
关键词:负载平衡 websocket连接 弹性负载均衡器
一、ELB(Elastic Load Balancer) 途径
实现负载均衡最简单的方法就是使用AWS(Amazon Web Services即亚马逊云服务)提供的弹性负载平衡器ELB (Elastic Load Balancer)。它能使任何类型的TCP连接包括WebSockets连接实现负载平衡。
这种方法的特点是:
Automatic failover of LB——负载自动故障转移;Autoscaling of load balanced nodes——负载平衡节点的自动缩放;Extremely easy setup——非常简单的设置。
在大多数情况下,这都是一个很好的解决方案,除非疯狂增长的负载超出了系统的承载范围。在这种极端情况下,ELB变得太慢以至于不能建立新的连接,那么,我们就需要新的解决方案。
二、负载平衡器软件
我们可以采用HAProxy作为一个负载平衡器软件来实现负载平衡。但要使HAProxy工作正确,我们应牢记端口限制问题。使用HAProxy处理超过65K的连接要通过下面的步骤:
1.创建一组私有IP地址。
选择Amazon Instance→Actions→Networking→Manage Private IP Addresses,添加3个IP地址:192.168.1.1,192.168.1.2,192.168.1.3(要记住所有添加的IP地址和真正的application服务器应在同一子网内)。
2.连接到HAProxy的实例。
通过SSH运行以下命令:
$> ifconfig eth0:1 192.168.1.1
$> ifconfig eth0:2 192.168.1.2
$> ifconfig eth0:3 192.168.1.3
这将在实例中添加3个虚拟网络接口。
3.配置HAProxy。
我们看到,现在HAProxy可以处理超过65536的WebSocket连接, 连接数量的限制通过添加虚拟网络接口而非常容易突破了,而且它可以快速建立新的连接。
以上已经证明了这种方法是可行的,但它也有以下缺点:Failover HAProxy的设置要通过手动完成,相对复杂;当要添加一个新的Erlang节点,不得不重新配置HAProxy。虽然有这些缺点,但这是一个非常简单实用的解决方案,而且将此方法扩展,与系统其他功能结合,就能形成一套自定义的方案。
三、自定义的方案
以下图表显示了我设计的系统架构及运行流程。
系统中有一个JavaScript的客户端应用程序,一个认证的应用程序,负责对用户的授权,一个以Erlang application为主要功能的应用程序。其流程如下:
1.客户向授权服务应用程序进行HTTP请求,试图获得凭据。
2.生成令牌并将其通过HTTP请求发送到Erlang集群。
3.Erlang程序确认收到令牌,发送HTTP响应确认授权的应用程序。
4.授权应用程序发送HTTP响应到客户端的,此响应包括生成的令牌。
5.客户端使用令牌通过HAProxy负载平衡器Erlang程序建立WebSocket连接。
这就是系统运行的架构及基本流程,具体实现还可以添加一个简单的模块使Erlang应用程序能跟踪每个Erlang节点的WebSocket连接数。由于Erlang的“分布式”的天然属性,每个节点都可以知道其它节点的连接数量。
因此,可以选择一个较少的连接节点,把这个节点的公共IP地址发回授权服务应用程序,授权服务应用程序发送此IP地址和令牌给客户端,客户端以此IP地址和收到的令牌建立连接。以下是新的设计图表:
现在就我们可以实现:摆脱WS负载平衡器,使系统更简单;添加Erlang节点时不需要重新配置系统;在Erlang节点间连接分布均匀。
论文作者:胡东升
论文发表刊物:《教育学》2016年9月总第104期
论文发表时间:2016/10/25
标签:负载论文; 节点论文; 应用程序论文; 平衡器论文; 令牌论文; 系统论文; 地址论文; 《教育学》2016年9月总第104期论文;