负载平衡

负载平衡（Load Balancing）

　　负载平衡是指划分多台计算机间必须完成的任务量，以便在同样时间完成更多工作，并且所有用户都能得到快速地服务。负载平衡可以通过硬件、软件或两者的组合实行。通常，负载平衡是计算机服务器分组的主要原因。

　　在互联网上，那些有大流量的公司通常会使用负载平衡。有几种方法可以使网络流量负载平衡。对于Web服务来说，一种方法是将各个请求转向DNS表里每个不同的主机地址。通常，如果两台服务器需要使用平衡工作负担，需要第三台服务器是来确定工作分配给哪台服务器。由于负载平衡需要多台服务器，它通常与故障转移和备份服务结合使用。在一些方法里，服务器被分布在不同的地理位置。

　　负载平衡最重要的一个应用是利用多台服务器提供单一服务，这种方案有时也称之为服务器农场。通常，负载平衡主要应用于Web网站，大型的Internet Relay Chat网络，高流量的文件下载网站，NNTP（Network News Transfer Protocol）服务和DNS服务。现在负载平衡器也开始支持数据库服务，称之为数据库负载平衡器。

　　对于互联网服务，负载平衡器通常是一个软体程序，这个程序侦听一个外部端口，互联网用户可以通过这个端口来访问服务，而作为负载平衡器的软体会将用户的请求转发给后台内网服务器，内网服务器将请求的响应返回给负载平衡器，负载平衡器再将响应发送到用户，这样就向互联网用户隐藏了内网结构，阻止了用户直接访问后台（内网）服务器，使得服务器更加安全，可以阻止对核心网络栈和运行在其它端口服务的攻击。

　　当所有后台服务器出现故障时，有些负载平衡器会提供一些特殊的功能来处理这种情况。例如转发请求到一个备用的负载平衡器、显示一条关于服务中断的消息等。负载平衡器使得IT团队可以显著提高容错能力。它可以自动提供大量的容量以处理任何应用程序流量的增加或减少。

　　负载平衡NAT（Network Address Translation网络地址转换）简单地说就是将一个IP地址转换为另一个IP地址，一般用于未经注册的内部地址与合法的、已获注册的Internet IP地址间进行转换。适用于解决Internet IP地址紧张、不想让网络外部知道内部网络结构等的场合下。

　　此种负载平衡是当前多WAN口路由器的带宽汇聚技术基础，以欣向路由器为例：

　　多WAN路由器实现的是业界先进的动态负载平衡机制，多WAN口动态负载平衡技术可以在使用多条线路的情况下动态分配内网的数据流量，动态的实现带宽汇聚的功能，采用特有的三种负载平衡机制：

　　1、Session：所有启用的WAN口，采用均分session的方式工作。

　　如第一个连接session通过WAN1口流出，则下一个session自动选择WAN2流出，第三个session选择WAN3口流出（假设所有WAN口都启用）

　　这种方式适用于多条相同带宽的线路捆绑时使用。

　　2、这种方式适用于多条不同带宽的线路能够更好的协同工作。例如：WAN1口接一条512K的ADSL，WAN2口接2M的光纤，这种情况下我们就可以把比例设为1：4，这样能够充分利用两条线路的带宽。

　　3、Traffic：按数据流量分配负载，系统自动选择流量最小的WAN口作为出口。

　　此种方式适用于线路不稳定时的多条线路混用的情况。在某一条线路暂时不通或者线路不稳定的情况下会把流量自动分配到另一条稳定的线路上。但在多条线路稳定的情况下不建议使用这种方式。

　　有了这三种负载平衡使得路由器可以灵活的应对多种线路混用的复杂情况，支持多种线路混接，支持多种协议，能够满足多种复杂应用。

　　第一，网络负载平衡能将传入的请求传播到多达32台服务器上，即可以使用最多32台服务器共同分担对外的网络请求服务。网络负载平衡技术保证即使是在负载很重的情况下，服务器也能做出快速响应;

　　第二，网络负载平衡对外只需提供一个IP地址(或域名)；

　　第三，当网络负载平衡中的一台或几台服务器不可用时，服务不会中断。网络负载平衡自动检测到服务器不可用时，能够迅速在剩余的服务器中重新指派客户机通讯。这项保护措施能够帮助你为关键的业务程序提供不中断的服务，并可以根据网络访问量的增加来相应地增加网络负载平衡服务器的数量；

　　第四，网络负载平衡可在普通的计算机上实现。

　　负载平衡器需要处理的一个重要问题是：如何保存用户会话？如果会话信息保存在后台服务器，用户接下来的请求可能会被分配到不同的后台服务器，此时用户会话就无法继续。负载平衡器可以缓存用户会话，然后将用户请求分发到不同的后台服务器。但是这将带来负载平衡器的负载问题。

　　一个解决方案是将一个用户会话中的所有请求都发送到同一个后台服务器。即persistence或stickiness。这个方法的不足之处在于无法容错failover,如果后台服务器故障，它提供的会话就会无法取得，任何依赖于它的会话都会丢失。这个问题通常与数据中心有关，尽管Web Service是非连结导向的，但是后端的数据库先天上还是连结导向的。

　　第二个方案是依据用户名，客户端IP来分配提供服务的服务器，也可以随机分配。因为客户可能是通过DHCP，NAT或者Web代理来连接Internet的，其IP地址可能经常变换，这使得这个方案的服务质量无法保障。随机分配由负载平衡器将会话信息存储保存。如果负载平衡器被替换或故障，这些信息可会会丢失；另外（负载平衡器）负载较高的时候，为保证分配表空间不会被耗尽，超时的分配信息必须被删除。随机分配方法也要求客户会维持会话状态，如果客户浏览器禁用了cookies的功能，就会引起问题。优秀的负载平衡器会使用多种持续（会话保持）技术，以避免其中某些不可以用时引起故障。

　　另外一个方案是将每一会话信息保存到一个数据库中。由于这个方案会增加数据库的负载，所以这个方案对性能的提高并不好。数据库最好是用来存储会话时间比较长的会话数据。为了避免数据库出现单点故障，并且提高其扩展性，数据库通常会复制到多台服务器上，通过负载平衡器来分发请求到数据库服务器上。微软ASP.net中的状态服务器技术就是一个典型的会话数据库的例子。集群中的所有服务器都将它们的会话信息保存到状态服务器上，同时它们可以向状态服务器查询会话数据。

　　通常客户浏览器可以保存用户的每个会话信息。例如使用浏览器cookie，对数据加密并加上一个时间戳就可以保证安全了；URL重写。将会话信息存储在客户端通常是首选方案，因为这样负载平衡器就可以灵活的选择后台服务器来处理用户请求。然而这种方法不适应于一些较复杂的电子商务，因为电子商务中会话数据较大，而且需要服务器需要经常重新处理会话信息；与此同时URL重写由于用户可以改变会话流数据而存在安全问题；加密客户端cookies也一直存在着安全方面的争议，除非所有的会话都通过HTTPS，但是HTTPS很容易遭到中间人攻击。

　　负载平衡对通讯链路的冗余是非常有用的。例如，一家公司可能有多条互联网接入线路以保证某一条故障时仍可以正常接入互联网。

　　故障转移的架构意味着一条连接正常使用，另外一条连接作为备用，当第一条出现故障时才会被启用。

　　使用负载平衡器，两条（多条）连接可以都投入使用。有一个设备或者程序实时监控着所有连接的连通性，并且对正在发送的包进行选路。同时使用多条连接可以增加带宽。

　　许多电信公司在其内部网络或连接到外部网络（其它电信网络）都有多条线路可以使用。为避免某条链路出现网络堵塞，最小化连接其它网络的费用或者提高网络的可靠性，它们使用负载平衡将流量从一条链路转移到另一条链路。

　　负载平衡的另一个用途是监控网络活动。负载平衡器能用于将巨大的网络流量分割为几个子流并使用网络分析器，每个都读取原始数据的一部分。这对于监视10GbE, STM64高速网络非常有用，在这些网络上由于数据量太大进行复杂的数据处理几乎是不可能的。