几种负载均衡策略比较~
PS：Nginx/LVS/HAProxy是目前使用最广泛的三种负载均衡软件，本人都在多个项目中实施过，参考了一些资料，结合自己的一些使用经验，总结一下。
一般对负载均衡的使用是随着网站规模的提升根据不同的阶段来使用不同的技术。具体的应用需求还得具体分析，如果是中小型的Web应用，比如日PV小于1000万，用Nginx就完全可以了；如果机器不少，可以用DNS轮询，LVS所耗费的机器还是比较多的；大型网站或重要的服务，且服务器比较多时，可以考虑用LVS。一种是通过硬件来进行进行，常见的硬件有比较昂贵的F5和Array等商用的负载均衡器，它的优点就是有专业的维护团队来对这些服务进行维护、缺点就是花销太大，所以对于规模较小的网络服务来说暂时还没有需要使用；另外一种就是类似于Nginx/LVS/HAProxy的基于Linux的开源免费的负载均衡软件，这些都是通过软件级别来实现，所以费用非常低廉。
目前关于网站架构一般比较合理流行的架构方案：Web前端采用
Nginx/HAProxy+Keepalived作负载均衡器；后端采用MySQL数据库一主多从和读写分离，采用LVS+Keepalived的架构。当然要根据项目具体需求制定方案。
下面说说各自的特点和适用场合。
一、Nginx
Nginx的优点是：
1、工作在网络的7层之上，可以针对http应用做一些分流的策略，比如针对域名、目录结构，它的正则规则比HAProxy更为强大和灵活，这也是它目前广泛流行的主要原因之一，Nginx单凭这点可利用的场合就远多于LVS了。
2、Nginx对网络稳定性的依赖非常小，理论上能ping通就就能进行负载功能，这个也是它的优势之一；相反LVS对网络稳定性依赖比较大，这点本人深有体会；
3、Nginx安装和配置比较简单，测试起来比较方便，它基本能把错误用日志打印出来。LVS的配置、测试就要花比较长的时间了，LVS对网络依赖比较大。
3、可以承担高负载压力且稳定，在硬件不差的情况下一般能支撑几万次的并发量，负载度比LVS相对小些。
4、Nginx可以通过端口检测到服务器内部的故障，比如根据服务器处理网页返回的状态码、超时等等，并且会把返回错误的请求重新提交到另一个节点，不过其中缺点就是不支持url来检测。比如用户正在上传一个文件，而处理该上传的节点刚好在上传过程中出现故障，Nginx会把上传切到另一台服务器重新处理，而LVS就直接断掉了，如果是上传一个很大的文件或者很重要的文件的话，用户可能会因此而不满。
5、Nginx不仅仅是一款优秀的负载均衡器/反向代理软件，它同时也是功能强大的Web应用服务器。LNMP也是近几年非常流行的web架构，在高流量的环境中稳定性也很好。
6、Nginx现在作为Web反向加速缓存越来越成熟了，速度比传统的Squid服务器更快，可以考虑用其作为反向代理加速器。
7、Nginx可作为中层反向代理使用，这一层面Nginx基本上无对手，唯一可以对比
Nginx的就只有lighttpd了，不过lighttpd目前还没有做到Nginx完全的功能，配置也不那么清晰易读，社区资料也远远没Nginx活跃。
8、Nginx也可作为静态网页和图片服务器，这方面的性能也无对手。还有Nginx 社区非常活跃，第三方模块也很多。
淘宝的前端使用的Tengine就是基于nginx做的二次开发定制版。
Nginx常规的HTTP请求和响应流程图：
Nginx的缺点是：
1、Nginx仅能支持http、https和Email协议，这样就在适用范围上面小些，这个是它的缺点。
2、对后端服务器的健康检查，只支持通过端口来检测，不支持通过url来检测。不支持Session的直接保持，但能通过ip_hash来解决。
二、LVS
LVS：使用Linux内核集群实现一个高性能、高可用的负载均衡服务器，它具有很好的可伸缩性（Scalability)、可靠性（Reliability)和可管理性（Manageability)。
LVS的优点是：
1、抗负载能力强、是工作在网络4层之上仅作分发之用，没有流量的产生，这个特
点也决定了它在负载均衡软件里的性能最强的，对内存和cpu资源消耗比较低。2、配置性比较低，这是一个缺点也是一个优点，因为没有可太多配置的东西，所以并不需要太多接触，大大减少了人为出错的几率。
3、工作稳定，因为其本身抗负载能力很强，自身有完整的双机热备方案，如
LVS+Keepalived，不过我们在项目实施中用得最多的还是LVS/DR+Keepalived。
4、无流量，LVS只分发请求，而流量并不从它本身出去，这点保证了均衡器IO的性能不会收到大流量的影响。
5、应用范围比较广，因为LVS工作在4层，所以它几乎可以对所有应用做负载均衡，包括http、数据库、在线聊天室等等。
LVS DR(Direct Routing)模式的网络流程图：
LVS的缺点是：
1、软件本身不支持正则表达式处理，不能做动静分离；而现在许多网站在这方面都有较强的需求，这个是Nginx/HAProxy+Keepalived的优势所在。
2、如果是网站应用比较庞大的话，LVS/DR+Keepalived实施起来就比较复杂了，特别后面有Windows Server的机器的话，如果实施及配置还有维护过程就比较复杂了，相对而言，Nginx/HAProxy+Keepalived就简单多了。
三、HAProxy
HAProxy的特点是：
1、HAProxy也是支持虚拟主机的。
2、HAProxy的优点能够补充Nginx的一些缺点，比如支持Session的保持，Cookie 的引导；同时支持通过获取指定的url来检测后端服务器的状态。
3、HAProxy跟LVS类似，本身就只是一款负载均衡软件；单纯从效率上来讲HAProxy会比Nginx有更出色的负载均衡速度，在并发处理上也是优于Nginx的。
4、HAProxy支持TCP协议的负载均衡转发，可以对MySQL读进行负载均衡，对后端的MySQL节点进行检测和负载均衡，大家可以用LVS+Keepalived对MySQL 主从做负载均衡。
5、HAProxy负载均衡策略非常多，HAProxy的负载均衡算法现在具体有如下8种：
①roundrobin，表示简单的轮询，这个不多说，这个是负载均衡基本都具备的；
②static-rr，表示根据权重，建议关注；
③leastconn，表示最少连接者先处理，建议关注；
④source，表示根据请求源IP，这个跟Nginx的IP_hash机制类似，我们用其作为解决session问题的一种方法，建议关注；
⑤ri，表示根据请求的URI；
⑥rl_param，表示根据请求的URl参数’balance url_param’ requires an URL parameter name；
⑦hdr(name)，表示根据HTTP请求头来锁定每一次HTTP请求；
⑧rdp-cookie(name)，表示根据据cookie(name)来锁定并哈希每一次TCP请求。
四、总结
Nginx和LVS对比的总结：
1、Nginx工作在网络的7层，所以它可以针对http应用本身来做分流策略，比如针对域名、目录结构等，相比之下LVS并不具备这样的功能，所以Nginx单凭这点可利用的场合就远多于LVS了；但Nginx有用的这些功能使其可调整度要高于LVS，所以经常要去触碰触碰，触碰多了，人为出问题的几率也就会大。
2、Nginx对网络稳定性的依赖较小，理论上只要ping得通，网页访问正常，Nginx 就能连得通，这是Nginx的一大优势！Nginx同时还能区分内外网，如果是同时拥有内外网的节点，就相当于单机拥有了备份线路；LVS就比较依赖于网络环境，目
前来看服务器在同一网段内并且LVS使用direct方式分流，效果较能得到保证。另外注意，LVS需要向托管商至少申请多一个ip来做Visual IP，貌似是不能用本身的IP来做VIP的。要做好LVS管理员，确实得跟进学习很多有关网络通信方面的知识，就不再是一个HTTP那么简单了。
3、Nginx安装和配置比较简单，测试起来也很方便，因为它基本能把错误用日志打印出来。LVS的安装和配置、测试就要花比较长的时间了；LVS对网络依赖比较大，很多时候不能配置成功都是因为网络问题而不是配置问题，出了问题要解决也相应的会麻烦得多。
4、Nginx也同样能承受很高负载且稳定，但负载度和稳定度差LVS还有几个等级：Nginx处理所有流量所以受限于机器IO和配置；本身的bug也还是难以避免的。
5、Nginx可以检测到服务器内部的故障，比如根据服务器处理网页返回的状态码、超时等等，并且会把返回错误的请求重新提交到另一个节点。目前LVS中ldirectd 也能支持针对服务器内部的情况来监控，但LVS的原理使其不能重发请求。比如用户正在上传一个文件，而处理该上传的节点刚好在上传过程中出现故障，Nginx会把上传切到另一台服务器重新处理，而LVS就直接断掉了，如果是上传一个很大的文件或者很重要的文件的话，用户可能会因此而恼火。
6、Nginx对请求的异步处理可以帮助节点服务器减轻负载，假如使用apache直接对外服务，那么出现很多的窄带链接时apache服务器将会占用大量内存而不能释放，使用多一个Nginx做apache代理的话，这些窄带链接会被Nginx挡住，apache 上就不会堆积过多的请求，这样就减少了相当多的资源占用。这点使用squid也有相同的作用，即使squid本身配置为不缓存，对apache还是有很大帮助的。
7、Nginx能支持http、https和email（email的功能比较少用），LVS所支持的应用在这点上会比Nginx更多。在使用上，一般最前端所采取的策略应是LVS，也就是DNS的指向应为LVS均衡器，LVS的优点令它非常适合做这个任务。重要的ip 地址，最好交由LVS托管，比如数据库的ip、webservice服务器的ip等等，这些ip地址随着时间推移，使用面会越来越大，如果更换ip则故障会接踵而至。所以将这些重要ip交给LVS托管是最为稳妥的，这样做的唯一缺点是需要的VIP数量会比较多。Nginx可作为LVS节点机器使用，一是可以利用Nginx的功能，二是可以利用Nginx的性能。当然这一层面也可以直接使用squid，squid的功能方面就比Nginx弱不少了，性能上也有所逊色于Nginx。Nginx也可作为中层代理使用，这一层面Nginx基本上无对手，唯一可以撼动Nginx的就只有lighttpd了，不过lighttpd目前还没有能做到Nginx完全的功能，配置也不那么清晰易读。另外，中层代理的IP也是重要的，所以中层代理也拥有一个VIP和LVS是最完美的方案了。具体的应用还得具体分析，如果是比较小的网站（日PV小于1000万），用Nginx 就完全可以了，如果机器也不少，可以用DNS轮询，LVS所耗费的机器还是比较多的；大型网站或者重要的服务，机器不发愁的时候，要多多考虑利用LVS。
现在对网络负载均衡的使用是随着网站规模的提升根据不同的阶段来使用不同的
技术：
第一阶段：利用Nginx或HAProxy进行单点的负载均衡，这一阶段服务器规模刚脱离开单服务器、单数据库的模式，需要一定的负载均衡，但是仍然规模较小没有专业的维护团队来进行维护，也没有需要进行大规模的网站部署。这样利用Nginx 或HAproxy就是第一选择，此时这些东西上手快，配置容易，在七层之上利用HTTP 协议就可以。这时是第一选择。
第二阶段：随着网络服务进一步扩大，这时单点的Nginx已经不能满足，这时使用LVS或者商用Array就是首要选择，Nginx此时就作为LVS或者Array的节点来使用，具体LVS或Array的是选择是根据公司规模和预算来选择，Array的应用交付功能非常强大，本人在某项目中使用过，性价比也远高于F5，商用首选！但是一般来说这阶段相关人才跟不上业务的提升，所以购买商业负载均衡已经成为了必经之路。
第三阶段：这时网络服务已经成为主流产品，此时随着公司知名度也进一步扩展，相关人才的能力以及数量也随之提升，这时无论从开发适合自身产品的定制，以及降低成本来讲开源的LVS，已经成为首选，这时LVS会成为主流。
最终形成比较理想的基本架构为：Array/LVS — Nginx/Haproxy —
Squid/Varnish — AppServer。
F5负载均衡器双机切换机制及配置
F5负载均衡器双机切换触发机制及配置 1 F5双机的切换触发机制 1.1 F5双机的通信机制 F5负载均衡器的主备机之间的心跳信息可以通过以下两种方式进行交互： ●通过F5 failover 串口线交换心跳信息(电压信号不断地由一方送到另外一方) 处于Standby的系统不断监控Failover上的电平，一旦发现电平降低，Standby Unit会立即变成Active，会发生切换(Failover)。通过串口监控电平信号引起的切换可以在 一秒中以内完成(大概200~300ms)。四层交换机在系统启动的时候也会监控Failover 线缆的电平以决定系统是处于Active状态还是Standby状态。在串口Failover线缆上不传输任何数据信息。 ●Failover线缆也可以不采用串口线，而直接采用网络线。(但F5不建议这样做， 因为网络层故障就可能会两台负载均衡器都处于Active状态)。如果采用网络层监控实现Failover, Bigip将通过1027与1028端口交换心跳信息。 经验证明：两台F5之间一定要用failover cable连接起来，不连接failover cable而直接采用网络线连接在一起不可靠，而且造成了网上事故。 F5双机之间的数据信息是通过网络来完成的。因此运行于HA方式的两台F5设备在网络层必须是相通的。(可以用网线将两台F5设备直接相连起来，也可以通过其它的二层设备将两台F5设备相连，使F5设备在网络上可以连通对端的Failover IP地址)。 两台运行于HA方式的四层交换机之间通过网络层交互的信息主要包括： ●用于配置同步的信息：通过手工执行config sync会引起Active到Standby系 统的配置信息传输。 ●用于在发生Failover时连接维持的信息：如果设置了Connection Mirroring, 处于Active的四层交换机会将连接表每十秒中发送一次到Standby的系统。（The following TCP Connections can be mirrored:TCP、UDP、SNAT、FTP、Telnet ）。 如果设置了Stateful Failover,Persistence信息也会被发送到Standby系统。（The following persistence information for the virtual servers (VIPs) can be mirrored:SSL persistence、Sticky persistence、iRules Persistence )
几种负载均衡算法
几种负载均衡算法 本地流量管理技术主要有以下几种负载均衡算法： 静态负载均衡算法包括：轮询，比率，优先权 动态负载均衡算法包括: 最少连接数,最快响应速度，观察方法，预测法，动态性能分配，动态服务器补充，服务质量，服务类型，规则模式。 静态负载均衡算法 ◆轮询（Round Robin）：顺序循环将请求一次顺序循环地连接每个服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP 就把其从顺序循环队列中拿出，不参加下一次的轮询，直到其恢复正常。 ◆比率（Ratio）：给每个服务器分配一个加权值为比例，根椐这个比例，把用户的请求分配到每个服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP 就把其从服务器队列中拿出，不参加下一次的用户请求的分配, 直到其恢复正常。 ◆优先权（Priority）：给所有服务器分组,给每个组定义优先权，BIG-IP 用户的请求，分配给优先级最高的服务器组（在同一组内，采用轮询或比率算法，分配用户的请求）；当最高优先级中所有服务器出现故障，BIG-IP 才将请求送给次优先级的服务器组。这种方式，实际为用户提供一种热备份的方式。 动态负载均衡算法 ◆最少的连接方式（Least Connection）：传递新的连接给那些进行最少连接处理的服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP 就把其从服务器队列中拿出，不参加下一次的用户请求的分配, 直到其恢复正常。 ◆最快模式（Fastest）：传递连接给那些响应最快的服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP 就把其从服务器队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。 ◆观察模式（Observed）：连接数目和响应时间以这两项的最佳平衡为依据为新的请求选择服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP就把其从服务器队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。 ◆预测模式（Predictive）：BIG-IP利用收集到的服务器当前的性能指标，进行预测分析，选择一台服务器在下一个时间片内，其性能将达到最佳的服务器相应用户的请求。(被BIG-IP 进行检测) ◆动态性能分配(Dynamic Ratio-APM):BIG-IP 收集到的应用程序和应用服务器的各项性能参数，动态调整流量分配。 ◆动态服务器补充(Dynamic Server Act.):当主服务器群中因故障导致数量减少时，动态地将备份服务器补充至主服务器群。 ◆服务质量(QoS）:按不同的优先级对数据流进行分配。 ◆服务类型(ToS): 按不同的服务类型（在Type of Field中标识）负载均衡对数据流进行分配。 ◆规则模式：针对不同的数据流设置导向规则，用户可自行。 负载均衡对应本地的应用交换，大家可以通过对上述负载均衡算法的理解，结合实际的需求来采用合适你的负载均衡算法，我们常用到的一般是最少连接数、最快反应、或者轮询，决定选用那种算法，主要还是要结合实际的需求。
服务器负载均衡的设计与实现
服务器负载均衡的设计与实现 在该架构中OpenFlow控制器可以获取每个服务器的运行状态，并根据运行状态分发用户请求，最大程度地利用每台服务器的计算资源，并且可以在系统运行期间动态地添加或删除服务器，使系统具备很高的灵活性。 1、动态负载均衡架构的整体设计 负载均衡架构是在一个非结构化的网络中使用集中式的控制器实现多台服务器共同对外提供服务。OpenFlow网络中的所有交换机都连接在一个控制器上，每台服务器有两块网卡，一块网卡连接到OpenFlow网络对用户提供网络服务，另一块通过以太网交换机和控制器相连，以便控制器通过SNMP协议获取服务器的运行状态，具体架构如图所示。 在上述负载均衡架构中控制器是网络的核心，其主要功能有四个，分别为： 保证网络正常的通信、获取服务器的运行状态、通过负载均衡算法计算服务器的综合负载、向交换机下发流表项以转发用户请求；控制器的模块设计如图所示。 本文阐述的负载均衡架构可以工作在任意openflow网络中，而不是专门为某个服务器
所设计的负载均衡，控制器的首要任务就是保证网络可以提供正常的数据转发服务，为了保证网络既可以为其他服务提供基础支持又保证负载均衡能够正常工作，在控制器的转发控制中有两个模块，第一个模块负责负载均衡服务，第二个模块负责网络的基本通信。当一个数据包到达Openflow交换机后，如果交换机找不到可以匹配的流表项，就会向控制发送packet-in消息，控制器收到packet-in消息之后首先交给负载均衡模块，由负载均衡模块处理该消息，如果该数据包的目的IP 不是负载均衡所负责的网络服务，如果该数据包的目的IP不是负载均衡所负责的网络服务，负载均衡模块就不会做任何处理而是直接packet-in 消息传递给网络通信模块，以保证其它业务正常通信。如果该数据包的目的IP是负载均衡所负责的网络服务，负载均衡模块就向交换机下发流表项让交换机完成负载均衡服务。 为了有效地利用计算资源，控制器还需要根据服务器的运行状态转发用户请求，因此控制器还要完成这方面的工作。在此架构中每台服务器都有一块通过以太网交换机和控制器相连的网卡，控制器通过以太网交换机和服务器通信，利用SNMP协议获取服务器的运行状态。在此架构中就算没有和服务器相连的网卡，控制器也可以通过Openflow网络和服务器通信，本文之所以没有这么做是因为控制器直接和连接在openflow网络中的服务器通信需要交换机把所有服务器所发送的消息封装成packet-in消息发送给交换机，控制器也必须通过向交换机发送packet-out消息才能把数据发送给服务器，这样做会给交换机和控制器同时带来很大的压力。 因为服务器的运行状态必须由多条信息才能描述清楚，所以就算得到服务器的运行状态之后，也无法根据多条信息判断哪台服务器的负载最低。因此本文在控制器中运行了一个负载均衡算法，控制器会把服务的运行状态作为负载均衡算法的参数代入到服务器综合负载的运算中，计算出服务器的综合负载，并根据综合负载得到负载最小的服务器。 负载均衡的核心内容就是让交换机分发用户的请求，用户请求的第一个数据包到达交换级之后，交换机会通过packet-in消息把数据包发送给控制器，控制器中的负载均衡模块会通过SNMP协议获取所有服务器的运行状态，并根据运行状态计算服务器的综合负载，之后把用户的请求转发给综合负载最小的服务器。 2、动态负载均衡架构的设计与实现 负载均衡常用的算法有随机、轮训和最小连接数，原因是这三种算法很容易用硬件实现，这三种算法中最小连接数算法的效果是最理想的，但是如果集群中的服务器在CPU、内存、网络带宽上的配置不相同，这三个算法都不能充分地发挥服务器集群的计算能力。在openflow网络中，网络的控制层由软件制定，负载均衡算法也可以集成在控制器中，使用软件完成，这样可以更准确地评估服务器的负载情况。本文阐述的负载均衡方案中就设计了一个负载均衡算法，根据服务器的运行状态计算服务器的综合负载，并返回综合负载最小的服务器。该算法可以在服务器性能差距较大的集群中充分发挥每一台服务器的计算能力，算法的具体实现过程如下： 1）动态反馈当前服务器负载量 主要收集每台服务器CPU和内存的使用率，这些信息并不能直接表示一台服务器的负载情况，所以使用公式1把CPU和内存信息转换为服务器的负载量，其中LC为第i台服务器CPU的使用率，LM为第i台内存的使用率，r1和r2为权值，用于强调该服务类型对各个部分的不同影响程度，r1+r2=1,LS为计算得出的第i台服务器负载量 LS=r1LC+r2*LM 2）服务器处理能力计算； 集群中服务器的性能也可能不同，在计算服务器负载的时候还要考虑服务器的处理能力，第i台服务器的处理能力使用C(i)表示，C的计算方法如公式所示，其中P为第i台服务器CPU的个数，M为第i台服务器内存的大小，r1和r2为权值，r1+r2=1。
负载均衡和会话保持
A10负载均衡和会话保持 在大多数的企业级应用中，客户端与服务器经常需要通过多次的交互才能完成一次事务处理或一笔交易。由于这些交互与用户的身份是紧密相关的，因此，与这个客户端相关的应用请求，往往需要转发至一台服务器完成，而不能被负载均衡器转发至不同的服务器上进行处理。为了实现这一机制，我们需要在负载均衡上配置会话保持（Session Persistence）机制，以确保客户端与应用系统之间的交互不会因为部署了负载均衡而发生问题。 实际上，会话保持机制与负载均衡的基本功能是完全矛盾的。负载均衡希望将来自客户端的连接、请求均衡的转发至后端的多台服务器，以避免单台服务器负载过高；而会话保持机制却要求将某些请求转发至同一台服务器进行处理。因此，在实际的部署环境中，我们要根据应用环境的特点，选择适当的会话保持机制。 连接和会话的区别 在介绍会话保持技术之前，我们必须先花点时间弄清楚一些概念：什么是连接（Connection）、什么是会话（Session），以及这二者之间的区别。 需要特别强调的是，如果我们仅仅是谈论负载均衡，会话和连接往往具有相同的含义。但是，如果我们和开发人员沟通这些术语时，这两个术语却具有截然不同的含义。希望广大读者能够注意这其中的区别。在本文中，我想着重说明的是开发人员眼中的连接及会话的含义。
通常，在普通的客户端或服务器上，我们把具有相同[源地址：端口]，和相同[目的地址：端口]的数据包定义为一个连接。下表是Windows系统中用命令netstat–an输出的部分系统连接状态。 1.C:\>netstat-an 2. 3.活动连接 4. 5.协议本地地址外部地址状态 6. 7....<省略部分输出内容>... 8.TCP172.31.20.53:47669122.225.67.240:80ESTABLISHED 9.TCP172.31.20.53:47670122.225.67.240:80ESTABLISHED 10.TCP172.31.20.53:47671122.228.243.240:80ESTABLISHED 11.TCP172.31.20.53:47672110.75.34.138:80TIME_WAIT 12.TCP172.31.20.53:47673110.75.34.138:80TIME_WAIT 13.TCP172.31.20.53:47674110.75.34.138:80TIME_WAIT 14.TCP172.31.20.53:47675122.225.67.240:80ESTABLISHED 15.TCP172.31.20.53:47676122.225.67.240:80ESTABLISHED 16.TCP172.31.20.53:47677122.228.243.240:80ESTABLISHED 17.TCP172.31.20.53:47679110.75.24.105:80ESTABLISHED 18.TCP172.31.20.53:47681122.225.67.240:80ESTABLISHED 19.TCP172.31.20.53:47682122.225.67.240:80ESTABLISHED 20.TCP172.31.20.53:4768360.191.143.240:80ESTABLISHED 21.TCP172.31.20.53:4768460.191.143.240:80ESTABLISHED 22.TCP192.168.1.4:18231203.208.46.29:443CLOSE_WAIT 23....<省略部分输出内容>... 对于负载均衡来说，情况则稍微发生了一些变化。负载均衡会将来自相同[源IP：端口]，发送到相同[目的IP：端口]的数据包，通过NAT技术做一些转换后，转发至后端的某台固定的服务器。如下表所示，虽然两个TCP连接具有相同的源地址，但源端口不同，AX负载均衡仍然将其识别为两个不同的连接，并且转发至两台不同的服务器进行处理。 1.AX#show session 2....<省略部分输出内容>... 3.
负载均衡在Web服务器中的应用
负载均衡在Web服务器中的应用 随着互联网的迅速发展，互联网为社会网络迅猛发展提供了“天时”，宽带服务的普及，视频服务、FTP下载、数据库查询应用服务器工作量的日益增加，负载均衡技术的应用更加广泛。阐述了负载均衡技术的分类和重点介绍了服务器集群负载均衡技术及应用。 标签：互联网；负载均衡；服务器集群 引言 随着互联网技术的发展，宽带服务的普及，视频服务、FTP 下载、数据库查询等大数据量的Web 应用逐渐由可能演变成一种趋势，这些应用对Web 服务器的性能有较高要求。伴随着信息系统的各个核心业务量的增加和数据流量的快速增长，从而造成服务质量下降。在花费相同条件下，必须采用多台服务器协同工作，防止计算机的单点故障、性能不足等问题，以满足不断增加业务量的需求，提高计算机系统的处理能力和更有效解决负载均衡问题。 1 负载均衡概述 负载均衡是在现有网络结构上进行部署，来扩展网络设备和服务器的带宽、增加吞吐量，提高网络数据处理能力。从而根据负载压力通过某种算法合理分配资源，保证计算机高可靠性和高性能计算。 负载均衡其特点是充分利用网络中计算机的资源，实现多台节点设备上做并行处理。当网络中的一台或者几台服务器出现故障时，自动切换到其他服务器上，客户端会自动重试发生故障的连接，仅几秒的延迟就能选择性能最佳的服务器响应客户请求。保证用户访问的质量可靠性；同时根据算法将负载合理分配到多台节点设备上进行处理，减少用户等待响应时间和提高系统处理能力。 2 常用的四种负载均衡技术 2.1 软/硬件负载均衡 软件负载均衡是在一台或多台服务器操作系统上安装一个或多个软件来实现负载均衡，比如DNS负载均衡等。软件负载均衡的优点是容易进行相关配置、成本比较低，就能满足要求不高的负载均衡需求。 硬件负载均衡是在服务器和外部网络之间加装负载均衡器，通过负载均衡器完成专门的任务，它独立于服务器的操作系统，大大提高了服务器的整体性能。由于负载均衡器具有多样化的策略管理方法，同时能进行智能化的流量管控，使得负载均衡达到最佳状态。所以，硬件负载均衡的性能比软件负载均衡性能更胜一筹，但是投资成本相对比较高。
负载均衡调度算法
负载调度算法 负载均衡（Load Balance），又称为负载分担，就是将负载（工作任务）进行平衡、分摊到多个操作单元上进行执行，例如Web服务器、FTP服务器、企业关键应用服务器和其它关键任务服务器等，从而共同完成工作任务。负载均衡建立在现有网络结构之上，它提供了一种廉价又有效的方法来扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。 在调度器的实现技术中，IP负载均衡技术是效率最高的。在已有的IP负载均衡技术中有通过网络地址转换（Network Address Translation）将一组服务器构成一个高性能的、高可用的虚拟服务器，称之为VS/NAT技术。在分析VS/NAT 的缺点和网络服务的非对称性的基础上，提出通过IP隧道实现虚拟服务器的方法VS/TUN，和通过直接路由实现虚拟服务器的方法VS/DR，它们可以极大地提高系统的伸缩性。 在内核中的连接调度算法上，IPVS实现了以下几种调度算法： 1 轮叫调度 1.1 轮叫调度含义 轮叫调度（Round Robin Scheduling）算法就是以轮叫的方式依次将请求调度不同的服务器，即每次调度执行i = (i + 1) mod n，并选出第i台服务器。算法的优点是其简洁性，它无需记录当前所有连接的状态，所以它是一种无状态调度。 轮叫是基站为终端分配带宽的一种处理流程，这种分配可以是针对单个终端或是一组终端的。为单个终端和一组终端连接分配带宽，实际上是定义带宽请求竞争机制，这种分配不是使用一个单独的消息，而是上行链路映射消息中包含的一系列分配机制。 1.2 轮叫调度算法流程 轮询调度算法的原理是每一次把来自用户的请求轮流分配给内部中的服务器，从1开始，直到N（内部服务器个数），然后重新开始循环。在系统实现时，我们引入了一个额外条件，即当服务器的权值为零时，表示该服务器不可用而不被调度。这样做的目的是将服务器切出服务（如屏蔽服务器故障和系统维护），同时与其他加权算法保持一致。所以，算法要作相应的改动，它的算法流程如下：假设有一组服务器S = {S0, S1, …, Sn-1}，一个指示变量i表示上一次选择的服务器，W(Si)表示服务器Si的权值。变量i被初始化为n-1，其中n > 0。 j = i; do { j = (j + 1) mod n;
负载均衡解决方案设计设计
一、用户需求 本案例公司中现有数量较多的服务器群： WEB网站服务器 4台 邮件服务器 2台 虚拟主机服务器 10台 应用服务器 2台 数据库 2台（双机+盘阵） 希望通过服务器负载均衡设备实现各服务器群的流量动态负载均衡，并互为冗余备份。并要求新系统应有一定的扩展性，如数据访问量继续增大，可再添加新的服务器加入负载均衡系统。 二、需求分析 我们对用户的需求可分如下几点分析和考虑： 1.新系统能动态分配各服务器之间的访问流量；同时能互为冗余，当其中 一台服务器发生故障时，其余服务器能即时替代工作，保证系统访问的 不中断； 2.新系统应能管理不同应用的带宽，如优先保证某些重要应用的带宽要 求，同时限定某些不必要应用的带宽，合理高效地利用现有资源；
3.新系统应能对高层应用提供安全保证，在路由器和防火墙基础上提供了 更进一步的防线； 4.新系统应具备较强的扩展性。 o容量上：如数据访问量继续增大，可再添加新的服务器加入系统； o应用上：如当数据访问量增大到防火墙成为瓶颈时，防火墙的动态负载均衡方案，又如针对链路提出新要求时关于Internet访问 链路的动态负载均衡方案等。 三、解决方案 梭子鱼安全负载均衡方案总体设计 采用服务器负载均衡设备提供本地的服务器群负载均衡和容错，适用于处在同一个局域网上的服务器群。服务器负载均衡设备带给我们的最主要功能是：
当一台服务器配置到不同的服务器群（Farm）上，就能同时提供多个不同的应用。可以对于每个服务器群设定一个IP地址，或者利用服务器负载均衡设备的多TCP端口配置特性，配置超级服务器群（SuperFarm），统一提供各种应用服务。
天融信负载均衡算法
1.Rr – Round Robin 默认情况下，访问请求分配的次序为： 1, 2, 3, 4, 1, 2, 3,4 若Servers之间存在性能差异，可以通过调整分配粒度值（weight），来控制访问请求分配的次序： 1, 1, 1, 2, 2, 2, 3, 3, 3,4,4,4, 2.Lc - Least Connections 新的访问请求将分配至当前连接数最少的一台服务器上。分配粒度方法定义了两个服务器的活动连接数要有多大差别，算法里才会将它们区分为不同等级。3.Sr – Shortest Response Time 基于后台服务器的最短相应时间来分配新的访问请求。 4.Pi – Persistent IP 相同IP地址的请求将会分配到相同的服务器上 5.HI - Hash IP 这是一种基于源IP地址Hash来分发新建连接的算法。客户端发送一个请求到虚拟服务器；负载均衡设备将根据源IP地址计算出的哈希值来选择将该访问请求发送到哪一台服务器；对于哈希值相同的请求连接，都将会发送到相同的服务器上。 注意：如果一台服务器失效了，将导致负载均衡设备上的哈希值重新计算，这样对所有原已维持的会话状态都将产生影响。 在负载均衡集群的方式下，客户端到服务器端的对应关系，在其他负载均衡设备上无法维持的，因此当其中一台负载均衡设备失效以后，客户端的请求将会在其他正常的负载均衡重新进行负载分配。 6.CHI – Consistent Hash IP 这是一种基于源IP地址Hash来分发新建连接的算法。 客户端发送一个请求到虚拟服务器；负载均衡设备将根据源IP地址计算出的哈希值来选择将该访问请求发送到哪一台服务器；对于哈希值相同的请求连接，都将会发送到相同的服务器上。 注意：
负载均衡器部署方式和工作原理
负载均衡器部署方式和工作原理 2011/12/16 小柯信息安全 在现阶段企业网中，只要部署WEB应用防火墙，一般能够遇到负载均衡设备，较常见是f5、redware的负载均衡，在负载均衡方面f5、redware的确做得很不错，但是对于我们安全厂家来说，有时候带来了一些小麻烦。昨日的一次割接中，就遇到了国内厂家华夏创新的负载均衡设备，导致昨日割接失败。 在本篇博客中，主要对负载均衡设备做一个介绍，针对其部署方式和工作原理进行总结。 概述 负载均衡（Load Balance） 由于目前现有网络的各个核心部分随着业务量的提高，访问量和数据流量的快速增长，其处理能力和计算强度也相应地增大，使得单一的服务器设备根本无法承担。在此情况下，如果扔掉现有设备去做大量的硬件升级，这样将造成现有资源的浪费，而且如果再面临下一次业务量的提升时，这又将导致再一次硬件升级的高额成本投入，甚至性能再卓越的设备也不能满足当前业务量增长的需求。 负载均衡实现方式分类 1：软件负载均衡技术 该技术适用于一些中小型网站系统，可以满足一般的均衡负载需求。软件负载均衡技术是在一个或多个交互的网络系统中的多台服务器上安装一个或多个相应的负载均衡软件来实现的一种均衡负载技术。软件可以很方便的安装在服务器上，并且实现一定的均衡负载功能。软件负载均衡技术配置简单、操作也方便，最重要的是成本很低。 2：硬件负载均衡技术 由于硬件负载均衡技术需要额外的增加负载均衡器，成本比较高，所以适用于流量高的大型网站系统。不过在现在较有规模的企业网、政府网站，一般来说都会部署有硬件负载均衡设备（原因1.硬件设备更稳定，2.也是合规性达标的目的）硬件负载均衡技术是在多台服务器间安装相应的负载均衡设备，也就是负载均衡器来完成均衡负载技术，与软件负载均衡技术相比，能达到更好的负载均衡效果。 3：本地负载均衡技术
几种负载均衡策略比较~
PS：Nginx/LVS/HAProxy是目前使用最广泛的三种负载均衡软件，本人都在多个项目中实施过，参考了一些资料，结合自己的一些使用经验，总结一下。 一般对负载均衡的使用是随着网站规模的提升根据不同的阶段来使用不同的技术。具体的应用需求还得具体分析，如果是中小型的Web应用，比如日PV小于1000万，用Nginx就完全可以了；如果机器不少，可以用DNS轮询，LVS所耗费的机器还是比较多的；大型网站或重要的服务，且服务器比较多时，可以考虑用LVS。一种是通过硬件来进行进行，常见的硬件有比较昂贵的F5和Array等商用的负载均衡器，它的优点就是有专业的维护团队来对这些服务进行维护、缺点就是花销太大，所以对于规模较小的网络服务来说暂时还没有需要使用；另外一种就是类似于Nginx/LVS/HAProxy的基于Linux的开源免费的负载均衡软件，这些都是通过软件级别来实现，所以费用非常低廉。 目前关于网站架构一般比较合理流行的架构方案：Web前端采用 Nginx/HAProxy+Keepalived作负载均衡器；后端采用MySQL数据库一主多从和读写分离，采用LVS+Keepalived的架构。当然要根据项目具体需求制定方案。 下面说说各自的特点和适用场合。 一、Nginx Nginx的优点是： 1、工作在网络的7层之上，可以针对http应用做一些分流的策略，比如针对域名、目录结构，它的正则规则比HAProxy更为强大和灵活，这也是它目前广泛流行的主要原因之一，Nginx单凭这点可利用的场合就远多于LVS了。 2、Nginx对网络稳定性的依赖非常小，理论上能ping通就就能进行负载功能，这个也是它的优势之一；相反LVS对网络稳定性依赖比较大，这点本人深有体会； 3、Nginx安装和配置比较简单，测试起来比较方便，它基本能把错误用日志打印出来。LVS的配置、测试就要花比较长的时间了，LVS对网络依赖比较大。 3、可以承担高负载压力且稳定，在硬件不差的情况下一般能支撑几万次的并发量，负载度比LVS相对小些。 4、Nginx可以通过端口检测到服务器内部的故障，比如根据服务器处理网页返回的状态码、超时等等，并且会把返回错误的请求重新提交到另一个节点，不过其中缺点就是不支持url来检测。比如用户正在上传一个文件，而处理该上传的节点刚好在上传过程中出现故障，Nginx会把上传切到另一台服务器重新处理，而LVS就直接断掉了，如果是上传一个很大的文件或者很重要的文件的话，用户可能会因此而不满。 5、Nginx不仅仅是一款优秀的负载均衡器/反向代理软件，它同时也是功能强大的Web应用服务器。LNMP也是近几年非常流行的web架构，在高流量的环境中稳定性也很好。 6、Nginx现在作为Web反向加速缓存越来越成熟了，速度比传统的Squid服务器更快，可以考虑用其作为反向代理加速器。 7、Nginx可作为中层反向代理使用，这一层面Nginx基本上无对手，唯一可以对比
CDN的四大关键技术
CDN的四大关键技术 >返回 随着宽带网络和宽带流媒体应用的兴起，CDN（通常被称为内容分发网络Content distribution network，有时也被称作内容传递网络Contentdeliverynetwork）作为一种提高网络内容，特别是提高流媒体内容传输的服务质量、节省骨干网络带宽的技术，在国内外得到越来越广泛的应用。 CDN的关键技术主要有内容路由技术、内容分发技术、内容存储技术、内容管理技术等。 内容路由技术 CDN负载均衡系统实现CDN的内容路由功能。它的作用是将用户的请求导向整个CDN网络中的最佳节点。最佳节点的选定可以根据多种策略，例如距离最近、节点负载最轻等。负载均衡系统是整个CDN 的核心，负载均衡的准确性和效率直接决定了整个CDN的效率和性能。 通常负载均衡可以分为两个层次：全局负载均衡（GSLB）和本地负载均衡（SLB）。全局负载均衡（GSLB）主要的目的是在整个网络范围内将用户的请求定向到最近的节点（或者区域）。因此，就近性判断是全局负载均衡的主要功能。本地负载均衡一般局限于一定的区域范围内，其目标是在特定的区域范围内寻找一台最适合的节点提供服务，因此，CDN节点的健康性、负载情况、支持的媒体格式等运行状态是本地负载均衡进行决策的主要依据。 负载均衡可以通过多种方法实现，主要的方法包括DNS、应用层重定向、传输层重定向等等。 对于全局负载均衡而言，为了执行就近性判断，通常可以采用两种方式，一种是静态的配置，例如根据静态的IP地址配置表进行IP地址到CDN节点的映射。另一种方式是动态的检测，例如实时地让CDN 节点探测到目标IP的距离（可以采用RRT，Hops作为度量单位），然后比较探测结果进行负载均衡。当然，静态和动态的方式也可以综合起来使用。 对于本地负载均衡而言，为了执行有效的决策，需要实时地获取Cache设备的运行状态。获取的方法一般有两种，一种是主动探测，一种是协议交互。主动探测针对SLB设备和Cache设备没有协议交互接口的情况，通过ping等命令主动发起探测，根据返回结果分析状态。另一种是协议交互，即SLB 和Cache根据事先定义好的协议实时交换运行状态信息，以便进行负载均衡。比较而言，协议交互比探测方式要准确可靠，但是目前尚没有标准的协议，各厂家的实现一般仅是私有协议，互通比较困难。 内容分发技术 内容分发包含从内容源到CDN边缘的Cache的过程。从实现上看，有两种主流的内容分发技术：PUSH 和PULL. PUSH是一种主动分发的技术。通常，PUSH由内容管理系统发起，将内容从源或者中心媒体资源库分发到各边缘的Cache节点。分发的协议可以采用HTTP/FTP等。通过PUSH分发的内容一般是比较热点
负载均衡的基础原理说明
大家都知道一台服务器的处理能力，主要受限于服务器自身的可扩展硬件能力。所以，在需要处理大量用户请求的时候，通常都会引入负载均衡器，将多台普通服务器组成一个系统，来完成高并发的请求处理任务。 之前负载均衡只能通过DNS来实现，1996年之后，出现了新的网络负载均衡技术。通过设置虚拟服务地址（IP），将位于同一地域（Region）的多台服务器虚拟成一个高性能、高可用的应用服务池；再根据应用指定的方式，将来自客户端的网络请求分发到
服务器池中。网络负载均衡会检查服务器池中后端服务器的健康状态，自动隔离异常状态的后端服务器，从而解决了单台后端服务器的单点问题，同时提高了应用的整体服务能力。 网络负载均衡主要有硬件与软件两种实现方式，主流负载均衡解决方案中，硬件厂商以F5为代表目前市场占有率超过50%，软件主要为NGINX与LVS。但是，无论硬件或软件实现，都逃不出基于四层交互技术的“转发”或基于七层协议的“代理”这两种方式。四层的转发模式通常性能会更好，但七层的代理模式可以根据更多的信息做到更智能地分发流量。一般大规模应用中，这两种方式会同时存在。 2007年F5提出了ADC（Application delivery controller）的概念为传统的负载均衡器增加了大量的功能，常用的有：SSL卸载、压缩优化和TCP连接优化。NGINX也支持很多ADC的特性，但F5的中高端型号会通过硬件加速卡来实现SSL卸载、压缩优化这一类CPU密集型的操作，从而可以提供更好的性能。 F5推出ADC以后，各种各样的功能有很多，但其实我们最常用的也就几种。这里我也简单的总结了一下，并和LVS、Nginx对比了一下。
负载均衡技术的三种实现方法
目前，网络应用正全面向纵深发展，企业上网和政府上网初见成效。随着网络技术的发展，教育信息网络和远程教学网络等也得到普及，各地都相继建起了教育信息网络，带动了网络应用的发展。 一个面向社会的网站，尤其是金融、电信、教育和零售等方面的网站，每天上网的用户不计其数，并且可能都同时并发访问同一个服务器或同一个文件，这样就很容易产生信息传输阻塞现象；加上Internet线路的质量问题，也容易引起出 现数据堵塞的现象，使得人们不得不花很长时间去访问一个站点，还可能屡次看到某个站点“服务器太忙”，或频繁遭遇系统故障。因此，如何优化信息系统的性能，以提高整个信息系统的处理能力是人们普遍关心的问题。 一、负载均衡技术的引入 信息系统的各个核心部分随着业务量的提高、访问量和数据流量的快速增长，其处理能力和计算强度也相应增大，使得单一设备根本无法承担，必须采用多台服务器协同工作，提高计算机系统的处理能力和计算强度，以满足当前业务量的需求。而如何在完成同样功能的多个网络设备之间实现合理的业务量分配，使之不会出现一台设备过忙、而其他的设备却没有充分发挥处理能力的情况。要解决这一问题，可以采用负载均衡的方法。 负载均衡有两个方面的含义：首先，把大量的并发访问或数据流量分担到多台节点设备上分别处理，减少用户等待响应的时间；其次，单个重负载的运算分担到多台节点设备上做并行处理，每个节点设备处理结束后，将结果汇总，再返回给用户，使得信息系统处理能力可以得到大幅度提高。 对一个网络的负载均衡应用，可以从网络的不同层次入手，具体情况要看对网络瓶颈所在之处的具体情况进行分析。一般来说，企业信息系统的负载均衡大体上都从传输链路聚合、采用更高层网络交换技术和设置服务器集群策略三个角度实现。 二、链路聚合——低成本的解决方案 为了支持与日俱增的高带宽应用，越来越多的PC机使用更加快速的方法连入网络。而网络中的业务量分布是不平衡的，一般表现为网络核心的业务量高，而边缘比较低，关键部门的业务量高，而普通部门低。伴随计算机处理能力的大幅度提高，人们对工作组局域网的处理能力有了更高的要求。当企业内部对高带宽应用需求不断增大时（例如Web访问、文档传输及内部网连接），局域网核心部位的数据接口将产生瓶颈问题，因此延长了客户应用请求的响应时间。并且局域网具有分散特性，网络本身并没有针对服务器的保护措施，一个无意的动作，像不小心踢掉网线的插头，就会让服务器与网络断开。 通常，解决瓶颈问题采用的对策是提高服务器链路的容量，使其满足目前的需求。例如可以由快速以太网升级到千兆以太网。对于大型网络来说，采用网络系统升级技术是一种长远的、有前景的解决方案。然而对于许多企业，当需求还没有大到非得花费大量的金钱和时间进行升级时，使用升级的解决方案就显得有些浪费
F5负载均衡算法详解
应用交换技术的负载均衡算法 应用交换技术里主要包括四项关键的技术： ●截获和检查流量 ●服务器监控健康检查 ●负载均衡算法 ●会话保持 截获和检查流量保证只有合适的数据包才能通过； 服务器监控和健康检查随时了解服务器群的可用性状态； 负载均衡和应用交换功能通过各种策略导向到合适的服务器； 会话的保持以实现与应用系统完美结合； F5在应用交换技术中的优势： A、截获和检查流量 –BIG-IP 有最强的数据包截获和检查引擎去检查任何数据流量包中的任何部分，可以检测16384bytes包的深度，理论上可以检测 64Kbytes的包长度 –这使得BIG-IP 明显有别于其他的厂商的产品 B、用于定制控制的iRules工具 –可用来定义如何根据报头和/或TCP有效负载信息来引导、保存和过滤流量。 –iRules增强了企业或服务提供商定根据业务需求定制应用流量的能力。 –通用检查引擎和iRules分别是应用智能和业务决策来进行应用流量管理的方法和工具。 C、服务器监控和健康检查
–服务器(Node)-Ping(ICMP) –服务(Port)-Connect –扩展的应用验证(EA V) –扩展的内容验证(ECV) –针对VOD服务器的专用健康检查机制 –针对节点的检查频率和超时频度,e.g.10seconds响应,e.g.5seconds D、负载均衡和应用交换功能 –Global Load Balancer提供17种负载均衡算法 –F5提供最优质的负载均衡和应用交换功能 静态算法 动态算法 智能算法 I –control UIE + Irules –Local Load Balancer提供12种负载均衡算法 E、持续功能 –连续性与负载平衡是相互对立的，但它对于负载平衡又是必不可少的! –简单的连续性—基于源地址 –HTTP Cookie 连续性 –SSL Session ID 连续性 –目的地址的亲合作用--caches –standby BIG-IP实现对连续性记录的镜像 –智能与第七层的内容交换组合 F5做为应用交换领域的领导厂商，一直保持着技术上的领先地位，F5已经有40多项技术申请了专利，其它的竞争合作伙伴都在购买F5的这些专利技术。接下来我们讨论一下负载均衡算法。
应用负载均衡设计方案v1设计方案
应用负载均衡设计方案v1设 计方案 1．需要有支持应用的负载均衡产品，具备多种负载均衡算法。 2．能够做到根据各个Web服务器的性能，合理地分配服务器群中的每台机器所要处理的请求。 3．能够及时的发现群中的某台机器当掉，从而不对此机器发送请求。当掉机器恢复正常后，自动进行业务处理。 4．可以应对大量的服务访问；至少2, 000, 000条的TCP同时并发连接，至少每秒建立100, 000条连接。 5．有效直观的监控统计界面，包含当前时刻、过去一段时间的请求数量统计、性能统计、会话时间统计。 6．为个人业务提供SSL加密服务，可以将服务器SSL加/解密前移，并提供高效的https加/解密性能。 7．能够提供有效的机制缓解后台应用中间键服务器压力，提高业务的访问量。
一、方案建议 针对上一节提出的需求分析，F5公司充分考虑XXXX现有的实际状况，结合F5公司在 国际上网络优化案例的经验，总结出以下应用交付优化设计方案。 方案采用F5公司的新一代LTM应用交换机BIGIP3400, 提供后台Web服务器集群的负 载均衡；同时，采用另两台BIGIP 3400设备提供后台中间键服务器负载均衡，并减轻中间键服务器的压力。 在负责实现Web服务器负载均衡的BIG-IP 3400上设置两个Vlan , 分别是External Vlan 负责连接外部的防火墙系统, Internal Vlan负责连接部Web服务器集群。并且在该对BIG-IP 3400上，分别采用SSL加速模块帮助后台Web服务器实现业务的加密处理；还采用了动态智能压缩模块帮助XXXX在有限的带宽下实现访问速度的提高和访问量的增大。 在负责实现部中间键服务器负载均衡的BIG-IP 3400也设置两个Vlan，分别是External Vlan 负责连接外部的Web服务器集群, Internal Vlan负责连接部中间键服务器集群。并 且在该对BIG-IP 3400上，采用One-Connection技术降低后台中间键服务器集群的负载。
集群的负载均衡技术综述
集群的负载均衡技术综述 摘要：当今世界，无论在机构内部的局域网还是在广域网如Internet上，信息处理量的增长都远远超出了过去最乐观的估计，即使按照当时最优配置建设的网络，也很快会感到吃不消。如何在完成同样功能的多个网络设备之间实现合理的业务量分配，使之不致于出现一台设备过忙、而别的设备却未充分发挥处理能力的情况，负载均衡机制因此应运而生。本组在课堂上讲解了《集群监控与调度》这一课题，本人在小组内负责负载均衡部分内容，以及PPT的制作。 关键词：负载均衡集群网络计算机 一、前言 负载均衡建立在现有网络结构之上，它提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。它主要完成以下任务：解决网络拥塞问题，服务就近提供，实现地理位置无关性；为用户提供更好的访问质量；提高服务器响应速度；提高服务器及其他资源的利用效率；避免了网络关键部位出现单点失效。 其实，负载均衡并非传统意义上的“均衡”，一般来说，它只是把有可能拥塞于一个地方的负载交给多个地方分担。如果将其改称为“负载分担”，也许更好懂一些。说得通俗一点，负载均衡在网络中的作用就像轮流值日制度，把任务分给大家来完成，以免让一个人累死累活。不过，这种意义上的均衡一般是静态的，也就是事先确定的“轮值”策略。 与轮流值日制度不同的是，动态负载均衡通过一些工具实时地分析数据包，掌握网络中的数据流量状况，把任务合理分配出去。结构上分为本地负载均衡和地域负载均衡(全局负载均衡)，前一种是指对本地的服务器集群做负载均衡，后一种是指对分别放置在不同的地理位置、在不同的网络及服务器群集之间作负载均衡。 服务器群集中每个服务结点运行一个所需服务器程序的独立拷贝，诸如Web、FTP、Telnet或e-mail服务器程序。对于某些服务（如运行在Web服务器上的那些服务）而言，程序的一个拷贝运行在群集内所有的主机上，而网络负载均衡则将工作负载在这些主机间进行分配。对于其他服务（例如e-mail），只有一台主机处理工作负载，针对这些服务，网络负载均衡允许网络通讯量流到一个主机上，并在该主机发生故障时将通讯量移至其他主机。 二、负载均衡技术实现结构 在现有网络结构之上，负载均衡提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。它主要完成以下任务： 1.解决网络拥塞问题，服务就近提供，实现地理位置无关性 2.为用户提供更好的访问质量 3.提高服务器响应速度
软件负载均衡优缺点总结
（总结）Nginx/LVS/HAProxy负载均衡软件的优缺点详解 PS：Nginx/LVS/HAProxy是目前使用最广泛的三种负载均衡软件，本人都在多个项目中实施过，参考了一些资料，结合自己的一些使用经验，总结一下。 一般对负载均衡的使用是随着网站规模的提升根据不同的阶段来使用不同的技术。具体的应用需求还得具体分析，如果是中小型的Web应用，比如日PV小于1000万，用Nginx就完全可以了；如果机器不少，可以用DNS轮询，LVS所耗费的机器还是比较多的；大型网站或重要的服务，且服务器比较多时，可以考虑用LVS。一种是通过硬件来进行进行，常见的硬件有比较昂贵的F5和Array等商用的负载均衡器，它的优点就是有专业的维护团队来对这些服务进行维护、缺点就是花销太大，所以对于规模较小的网络服务来说暂时还没有需要使用；另外一种就是类似于Nginx/LVS/HAProxy的基于Linux的开源免费的负载均衡软件，这些都是通过软件级别来实现，所以费用非常低廉。 目前关于网站架构一般比较合理流行的架构方案：Web前端采用 Nginx/HAProxy+Keepalived作负载均衡器；后端采用MySQL数据库一主多从和读写分离，采用LVS+Keepalived的架构。当然要根据项目具体需求制定方案。 下面说说各自的特点和适用场合。 Nginx的优点是： 1、工作在网络的7层之上，可以针对http应用做一些分流的策略，比如针对域名、目录结构，它的正则规则比HAProxy更为强大和灵活，这也是它目前广泛流行的主要原因之一，Nginx单凭这点可利用的场合就远多于LVS了。 2、Nginx对网络稳定性的依赖非常小，理论上能ping通就就能进行负载功能，这个也是它的优势之一；相反LVS对网络稳定性依赖比较大，这点本人深有体会； 3、Nginx安装和配置比较简单，测试起来比较方便，它基本能把错误用日志打印出来。LVS的配置、测试就要花比较长的时间了，LVS对网络依赖比较大。 3、可以承担高负载压力且稳定，在硬件不差的情况下一般能支撑几万次的并发量，负载度比LVS相对小些。 4、Nginx可以通过端口检测到服务器内部的故障，比如根据服务器处理网页返回的状态码、超时等等，并且会把返回错误的请求重新提交到另一个节点，不过其中缺点就是不支持url来检测。比如用户正在上传一个文件，而处理该上传的节点刚好在上传过程中出现故障，Nginx会把上传切到另一台服务器重新处理，而LVS就直接断掉了，如果是上传一个很大的文件或者很重要的文件的话，用户可能会因此而不满。 5、Nginx不仅仅是一款优秀的负载均衡器/反向代理软件，它同时也是功能强大的Web应用服务器。LNMP也是近几年非常流行的web架构，在高流量的环境中稳定性也很好。 6、Nginx现在作为Web反向加速缓存越来越成熟了，速度比传统的Squid服务器