集群的负载均衡技术综述
集群的负载均衡技术综述
摘要：当今世界，无论在机构内部的局域网还是在广域网如Internet上，信息处理量的增长都远远超出了过去最乐观的估计，即使按照当时最优配置建设的网络，也很快会感到吃不消。如何在完成同样功能的多个网络设备之间实现合理的业务量分配，使之不致于出现一台设备过忙、而别的设备却未充分发挥处理能力的情况，负载均衡机制因此应运而生。本组在课堂上讲解了《集群监控与调度》这一课题，本人在小组内负责负载均衡部分内容，以及PPT的制作。
关键词：负载均衡集群网络计算机
一、前言
负载均衡建立在现有网络结构之上，它提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。它主要完成以下任务：解决网络拥塞问题，服务就近提供，实现地理位置无关性；为用户提供更好的访问质量；提高服务器响应速度；提高服务器及其他资源的利用效率；避免了网络关键部位出现单点失效。
其实，负载均衡并非传统意义上的“均衡”，一般来说，它只是把有可能拥塞于一个地方的负载交给多个地方分担。如果将其改称为“负载分担”，也许更好懂一些。说得通俗一点，负载均衡在网络中的作用就像轮流值日制度，把任务分给大家来完成，以免让一个人累死累活。不过，这种意义上的均衡一般是静态的，也就是事先确定的“轮值”策略。
与轮流值日制度不同的是，动态负载均衡通过一些工具实时地分析数据包，掌握网络中的数据流量状况，把任务合理分配出去。结构上分为本地负载均衡和地域负载均衡(全局负载均衡)，前一种是指对本地的服务器集群做负载均衡，后一种是指对分别放置在不同的地理位置、在不同的网络及服务器群集之间作负载均衡。
服务器群集中每个服务结点运行一个所需服务器程序的独立拷贝，诸如Web、FTP、Telnet或e-mail服务器程序。对于某些服务（如运行在Web服务器上的那些服务）而言，程序的一个拷贝运行在群集内所有的主机上，而网络负载均衡则将工作负载在这些主机间进行分配。对于其他服务（例如e-mail），只有一台主机处理工作负载，针对这些服务，网络负载均衡允许网络通讯量流到一个主机上，并在该主机发生故障时将通讯量移至其他主机。
二、负载均衡技术实现结构
在现有网络结构之上，负载均衡提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。它主要完成以下任务：
1.解决网络拥塞问题，服务就近提供，实现地理位置无关性
2.为用户提供更好的访问质量
3.提高服务器响应速度
4.提高服务器及其他资源的利用效率
5.避免了网络关键部位出现单点失效
广义上的负载均衡既可以设置专门的网关、负载均衡器，也可以通过一些专用软件与协议来实现。对一个网络的负载均衡应用，从网络的不同层次入手，根据网络瓶颈所在进行具体分析。从客户端应用为起点纵向分析，参考OSI的分层模型，我们把负载均衡技术的实现分为客户端负载均衡技术、应用服务器技术、高层协议交换、网络接入协议交换等几种方式。
三、负载均衡的层次
◆基于客户端的负载均衡
这种模式指的是在网络的客户端运行特定的程序，该程序通过定期或不定期的收集服务器群的运行参数：CPU占用情况、磁盘IO、内存等动态信息，再根据某种选择策略，找到可以提供服务的最佳服务器，将本地的应用请求发向它。如果负载信息采集程序发现服务器失效，则找到其他可替代的服务器作为服务选择。整个过程对于应用程序来说是完全透明的，所有的工作都在运行时处理。因此这也是一种动态的负载均衡技术。
但这种技术存在通用性的问题。因为每一个客户端都要安装这个特殊的采集程序；并且，为了保证应用层的透明运行，需要针对每一个应用程序加以修改，通过动态链接库或者嵌入的方法，将客户端的访问请求能够先经过采集程序再发往服务器，以重定向的过程进行。对于每一个应用几乎要对代码进行重新开发，工作量比较大。
所以，这种技术仅在特殊的应用场合才使用到，比如在执行某些专有任务的时候，比较需要分布式的计算能力，对应用的开发没有太多要求。另外，在采用JA V A构架模型中，常常使用这种模式实现分布式的负载均衡，因为java应用都基于虚拟机进行，可以在应用层和虚拟机之间设计一个中间层，处理负载均衡的工作。
◆应用服务器的负载均衡技术
如果将客户端的负载均衡层移植到某一个中间平台，形成三层结构，则客户端应用可以不需要做特殊的修改，透明的通过中间层应用服务器将请求均衡到相应的服务结点。比较常见的实现手段就是反向代理技术。使用反向代理服务器，可以将请求均匀转发给多台服务器，或者直接将缓存的数据返回客户端，这样的加速模式在一定程度上可以提升静态网页的访问速度，从而达到负载均衡的目的。
使用反向代理的好处是，可以将负载均衡和代理服务器的高速缓存技术结合在一起，提供有益的性能。然而它本身也存在一些问题，首先就是必须为每一种服务都专门开发一个反向代理服务器，这就不是一个轻松的任务。
反向代理服务器本身虽然可以达到很高效率，但是针对每一次代理，代理服务器就必须维护两个连接，一个对外的连接，一个对内的连接，因此对于特别高的连接请求，代理服务器的负载也就非常之大。反向代理能够执行针对应用协议而优化的负载均衡策略，每次
仅访问最空闲的内部服务器来提供服务。但是随着并发连接数量的增加，代理服务器本身的负载也变得非常大，最后反向代理服务器本身会成为服务的瓶颈。
◆基于域名系统的负载均衡
NCSA的可扩展Web是最早使用动态DNS轮询技术的web系统。在DNS中为多个地址配置同一个名字，因而查询这个名字的客户机将得到其中一个地址，从而使得不同的客户访问不同的服务器，达到负载均衡的目的。在很多知名的web站点都使用了这个技术：包括早期的yahoo站点、163等。动态DNS轮询实现起来简单，无需复杂的配置和管理，一般支持bind8.2以上的类unix系统都能够运行，因此广为使用。
DNS负载均衡是一种简单而有效的方法，但是存在不少问题。
首先域名服务器无法知道服务结点是否有效，如果服务结点失效，余名系统依然会将域名解析到该节点上，造成用户访问失效。
其次，由于DNS的数据刷新时间TTL（Time to LIVE）标志，一旦超过这个TTL，其他DNS服务器就需要和这个服务器交互，以重新获得地址数据，就有可能获得不同IP地址。因此为了使地址能随机分配，就应使TTL尽量短，不同地方的DNS服务器能更新对应的地址，达到随机获得地址。然而将TTL设置得过短，将使DNS流量大增，而造成额外的网络问题。
最后，它不能区分服务器的差异，也不能反映服务器的当前运行状态。当使用DNS负载均衡的时候，必须尽量保证不同的客户计算机能均匀获得不同的地址。例如，用户A可能只是浏览几个网页，而用户B可能进行着大量的下载，由于域名系统没有合适的负载策略，仅仅是简单的轮流均衡，很容易将用户A的请求发往负载轻的站点，而将B的请求发往负载已经很重的站点。因此，在动态平衡特性上，动态DNS轮询的效果并不理想。
◆带均衡策略的服务器群集
如今，服务器必须具备提供大量并发访问服务的能力，其处理能力和I/O能力已经成为提供服务的瓶颈。如果客户的增多导致通信量超出了服务器能承受的范围，那么其结果必然是——宕机。显然，单台服务器有限的性能不可能解决这个问题，一台普通服务器的处理能力只能达到每秒几万个到几十万个请求，无法在一秒钟内处理上百万个甚至更多的请求。但若能将10台这样的服务器组成一个系统，并通过软件技术将所有请求平均分配给所有服务器，那么这个系统就完全拥有每秒钟处理几百万个甚至更多请求的能力。这就是利用服务器群集实现负载均衡的最初基本设计思想。
早期的服务器群集通常以光纤镜像卡进行主从方式备份。令服务运营商头疼的是关键性服务器或应用较多、数据流量较大的服务器一般档次不会太低，而服务运营商花了两台服务器的钱却常常只得到一台服务器的性能。通过地址转换将多台服务器网卡的不同IP 地址翻译成一个VIP(Virtual IP)地址，使得每台服务器均时时处于工作状态。原来需要用小型机来完成的工作改由多台PC服务器完成，这种弹性解决方案对投资保护的作用是相当明显的——既避免了小型机刚性升级所带来的巨大设备投资，又避免了人员培训的重复投资。同
时，服务运营商可以依据业务的需要随时调整服务器的数量。
网络负载均衡提高了诸如Web服务器、FTP服务器和其他关键任务服务器上的因特网服务器程序的可用性和可伸缩性。单一计算机可以提供有限级别的服务器可靠性和可伸缩性。但是，通过将两个或两个以上高级服务器的主机连成群集，网络负载均衡就能够提供关键任务服务器所需的可靠性和性能。
为了建立一个高负载的Web站点，必须使用多服务器的分布式结构。上面提到的使用代理服务器和Web服务器相结合，或者两台Web服务器相互协作的方式也属于多服务器的结构，但在这些多服务器的结构中，每台服务器所起到的作用是不同的，属于非对称的体系结构。非对称的服务器结构中每个服务器起到的作用是不同的，例如一台服务器用于提供静态网页，而另一台用于提供动态网页等等。这样就使得网页设计时就需要考虑不同服务器之间的关系，一旦要改变服务器之间的关系，就会使得某些网页出现连接错误，不利于维护，可扩展性也较差。
能进行负载均衡的网络设计结构为对称结构，在对称结构中每台服务器都具备等价的地位，都可以单独对外提供服务而无须其他服务器的辅助。然后，可以通过某种技术，将外部发送来的请求均匀分配到对称结构中的每台服务器上，接收到连接请求的服务器都独立回应客户的请求。在这种结构中，由于建立内容完全一致的Web服务器并不困难，因此负载均衡技术就成为建立一个高负载Web 站点的关键性技术。
总之，负载均衡是一种策略，它能让多台服务器或多条链路共同承担一些繁重的计算或I/O任务，从而以较低成本消除网络瓶颈，提高网络的灵活性和可靠性。
参考文献
1.陈华平可扩展并行Web服务器集群的实现技术[期刊论文]-计算机工程与应用2000(03)
2.胡子昂;王立算法、网络拓扑及调度频率与动态负载平衡的关系[期刊论文]-计算机工程与科学2000(01)
3.Dahlin M Interpreting Stale Load Information 1999
4.Mitzenmacher M How Useful is Old Information
5.Cenova Z;Christensen K J Chanllenges In :URL Switching for Implementing Globally Distributed Web Sites
2000
6.马晓星分布式Web服务器综述[期刊论文]-计算机科学2002(01)
7. 郭成城.晏蒲柳.GUO Cheng-Cheng.YAN Pu-Liu 一种异构Web服务器集群动态负载均衡算法[期刊论文]-计算机学报
2005,28(2)
8. 陈超.赵跃龙.王文丰.潘敏.CHEN Chao.ZHAO Yue-long.WANG Wen-feng.PAN Min 基于反馈的改进动态负载均衡策略[期
刊论文]-计算机工程2010,36(14)
9. 潘向辉.张二虎.吴学毅.蔺广逢一种多集群网格的负载均衡算法[期刊论文]-计算机工程与
应用2009,45(35)
10. 李双庆.游莲.程代杰基于内容的Web集群系统负载均衡策略[期刊论文]-重庆大学学报(自然科学版)2003,26(5)
11.郑燕玲负载均衡概述[期刊论文]-福建电脑2010(1)
12.董立岩.黄乐.王利民.毛锐.殷涵改进的分布式系统负载平衡策略[期刊论文]-北京工业大学学报2011(12)
13.陈小燕.万麟瑞网络负载均衡算法研究[期刊论文]-硅谷2010(24)
14.张丽勇.骆参驹基于LVS的校园网Web服务器集群负载均衡应用[期刊论文]-大众科技2010(12)
15.徐群.祝永志集群系统中的负载均衡问题的研究[期刊论文]-计算机技术与发展2009(8)
16.郑毅强.郭荷清.高伟.林满山基于业务组件划分的多集群体系结构[期刊论文]-计算机工程2006(6)
17.陈亮.王加阳基于粗糙集的负载均衡算法研究[期刊论文]-计算机工程与科学2010(1)
18.余燕芳.陆军基于改进遗传算法的服务器端负载均衡算法[期刊论文]-微电子学与计算机2007(7)
19.吴璇.隋红建提高防火墙集群效率的分散式均衡算法及实现[期刊论文]-计算机工程与设计2006(12)
负载均衡技术
负载均衡技术 现在网络中常见的的负载均衡主要分为两种：一种是通过硬件来进行，常见的硬件有比较昂贵的NetScaler、F5、Radware和Array等商用的负载均衡器，也有类似于LVS、Nginx、HAproxy的基于Linux的开 源的负载均衡策略, 商用负载均衡里面NetScaler从效果上比F5的效率上更高。对于负载均衡 器来说，不过商用负载均衡由于可以建立在四~七层协议之上，因此适用面更 广所以有其不可替代性，他的优点就是有专业的维护团队来对这些服务进行维护、缺点就是花销太大，所以对于规模较小的网络服务来说暂时还没有需要使用。 另一种负载均衡的方式是通过软件：比较常见的有LVS、Nginx、HAproxy 等，其中LVS是建立在四层协议上面的，而另外Nginx和HAproxy是建立在七 层协议之上的，下面分别介绍关于 LVS：使用集群技术和Linux操作系统实现一个高性能、高可用的服务器，它具有很好的可伸缩性（Scalability）、可靠性（Reliability）和可管理性（Manageability）。 LVS的特点是： 1、抗负载能力强、是工作在网络4层之上仅作分发之用，没有流量的产生； 2、配置性比较低，这是一个缺点也是一个优点，因为没有可太多配置的东西，所以并不需要太多接触，大大减少了人为出错的几率； 3、工作稳定，自身有完整的双机热备方案；
4、无流量，保证了均衡器IO的性能不会收到大流量的影响； 5、应用范围比较广，可以对所有应用做负载均衡； 6、LVS需要向IDC多申请一个IP来做Visual IP，因此需要一定的网络知识，所以对操作人的要求比较高。 Nginx的特点是： 1、工作在网络的7层之上，可以针对http应用做一些分流的策略，比如针对域名、目录结构； 2、Nginx对网络的依赖比较小； 3、Nginx安装和配置比较简单，测试起来比较方便； 4、也可以承担高的负载压力且稳定，一般能支撑超过1万次的并发； 5、Nginx可以通过端口检测到服务器内部的故障，比如根据服务器处理网页返回的状态码、超时等等，并且会把返回错误的请求重新提交到另一个节点，不过其中缺点就是不支持url来检测； 6、Nginx对请求的异步处理可以帮助节点服务器减轻负载； 7、Nginx能支持http和Email，这样就在适用范围上面小很多； 8、不支持Session的保持、对Big request header的支持不是很好，另外默认的只有Round-robin和IP-hash两种负载均衡算法。 HAProxy的特点是：
负载均衡技术综述
?2004 Journal of Software 软件学报 负载均衡技术综述* 殷玮玮1+ 1(南京大学软件学院,江苏南京210093) Overview of Load Balancing Technology YIN Wei-Wei1+ 1(Department of Software Institute, Nanjing University, Nanjing 210093, China) + Corresponding author: Phn +86-**-****-****, Fax +86-**-****-****, E-mail: bingyu0046@https://www.sodocs.net/doc/495280992.html,, https://www.sodocs.net/doc/495280992.html, Received 2000-00-00; Accepted 2000-00-00 Yin WW. Overview of Load Balancing Technology. Journal of Software, 2004,15(1):0000~0000. https://www.sodocs.net/doc/495280992.html,/1000-9825/15/0000.htm Abstract: Load balance technology based on existing network structure, provides a cheap and efficient method for expanding bandwidth of the server and increase the server throughput, strengthens network data processing ability, increases network flexibility and availability. This paper introduces in detail the three aspects: the classification of load balancing, load balancing and load balancing algorithm, then compares the load balancing algorithm commonly used and their advantages and disadvantages, and describes the dynamic load balancing strat egy and three kinds of scheduling methods. Key words: load balancing technology; the load conditions; the static load balancing algorithm; the dynamic load balancing algorithm 摘要: 负载均衡技术基于现有网络结构，提供了一种扩展服务器带宽和增加服务器吞吐量的廉价有效的方法，加强了网络数据处理能力，提高了网络的灵活性和可用性。本文从负载均衡技术的分类、负载均衡技术和负载均衡算法三个方面对负载均衡做了详细介绍，对常用负载均衡算法做了优缺点比较，并对动态负载均衡算法遵循的策略和三种调度方式做了阐述。 关键词: 负载均衡技术; 负载状况；静态负载均衡算法；动态负载均衡算法 中图法分类号: ****文献标识码: A 随着大规模并行分布处理系统，特别是网络工作站机群系统的广泛应用，如何采取有效的调度策略来平衡各结点(机)的负载，从而提高整个系统资源的利用率，已成为人们的研究热点。负载均衡技术基于现有网络结构，提供了一种扩展服务器带宽和增加服务器吞吐量的廉价有效的方法，加强了网络数据处理能力，提高了网络的灵活性和可用性。负载均衡的应用，能够有效地解决网络拥塞问题，能够就近提供服务，实现地理位置无关性(异地负载均衡)。同时，这项技术还能提高服务器的响应速度，提高服务器及其它资源的利用 *Supported by the **** Foundation of China under Grant No.****, **** (基金中文完整名称); the **** Foundation of China under Grant No.****, **** (基金中文完整名称) 作者简介: 殷玮玮(1992－),女,河南舞阳人,硕士,主要研究领域为分布式计算,负载均衡.
集群HA负载均衡技术
实用标准文案 NLB 、HA、HPC集群、双机、负载均衡、 1.1什么是集群）就是一组计算机，它们作为一个整体向用户cluster 简单的说，集群（）。一提供一组网络资源。这些单个的计算机系统就是集群的节点（node她们看/个理想的集群是，用户从来不会意识到集群系统底层的节点，在他来，集群是一个系统，而非多个计算机系统。并且集群系统的管理员可以随意增加和删改集群系统的节点。集群系统的主要优点：1.2 高可扩展性：(1)：集群中的一个节点失效，它的任务可传递给其他节点。可高可用性HA(2) 以有效防止单点失效。 高性能：负载平衡集群允许系统同时接入更多的用户。(3) 高性价比：可以采用廉价的符合工业标准的硬件构造高性能的系统。(4) 集群系统的分类2.1 虽然，根据集群系统的不同特征可以有多种分类方法，但是一般把集群系统 分为两类：集群。,、高可用(High Availability)集群简称HA(1) 这类集群致力于提供高度可靠的服务。就是利用集群系统的容错性对外提供 小时不间断的服务，如高可用的文件服务器、数据库服务等关键应用。7*24负载均衡集群：使任务可以在集群中尽可能平均地分摊不同的计算机进行处 精彩文档． 实用标准文案 理，充分利用集群的处理能力，提高对任务的处理效率。以提供更加高效稳
定的服务。在实际应用中这几种集群类型可能会混合使用， 高就会包含高可用的网络文件系统、如在一个使用的网络流量负载均衡集群中，可用的网络服务。集群，也HPC(High Perfermance Computing)集群，简称(2)、性能计算称为科学计算集群。 在这种集群上运行的是专门开发的并行应用程序，它可以把一个问题的数据 从而可以分布到多台的计算机上，利用这些计算机的共同资源来完成计算任务，解决单机不能胜任的工作（如问题规模太大，单机计算速度太慢）。 如天气预报、这类集群致力于提供单个计算机所不能提供的强大的计算能力。石油勘探与油藏模拟、分子模拟、生物计算等。(HA) 3.1 什么是高可用性和可维护(reliability)计算机系统的可用性(availability)是通过系统的可靠性 来度量系统(MTTF)来度量的。工程上通常用平均无故障时间性(maintainability)于是可用性被定义）来度量系统的可维护性。,用平均维修时间（MTTR的可靠性MTTF/ (MTTF+MTTR)*100% 为：负载均衡服务器的高可用性主服务器和备份机上都需要建立一个备份机。为了屏蔽负载均衡服务器的失效，”这样的信息来监I am alive监控程序，通过传送诸如“运行High Availability它就接管当备份机不能在一定的时间内收到这样的信息时，控对方的运行状况。I am 并继续提供服务；当备份管理器又从主管理器收到“主服务器的服务IP精彩文档．实用标准文案 地址，这样的主管理器就开开始再次进IPalive”这样的信息是，它就释放服务行集群管理的工作了。为在主服务器失效的情况下系统能正常工作，我们在主、备份机之间实现负载集群系统配置信息的同步与备份，保持二者系统的基本一
Tomcat集群与负载均衡
Tomcat集群与负载均衡（转载） 在单一的服务器上执行WEB应用程序有一些重大的问题，当网站成功建成并开始接受大量请求时，单一服务器终究无法满足需要处理的负荷量，所以就有点显得有点力不从心了。另外一个常见的问题是会产生单点故障，如果该服务器坏掉，那么网站就立刻无法运作了。不论是因为要有较佳的扩充性还是容错能力，我们都会想在一台以上的服务器计算机上执行WEB应用程序。所以，这时候我们就需要用到集群这一门技术了。 在进入集群系统架构探讨之前，先定义一些专门术语： 1. 集群(Cluster)：是一组独立的计算机系统构成一个松耦合的多处理器系统，它们之间通过网络实现进程间的通信。应用程序可以通过网络共享内存进行消息传送，实现分布式计算机。 2. 负载均衡(Load Balance)：先得从集群讲起，集群就是一组连在一起的计算机，从外部看它是一个系统，各节点可以是不同的操作系统或不同硬件构成的计算机。如一个提供Web服务的集群，对外界来看是一个大Web服务器。不过集群的节点也可以单独提供服务。 3. 特点：在现有网络结构之上，负载均衡提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。集群系统(Cluster)主要解决下面几个问题： 高可靠性（HA）：利用集群管理软件，当主服务器故障时，备份服务器能够自动接管主服务器的工作，并及时切换过去，以实现对用户的不间断服务。 高性能计算（HP）：即充分利用集群中的每一台计算机的资源，实现复杂运算的并行处理，通常用于科学计算领域，比如基因分析，化学分析等。 负载平衡：即把负载压力根据某种算法合理分配到集群中的每一台计算机上，以减轻主服务器的压力，降低对主服务器的硬件和软件要求。 目前比较常用的负载均衡技术主要有： 1. 基于DNS的负载均衡 通过DNS服务中的随机名字解析来实现负载均衡，在DNS服务器中，可以为多个不同的地址配置同一个名字，而最终查询这个名字的客户机将在解析这个名字时得到其中一个地址。因此，对于同一个名字，不同的客户机会得到不同的地址，他们也就访问不同地址上的Web服务器，从而达到负载均衡的目的。 2. 反向代理负载均衡（如Apache+JK2+Tomcat这种组合） 使用代理服务器可以将请求转发给内部的Web服务器，让代理服务器将请求均匀地转发给多台内部Web服务器之一上，从而达到负载均衡的目的。这种代理方式与普通的代理方式有所不同，标准代理方式是客户使用代理访问多个外部Web服务器，而这种代理方式是多个客户使用它访问内部Web服务器，因此也被称为反向代理模式。 3. 基于NAT（Network Address Translation）的负载均衡技术（如Linux Virtual Server，简称LVS）
服务器负载均衡技术
HUAWEI USG6000V系列NFV防火墙技术白皮书之---服务器负载均衡技术白皮书 华为技术有限公司 Huawei Technologies Co., Ltd.
目录 1背景和概述 (2) 2全局服务器负载均衡（GSLB） (3) 3本地服务器负载均衡（LSLB） (4) 3.1使用目的MAC地址转换的服务器负载均衡（DR） (4) 3.2使用网络地址转换实现的服务器负载均衡（L4 SLB） (5) 3.3使用轻量代理和网络地址转换的服务器负载均衡（L4 lwProxy SLB） (7) 3.4使用全量Socket 代理的服务器负载均衡（L7 Socket Proxy SLB） (9) 3.4.1socket代理加业务会话关联保持 (9) 3.4.2根据URL类型不同的分担，静态资源访问和动态计算访问分开多种服务 器10 3.4.3SSL卸载 (10) 3.4.4链路优化：压缩、协议优化、本地cache、多路复用 (11) 3.5业务保持技术 (13) 4华为USG防火墙支持的SLB功能列表 (14)
1 背景和概述 随着互联网的快速发展，用户访问量的快速增长，使得单一的服务器性能已经无法满足大量用户的访问，企业开始通过部署多台服务器来解决性能的问题，由此就产生了服务器负载均衡的相关技术方案。 在实际的服务器负载均衡应用中，由于需要均衡的业务种类以及实际服务器部署场景的不同（比如是否跨地域、跨ISP数据中心等），存在多种负载均衡的技术。如下典型的组网方式如图所示： 服务提供方为了支撑大批量的用户访问，以及跨不同地域、不同接入ISP的用户都能够获得高质量的业务访问体验，其已经在不同地域、不同ISP数据中心搭建了服务器，这样就带来一个需求，也就是客户的访问能够就近、优先选择同一个ISP数据中心的服务器，从而获得高质量的业务访问体验。 同时，基于单台服务器能够提供的业务访问并发是有限的，那么就自然想到使用多台服务器来形成一个“集群”，对外展现出一个业务访问服务器，以满足大量用户访问、而且可以根据业务访问量的上升可以动态的进行业务能力扩容的需要。
基于Nginx的Session-sticky技术的软件负载均衡方案原理和实施步骤v1.0-20130929
基于Nginx的Session-sticky技术的软件负载均衡方案原理和实施步骤 [一]、综述 (1)实现原理：用户请求到nginx，基于nginx的nginx-sticky-module模块的session sticky（会话粘滞）实现后端应用服务器的路由选择，再将用户请求提交到后端的tomcat/weblogic/websphere 应用处理并逆向反馈响应。 (2)技术选型： Nginx+ nginx-sticky-module+J2EE中间件（容器）。 (3)应用场景： 本解决方案是基于浏览器的Cookie机制，通过nginx的反向代理机制，将浏览器与后端应用服务器的访问映射关系，作为前端请求转发到实现某个会话内所有用户的请求都访问当相同的后端服务器。 [二]、安装步骤 创建www用户和组,以及主机需要的目录,日志目录 groupadd www useradd -g www www 一、依赖的程序 1. gzip module requires zlib library 2. rewrite module requires pcre library 3. ssl support requires openssl library 二、依赖的程序的安装的方法 1、zlib 现在最新的版本是zlib-1.2.5 官网下载地址：https://www.sodocs.net/doc/495280992.html,/zlib-1.2.5.tar.gz $tar -xvzf zlib-1.2.5.tar.gz 2、 pcre现在的最新版本是pcre-8.02.tar.gz 官网下载地址：ftp://https://www.sodocs.net/doc/495280992.html,/pub/software/programming/pcre/pcre- 8.02.tar.gz $tar -xvzf pcre-8.02.tar.gz $cd pcre-8.02 $./configure --prefix=/usr/local/pcre --enable-utf8 --enable-unicode-properties $ make && make install 3、openssl现在最新版本是openssl-1.0.0a.tar.gz 官网下载地址：https://www.sodocs.net/doc/495280992.html,/source/openssl-1.0.0a.tar.gz $tar zvxf openssl-1.0.0.tar.gz $cd openssl-1.0.0 $./config --prefix=/usr/local/ssl-1.0.0 shared zlib-dynamic enable-camellia $make && make install 4、安装Nginx 1.0.0，这种方法./configure 要带很多参数，大家要注意。 官网下载地址：https://www.sodocs.net/doc/495280992.html,/ $tar zvxf Nginx 1.0.0.tar.gz $cd Nginx 1.0.0 $./configure --prefix=/usr/local/nginx --with-http_gzip_static_module
负载均衡技术的三种实现方法
目前，网络应用正全面向纵深发展，企业上网和政府上网初见成效。随着网络技术的发展，教育信息网络和远程教学网络等也得到普及，各地都相继建起了教育信息网络，带动了网络应用的发展。 一个面向社会的网站，尤其是金融、电信、教育和零售等方面的网站，每天上网的用户不计其数，并且可能都同时并发访问同一个服务器或同一个文件，这样就很容易产生信息传输阻塞现象；加上Internet线路的质量问题，也容易引起出 现数据堵塞的现象，使得人们不得不花很长时间去访问一个站点，还可能屡次看到某个站点“服务器太忙”，或频繁遭遇系统故障。因此，如何优化信息系统的性能，以提高整个信息系统的处理能力是人们普遍关心的问题。 一、负载均衡技术的引入 信息系统的各个核心部分随着业务量的提高、访问量和数据流量的快速增长，其处理能力和计算强度也相应增大，使得单一设备根本无法承担，必须采用多台服务器协同工作，提高计算机系统的处理能力和计算强度，以满足当前业务量的需求。而如何在完成同样功能的多个网络设备之间实现合理的业务量分配，使之不会出现一台设备过忙、而其他的设备却没有充分发挥处理能力的情况。要解决这一问题，可以采用负载均衡的方法。 负载均衡有两个方面的含义：首先，把大量的并发访问或数据流量分担到多台节点设备上分别处理，减少用户等待响应的时间；其次，单个重负载的运算分担到多台节点设备上做并行处理，每个节点设备处理结束后，将结果汇总，再返回给用户，使得信息系统处理能力可以得到大幅度提高。 对一个网络的负载均衡应用，可以从网络的不同层次入手，具体情况要看对网络瓶颈所在之处的具体情况进行分析。一般来说，企业信息系统的负载均衡大体上都从传输链路聚合、采用更高层网络交换技术和设置服务器集群策略三个角度实现。 二、链路聚合——低成本的解决方案 为了支持与日俱增的高带宽应用，越来越多的PC机使用更加快速的方法连入网络。而网络中的业务量分布是不平衡的，一般表现为网络核心的业务量高，而边缘比较低，关键部门的业务量高，而普通部门低。伴随计算机处理能力的大幅度提高，人们对工作组局域网的处理能力有了更高的要求。当企业内部对高带宽应用需求不断增大时（例如Web访问、文档传输及内部网连接），局域网核心部位的数据接口将产生瓶颈问题，因此延长了客户应用请求的响应时间。并且局域网具有分散特性，网络本身并没有针对服务器的保护措施，一个无意的动作，像不小心踢掉网线的插头，就会让服务器与网络断开。 通常，解决瓶颈问题采用的对策是提高服务器链路的容量，使其满足目前的需求。例如可以由快速以太网升级到千兆以太网。对于大型网络来说，采用网络系统升级技术是一种长远的、有前景的解决方案。然而对于许多企业，当需求还没有大到非得花费大量的金钱和时间进行升级时，使用升级的解决方案就显得有些浪费
负载均衡技术：带过流保护的并行电源模块
Load-sharing techniques:Paralleling power modules with overcurrent protection Paralleling low-current, low-voltage power modules for high-current, low-voltage applications has many benefits.Among them are: redundancy for enhanced reliability, hot-swap capability, distributed heat removal, and design flexi-bility. Paralleling power stages requires load sharing in order to equalize the stresses among the modules. One method of load sharing, based upon the automatic master/slave architecture, is to use a dedicated controller, such as the UCC39002, to provide for equal current distribution of the load current among the parallel-connected power sup-plies. The power modules must be equipped with true remote-sense capability or an output-adjustment terminal.The output current of each module is measured and com-pared to a common load-share bus. The positive sense voltage or the voltage of the output voltage adjust pin of each module is adjusted to provide equal current sharing.Several modules are paralleled so that the entire assem-bly can support a full load much greater than an individual module would be capable of supplying. Due to manufactur-ing tolerances and component variations, startup delay times typically vary slightly from module to module. When the modules to be paralleled have an overcurrent protection circuit featuring constant current limit with automatic recovery, starting up fully enabled into the full system load does not pose a problem. Inevitably, one module will have Texas Instruments Incorporated Power Management By Lisa Dinwoodie (Email: lisa_dinwoodie@https://www.sodocs.net/doc/495280992.html,) Power Applications Specialist a faster turn-on than the others. The eager module will carry as much of the load as it can, sometimes up to 140%of its individual current capacity, before its output voltage falters. Meanwhile, the next module will come up and con-tribute to the load. After a brief transition time, all of the modules will be up, the master will be recognized, and accurate load sharing will take place. When the modules to be paralleled have an overcurrent protection circuit featuring a hiccup mode, starting up fully enabled into full system load, regardless of the load sharing technique used, does pose a problem. The module with the fastest turn-on profile will come up into an overcurrent condition. Immediately, in an act of self-preservation, it will go into hiccup mode, alternately sinking and sourcing current. The next module to come up into the load will also fall into this hiccup mode, sinking current when the other module sources it. Because the load-share circuitry essentially adds a voltage loop to the output of each mod-ule, this hiccupping overcurrent protection mode will prevent loop closure. Simultaneously enabling the modules will prevent this hiccup mode from starting, and load shar-ing can be successfully achieved. Figure 1 shows a simple comparator circuit that will simultaneously enable two modules and can be expanded to accommodate more if needed. It assumes that the only
(完整版)F5服务器负载均衡解决方案要点
F5服务器负载均衡解决方案 目录 一．大量数据处理所面临的问题 (2) 1．目前存在隐患 (3) 2．应用系统问题综述 (3) 1)“峰值”问题 (4) 2)多米诺”现象 (4) 3)“N+1”方式 (4) 4)“扩展”不便 (5) 5)“免疫力”差 (5) 6)“容灾”.................................................................................... 错误!未定义书签。 7)应用与网络脱节 (6) 二．F5解决方案 (6) 2.1 网络结构 (6) 2.2 方案优势 (7) 2.2.1避免“不平衡”现象 (7) 2.2.2解决因“峰值堵塞”带来的性能调整“不平衡” (9) 2.2.3避免“多米诺”现象 (9) 2.2.4更好的提供系统容错，提高系统可靠性 (10) 2.2.5“扩展”灵活 (11) 2.2.6“免疫力”强 (12) 2.2.7“容灾” (13) 2.2.8网络感知应用，应用控制网络 (14) 三．相关技术资料 (17) BIG-IP提供支持99.999%的正常运行 (17) 四．成功案例 (19) F5为中国某税务机关提供高可用性解决方案 (19)
一．大量数据处理所面临的问题 在现今的企业中，不论是否提供关键性任务的服务，都需要一个持续运行不断的高可用性网络计算环境以维持不间断的高品质服务。所谓高可用性的环境，也是信息管理人员所必须考虑的四件事： 1.使数据有一个安全的存储和运作方式，即使在设备故障时仍能保持数据的完整 一致。 2.使服务器系统持续运行，即使发生故障仍然让服务持续下去。 3.使整个计算环境能更好的管理，如何容错、容灾、集群共享。 4.如何使投资有最好的效益，使系统有最佳的扩充能力，有最低的整体拥有成本， 也就是在任何情况之下均能确保数据的完整一致，系统持续运行，使服务不间 断，同时有最好的投资回报率。 高可用性被定义为计算系统的连续运行。根据故障停机的业务影响，应用系统需要不同的可用性水平。要想实现一个应用系统的高可用性，所有组件(包括应用和数据库服务器、存储设备以及端到端网络)都需要提供连续的服务。 企业和机构对网络化应用及Internet 的日益依赖，加上语音和数据的集成，创造了对高可用性应用的增加需求。任何类型的系统故障停机都可能意味着收入、信誉和客户满意的巨大损失。 高度网络可用性的利用，企业实施高可用性网络来： ?防止财务损失 ?防止生产力损失 ?改进用户满意度 ?改进客户满意/信任 ?降低反应性IT支持成本，提高IT生产力 ?部署关键任务应用支持新业务实践的好处 ?典型的业务要求 为了实现高度的网络可用性，需要部署下列组件：
数据库负载均衡解决方案
双节点数据库负载均衡解决方案 问题的提出？ 在SQL Server数据库平台上，企业的数据库系统存在的形式主要有单机模式和集群模式（为了保证数据库的可用性或实现备份）如：失败转移集群（MSCS）、镜像（Mirror）、第三方的高可用（HA）集群或备份软件等。伴随着企业的发展，企业的数据量和访问量也会迅猛增加，此时数据库就会面临很大的负载和压力，意味着数据库会成为整个信息系统的瓶颈。这些“集群”技术能解决这类问题吗？SQL Server数据库上传统的集群技术 Microsoft Cluster Server(MSCS) 相对于单点来说Microsoft Cluster Server(MSCS)是一个可以提升可用性的技术，属于高可用集群，Microsoft称之为失败转移集群。 MSCS 从硬件连接上看，很像Oracle的RAC，两个节点，通过网络连接，共享磁盘；事实上SQL Server 数据库只运行在一个节点上，当出现故障时，另一个节点只是作为这个节点的备份； 因为始终只有一个节点在运行，在性能上也得不到提升,系统也就不具备扩展的能力。当现有的服务器不能满足应用的负载时只能更换更高配置的服务器。 Mirror 镜像是SQL Server 2005中的一个主要特点，目的是为了提高可用性，和MSCS相比，用户实现数据库的高可用更容易了，不需要共享磁盘柜，也不受地域的限制。共设了三个服务器，第一是工作数据库（Principal Datebase），第二个是镜像数据库（Mirror），第三个是监视服务器（Witness Server，在可用性方面有了一些保证，但仍然是单服务器工作；在扩展和性能的提升上依旧没有什么帮助。
集群的负载均衡技术综述
集群的负载均衡技术综述 摘要：当今世界，无论在机构内部的局域网还是在广域网如Internet上，信息处理量的增长都远远超出了过去最乐观的估计，即使按照当时最优配置建设的网络，也很快会感到吃不消。如何在完成同样功能的多个网络设备之间实现合理的业务量分配，使之不致于出现一台设备过忙、而别的设备却未充分发挥处理能力的情况，负载均衡机制因此应运而生。本组在课堂上讲解了《集群监控与调度》这一课题，本人在小组内负责负载均衡部分内容，以及PPT的制作。 关键词：负载均衡集群网络计算机 一、前言 负载均衡建立在现有网络结构之上，它提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。它主要完成以下任务：解决网络拥塞问题，服务就近提供，实现地理位置无关性；为用户提供更好的访问质量；提高服务器响应速度；提高服务器及其他资源的利用效率；避免了网络关键部位出现单点失效。 其实，负载均衡并非传统意义上的“均衡”，一般来说，它只是把有可能拥塞于一个地方的负载交给多个地方分担。如果将其改称为“负载分担”，也许更好懂一些。说得通俗一点，负载均衡在网络中的作用就像轮流值日制度，把任务分给大家来完成，以免让一个人累死累活。不过，这种意义上的均衡一般是静态的，也就是事先确定的“轮值”策略。 与轮流值日制度不同的是，动态负载均衡通过一些工具实时地分析数据包，掌握网络中的数据流量状况，把任务合理分配出去。结构上分为本地负载均衡和地域负载均衡(全局负载均衡)，前一种是指对本地的服务器集群做负载均衡，后一种是指对分别放置在不同的地理位置、在不同的网络及服务器群集之间作负载均衡。 服务器群集中每个服务结点运行一个所需服务器程序的独立拷贝，诸如Web、FTP、Telnet或e-mail服务器程序。对于某些服务（如运行在Web服务器上的那些服务）而言，程序的一个拷贝运行在群集内所有的主机上，而网络负载均衡则将工作负载在这些主机间进行分配。对于其他服务（例如e-mail），只有一台主机处理工作负载，针对这些服务，网络负载均衡允许网络通讯量流到一个主机上，并在该主机发生故障时将通讯量移至其他主机。 二、负载均衡技术实现结构 在现有网络结构之上，负载均衡提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。它主要完成以下任务： 1.解决网络拥塞问题，服务就近提供，实现地理位置无关性 2.为用户提供更好的访问质量 3.提高服务器响应速度
负载均衡器部署方式和工作原理
负载均衡器部署方式和工作原理 2011/12/16 小柯信息安全 在现阶段企业网中，只要部署WEB应用防火墙，一般能够遇到负载均衡设备，较常见是f5、redware的负载均衡，在负载均衡方面f5、redware的确做得很不错，但是对于我们安全厂家来说，有时候带来了一些小麻烦。昨日的一次割接中，就遇到了国内厂家华夏创新的负载均衡设备，导致昨日割接失败。 在本篇博客中，主要对负载均衡设备做一个介绍，针对其部署方式和工作原理进行总结。 概述 负载均衡（Load Balance） 由于目前现有网络的各个核心部分随着业务量的提高，访问量和数据流量的快速增长，其处理能力和计算强度也相应地增大，使得单一的服务器设备根本无法承担。在此情况下，如果扔掉现有设备去做大量的硬件升级，这样将造成现有资源的浪费，而且如果再面临下一次业务量的提升时，这又将导致再一次硬件升级的高额成本投入，甚至性能再卓越的设备也不能满足当前业务量增长的需求。 负载均衡实现方式分类 1：软件负载均衡技术 该技术适用于一些中小型网站系统，可以满足一般的均衡负载需求。软件负载均衡技术是在一个或多个交互的网络系统中的多台服务器上安装一个或多个相应的负载均衡软件来实现的一种均衡负载技术。软件可以很方便的安装在服务器上，并且实现一定的均衡负载功能。软件负载均衡技术配置简单、操作也方便，最重要的是成本很低。 2：硬件负载均衡技术 由于硬件负载均衡技术需要额外的增加负载均衡器，成本比较高，所以适用于流量高的大型网站系统。不过在现在较有规模的企业网、政府网站，一般来说都会部署有硬件负载均衡设备（原因1.硬件设备更稳定，2.也是合规性达标的目的）硬件负载均衡技术是在多台服务器间安装相应的负载均衡设备，也就是负载均衡器来完成均衡负载技术，与软件负载均衡技术相比，能达到更好的负载均衡效果。 3：本地负载均衡技术
windows下Tomcat负载均衡和集群配置
轻松实现Apache,Tomcat集群和负载均衡 作者:罗代均 ldj_work#https://www.sodocs.net/doc/495280992.html,,转载请保持完整性 0，环境说明 Apache :apache_2.0.55 1 个 Tomcat: apache-tomcat-5.5.17 (zip版) 2个 mod_jk:: mod_jk-apache-2.0.55.so 1个 第一部分：负载均衡 负载均衡，就是apache将客户请求均衡的分给tomcat1,tomcat2....去处理 1.安装apche,tomcat https://www.sodocs.net/doc/495280992.html,/下载Apache 2.0.55 https://www.sodocs.net/doc/495280992.html,/download-55.cgi下载tomcat5.5 zip版本（解压即可，绿色版） https://www.sodocs.net/doc/495280992.html,/tomcat/tomcat-connectors/jk/binaries/win32/jk-1.2.15/下载mod_jk,注意和 apache版本匹配 按照jdk,我的路径为:E:\ide\apache\Apache2 解压两份Tomcat, 路径分别为 E:\ide\tomcat1,E:\ide\tomcat2
下载mod_jk
2.修改Apache配置文件http.conf 在apache安装目录下conf目录中找到http.conf 在文件最后加上下面一句话就可以了 include "E:\ide\apache\Apache2\conf\mod_jk.conf"
2. http.conf 同目录下新建mod_jk.conf文件，内容如下 #加载mod_jk Module LoadModule jk_module modules/mod_jk-apache-2.0.55.so #指定 workers.properties文件路径 JkWorkersFile conf/workers.properties #指定那些请求交给tomcat处理,"controller"为在workers.propertise里指定的负载分配控制器JkMount /*.jsp controller 3.在http.conf同目录下新建 workers.properties文件，内容如下 worker.list = controller,tomcat1,tomcat2 #server 列表 #========tomcat1======== worker.tomcat1.port=8009 #ajp13 端口号，在tomcat下server.xml配置,默认8009 worker.tomcat1.host=localhost #tomcat的主机地址，如不为本机，请填写ip地址 worker.tomcat1.type=ajp13 worker.tomcat1.lbfactor = 1 #server的加权比重，值越高，分得的请求越多 #========tomcat2======== worker.tomcat2.port=9009 #ajp13 端口号，在tomcat下server.xml配置,默认8009 worker.tomcat2.host=localhost #tomcat的主机地址，如不为本机，请填写ip地址 worker.tomcat2.type=ajp13 worker.tomcat2.lbfactor = 1 #server的加权比重，值越高，分得的请求越多
负载均衡系统构架
负载均衡系统构架 负载均衡系统构架 【摘要】随着计算机网络和Internet应用的飞速发展，信息共享日益广泛化，并深入到人们工作和生活的各个领域。人们对信息共享的依赖正逐渐增强。而作为提供信息载体的服务器的压力也越来越大，对于电子商务、信息共享平台急需合理分配访问流量来减少服务器的压力。 本文对目前的负载均衡技术进行简单的阐述，并对现有均衡算法进行简单的比较，分析其不足之处。并采用LVS（Linux虚拟服务器）实现负载均衡的架构。采用Keepalived技术实现负载均衡的高可用性。并对LVS不同策略上实现的均衡结果进行详细的比较。最终完成对负载均衡系统的构建同时提供了详细的系统搭建步骤，为研究该方向的人员提供可靠的参考资料。 【关键词】负载均衡、LVS、Keepalived、高并发 中图分类号：TN711 文献标识码：A 文章编号： 简介 1.1背景 目前随着网络技术的迅速崛起，网络信息共享数据越来越大，访问量和数据流量的快速增长，所需的处理能力和运算强度也越来越大，使得单一的服务器设备根本无法承担｡在此情况下，如果花大量的资金进行硬件方面的升级，会造成大量的资源浪费。并且对于下一次升级来说，将会投入更大的成本，如何才能利用现有资源，在少量的投入下解决该问题？ 针对此情况而衍生出来的一种廉价有效透明的方法来扩展现有网络设备和服务器的带宽､增加吞吐量､加强网络数 据处理能力､提高网络的灵活性和可用性的技术就是负载均 衡(Load Balance)。 1.2负载均衡技术概述 负载均衡（又称为负载分担），英文名称为Load Balance，其
集群和负载均衡的概念
集群和负载均衡的概念 什么是集群(Cluster) 所谓集群是指一组独立的计算机系统构成的多处理器系统，每台服务器都具有等价的地位，它们之间通过网络实现进程间的通信。应用程序可以通过网络共享内存进行消息传送，实现分布式计算机。集群也是指多台计算机共同协作运行一个应用。 可分为以下几种： （1）高可靠性（HA）。利用集群管理软件，当主服务器故障时，备份服务器能够自动接管主服务器的工作，并及时切换过去，以实现对用户的不间断服务。 （2）高性能计算（HP）。即充分利用集群中的每一台计算机的资源，实现复杂运算的并行处理，通常用于科学计算领域。 （3）负载平衡（Load Balance）。负载均衡就是集群功能其中的一种。即把负载压力根据某种算法合理分配到集群中的每一台计算机上，以减轻主服务器的压力，降低对主服务器的硬件和软件要求。 负载均衡是指将计算请求分配到集群中以使集群中的计算机的计算负载均衡。 负载均衡有两方面的含义： 1：大量的并发访问或数据流量分担到多台节点设备上分别处理，减少用户等待响应的时间。 2：单个重负载的运算分担到多台节点设备上做并行处理，每个节点设备处理结束后，将结果汇总，返回给用户，系统处理能力得到大幅度提高。实现起来可分为： （1）基于服务器软件的集群负载均衡。（在服务器上实现。） （2）NAT的集群负载均衡（在放火墙上，或在交换机上实现。） （3）基于DNS的集群负载均衡（在DNS服务器上实现。） （4）也可以用ISA放火墙实现集群负载均衡,但是需要有ISA服务器本人认为可行性不大。 基于服务器软件的集群负载均衡 microsoft的产品4种集群技术： 1：microsoft 集群服务(MSCS) 2：网络负载均衡（NLB） 3：组件负载均衡（CLB） 4：application center（应用负载均衡） linux 的集群技术：LVS(Linux VirtualServer) LVS对Linux的kernel进行了修改和增加所以要重新编译linux 内核。包名linux-2.4.20-ipvs-*.*.*.patch.gz 基与nat的集群负载均衡（在放火墙上，或在交换机上实现。） NAT（Network Address Translation 网络地址转换）简单地说就是将一个IP地址转换为另一个IP地址。一般用于内部地址与合法的转换。适用于解决Internet IP地址紧张、不想让网络外部知道内部网络结构等的场合下。 NAT负载均衡将一个外部IP地址映射为多个内部IP地址，对每次连接请求动态地转换为一个内部服务器的地址，将外部连接请求引到转换得到地址的那个服务器上，从而达到负载均衡的目的。 基于DNS的集群负载均衡（在DNS服务器上实现。） DNS负载均衡技术是在DNS服务器中为同一个主机名配置多个IP地址，在应答DNS查询时，DNS服务器对每个查询将以DNS文件中主机记录的IP地址按顺序返回不同的解析结果，将客户端的访问引导到不同的机器上去，使得不同的客户端访问不同的服务器，从而达到负载均衡的目的。