负载均衡软件实现方式
负载均衡软件实现方式之一- URL重定向方式
有一种用软件实现负载均衡的方式,是基于"URL重定向"的.
先看看什么是URL重定向:
"简单的说，如果一个网站有正规的URL和别名URL，对别名URL进行重定向到正规URL，访问同一个网址，或者网站改换成了新的域名则把旧的域名重定向到新的域名，都叫URL
重定向"
(https://www.sodocs.net/doc/6117134446.html,/service/host_faq.php)
"很多网络协议都支持“重定向”功能，例如在HTTP协议中支持Location指令，接收到这个指令的浏览器将自动重定向到Location指明的另一个URL上。"
(https://www.sodocs.net/doc/6117134446.html,/art/200604/25388.htm)
这种方式,对于简单的网站,如果网站是自己开发的,也在一定程度上可行.但是它存在着较多的问题:
1、“例如一台服务器如何能保证它重定向过的服务器是比较空闲的，并且不会再次发送Location指令，Location指令和浏览器都没有这方面的支持能力，这样很容易在浏览器上形成一种死循环。”
2、在哪里放LOCATION，也是一个问题。很有可能用户会访问系统的很多个不同URL，这个时候做起来会非常麻烦。并且，对URL的访问，有的时候是直接过来的，可以被重定向，有的时候是带着SESSION之类的，重定向就可能会出问题。并且，这种做法，将负载均衡这个系统级的问题放到了应用层，结果可能是麻烦多多。
3、这种方式一般只适用于HTTP方式，但是实际上有太多情况不仅仅是HTTP方式了，特别是用户如果在应用里面插一点流媒体之类的。
4、重定向的方式，效率远低于IP隧道。
5、这种方式，有的时候会伴以对服务器状态的检测，但往往也是在应用层面实现，从而实时性大打折扣。
实际上，这种方式是一种“对付”的解决方法，并不能真正用于企业级的负载均衡应用（这里企业级是指稍微复杂一点的应用系统）
可以看一下专业的负载均衡软件是如何来实现的：
https://www.sodocs.net/doc/6117134446.html,/pcl/pcl_sis_theory.htm
对比一下可以发现，专业的负载均衡软件要更适用于正规应用，而重定向方式则比较适用于
一些简单的网站应用。
负载均衡软件实现方式之二- 基于DNS
讲到负载均衡，几乎所有地方都必须要讲一下基于DNS的方式，因为这实在是最基本、最简单的方式了。当然，也几乎所有地方都说到这种方式的种种缺点，不过，既然很基本，就还是要说明一下。
下面这段讲得很清楚：
最早的负载均衡技术是通过DNS来实现的，在DNS中为多个地址配置同一个名字，因而查询这个名字的客户机将得到其中一个地址，从而使得不同的客户访问不同的服务器，达到负载均衡的目的。
DNS负载均衡是一种简单而有效的方法，但是它不能区分服务器的差异，也不能反映服务器的当前运行状态。当使用DNS负载均衡的时候，必须尽量保证不同的客户计算机能均匀获得不同的地址。由于DNS数据具备刷新时间标志，一旦超过这个时间限制，其他DNS 服务器就需要和这个服务器交互，以重新获得地址数据，就有可能获得不同IP地址。因此为了使地址能随机分配，就应使刷新时间尽量短，不同地方的DNS服务器能更新对应的地址，达到随机获得地址，然而将过期时间设置得过短，将使DNS流量大增，而造成额外的网络问题。DNS负载均衡的另一个问题是，一旦某个服务器出现故障，即使及时修改了DNS 设置，还是要等待足够的时间（刷新时间）才能发挥作用，在此期间，保存了故障服务器地址的客户计算机将不能正常访问服务器。
尽管存在多种问题，但它还是一种非常有效的做法，包括Yahoo在内的很多大型网站都使用DNS。
引自：负载均衡技术研究
原文：https://www.sodocs.net/doc/6117134446.html,/loadbalance/lb_tech.htm
比较一下DNS方式与专业的负载均衡软件如PCL负载均衡软件，会发现DNS的问题在于，一是往往不能根据系统与服务的状态来判断负载，二是往往不能建立较复杂的负载均衡算法，而最主要的是DNS往往有缓存，简单分配负载问题不大，如果是应用集群这个就是无法接受的。
那么，为什么象Yahoo在内的大型网站都使用DNS方式呢？因为对于门户网站来讲，应用形态单一且简单，重要的是服务器数量与分布，而如果出现短时间对于少量用户的服务中断问题并不大（比如有100台服务器，有一台不行了，即使DNS有缓存，也关系不大，用户重新刷一下，就很可能又分配到其他机器上了）。
但是，对于应用系统而言，比如两三台服务器，跑着比较复杂的应用，DNS方式就完全
不适合了，这个时候，就要用专业的负载均衡软件了。
我们可以看一个实例，这样会对专业化负载均衡软件应该支持什么样的应用有更多的理解：36000人同时应用的负载均衡实例
负载均衡软件实现方式之三- LVS
LVS是一个开源的软件,可以实现LINUX平台下的简单负载均衡.
后面所附文章,讲述了LVS实现负载均衡的方法.
因为文章较长,所以在转载前,先总结一下LVS的优缺点:
优点:
1、开源，免费
2、在网上能找到一些相关技术资源
3、具有软件负载均衡的一些优点
缺点：
1、具有开源产品常有的缺点，最核心的就是没有可靠的支持服务，没有人对其结果负责
2、功能比较简单，支持复杂应用的负载均衡能力较差，如算法较少等。
3、开启隧道方式需重编译内核
4、配置复杂
5、只支持LINUX，如果应用还包括WINDOWS、SOLIRIS等就不行了
因此，建议在简单的LINUX应用中使用LVS，复杂的应用，或者重要的应用，还是应该使用专业的负载均衡软件，如富士通西门子公司的PCL负载均衡软件。
下面转载一下如何使用LVS实现负载均衡：
搭建集群负载均衡系统（原文：https://www.sodocs.net/doc/6117134446.html,/linux/artic ... p/20060707/2519.html）
负载均衡集群是在应用服务器高负载的情况下，由多台节点提供可伸缩的，高负载的服务器组以保证对外提供良好的服务响应；而LVS就是实现这一功能的技术.实际上LVS是一种Linux操作系统上基于IP层的负载均衡调度技术，它在操作系统核心层上，将来自IP层的TCP/UDP请求均衡地转移到不同的服务器，从而将一组服务器构成一个高性能、高可用的虚拟服务器。使用三台机器就可以用LVS实现最简单的集群，如图1所示。
图1 LVS实现集群系统结构简图
图1显示一台名为Director的机器是前端负载均衡器，运行LVS，目前只能在Linux下运行.可以针对web、ftp、cache、mms甚至mysql等服务做load balance;后端两台机器称之为Real Server，是需要负载均衡的服务器，可以为各类系统，Linux、Solaris、Aix、BSD、Windows 都可，甚至Director本身也可以作为Real Server.
本文将通过实际操作，重点介绍如何在Redhat 9上用LVS构建一个负载均衡集群，关于负载均衡集群、LVS的详细内容，可参考如下信息：
https://www.sodocs.net/doc/6117134446.html,/
https://www.sodocs.net/doc/6117134446.html,/developerWorks/ ... r/lvs/part1/index.shtml
安装LVS
RedHat在9.0以后，就将ipvsadm这些套件去除，因此如果想使用LVS(Linux Virtual Server)，就得自己重新编译核心(kernel)。
下载所需软件
下载ipvs补丁包
从RedHat 9开始ipvs不再被预先编译到了RedHat发行版的内核中，我们需要从
https://www.sodocs.net/doc/6117134446.html,/software/kernel-2.4下载新版的ipvs, 这里我们使用
ipvs-1.0.9.tar.gz这个版本.
下载内核linux-2.4.20.tar.gz
这里需要强调的是由于所有的ipvs的补丁包都是为标准内核开发的，所以安装ipvs时不能使用RedHat光盘中的Kernel Source，而是需要去下载标准的内核。所以我们从
ftp://https://www.sodocs.net/doc/6117134446.html,/pub/linux/kernel/得到standard kernel linux-2.4.20.tar.gz
下载ipvs管理工具ipvsadm
从https://www.sodocs.net/doc/6117134446.html,/得到ipvs管理工具ipvsadm-1.21.tar.gz, ipvsadm是设置ipvs转发方式和调度算法的工具.
开始安装
安装内核源码
把linux-2.4.20.tar.gz解压到/usr/src目录，生成了/usr/src/linux目录；如果生成的是/usr/src /linux-2.4.20目录，则要在/usr/src下建立一个连接ln –s linux-2.4.20 linux，因为在ipvs-1.0.9中的makefile文件中默认指定Kernel Source的路径为：KERNELSOURCE = /usr/src/linux
把ipvs补丁Patch到内核源码中
把ipvs-1.0.9.tar.gz解压缩到某个目录，如/test，生成了/test/ipvs-1.0.9目录；进入/test/ipvs- 1.0.9，依次执行如下命令：make patchkernel、make installsource,将ipvs的Patch加载到kernel 的source中。
重新编译支持ipvs的内核
进入/usr/src/linux目录，分别执行：
make mrproper 为创建新的内和配置做好准备
make menuconfig 进行配置
这里请确保IP:Virtual Server Configuration中的选项设定都用M
make dep 检测是否有相关的软件包被使用
make clean 为新内核结构准备源目录树
make bzImage 创建内核引导映像
make modules、make modules_install 生成模块
make install安装新的内核到指定位置并重新配置grub.conf
到这里新内核就安装完毕了,请重启并用此内核引导系统
安装ipvs管理工具ipvsadm
当使用新内核启动后，就可以安装ipvsadm:
tar xzvf ipvsadm-1.21.tar.gz
cd ./ipvsadm-1.21
make
make install
安装完成后，执行ipvsadm命令，如果有如下信息出现则说明安装成功了。
[root@leon c]# ipvsadm
IP Virtual Server version 1.0.9 (size=65536)
Prot LocalAddress:Port Scheduler Flags
->; RemoteAddress:Port Forward Weight ActiveConn InActConn
到现在为止，支持负载均衡功能的director就安装成功了，接下来我们可以通过ipvsadm来配置一个负载均衡集群。
构建负载均衡集群
这里我们假设局域网中有两台FTP服务器,IP分别为FTP1:10.83.33.103,FTP2: 10.83.33.2
所提供的资料都是相同的,这可以通过无密码SSH登录+RSYNC来保证数据一致,这非本文中电,故而略过.我们提供给用户的虚拟IP是10.83.33.100,而在后台为这两台FTP服务器实行LVS负载均衡的服务器的IP是10.83.33.83.这三台均安装RedHat9系统.
我们最终要实现的目标是当用户输入ftp 10.83.33.100时, LVS负载均衡服务器系统会根据当时的负载情况,依据轮换策略来决定Real Server到底是FTP1还是FTP2,从而使得整个FTP服务器的负载到达均衡.
目前LVS有三种负载平衡方式，NAT（Network Address Translation），DR（Direct Routing），IP Tunneling。其中，最为常用的是DR方式，因此这里只说明DR(Direct Routing)方式的LVS负载平衡。其它两种的详细情况请参考LVS-HOWTO.
Director(即10.83.33.83)上执行的设置
为了方便我们将所有步骤写成一个shell script.
#!/bin/bash
echo "0" >; /proc/sys/net/ipv4/ip_forward (关闭ip_forward)
echo "1" >; /proc/sys/net/ipv4/conf/all/send_redirects (开启ICMP Redirects)
echo "1" >; /proc/sys/net/ipv4/conf/default/send_redirects (开启ICMP Redirects)
echo "1" >; /proc/sys/net/ipv4/conf/eth0/send_redirects (开启ICMP Redirects)
ifconfig eth0:100 10.83.33.100 broadcast 10.83.33.100 netmask 255.255.255.255
(设置虚拟IP)
route add -host 10.83.33.100 dev eth0:100 (设置达到虚拟Ip的路由)
ipvsadm –C (清空ipvsadm table)
ipvsadm -A -t 10.83.33.100:21 -s wrr (建立service rule, 当前调度算法为加权轮叫调度) ipvsadm -a -t 10.83.33.100:21 -r 10.83.33.76 -g -w 3 (建立转发规则)
ipvsadm -a -t 10.83.33.100:21 -r 10.83.33.2 -g -w 1 (建立转发规则)
ipvsadm (检查当前ipvsadm table)
将此shell script加入到/etc/rc.local中，这样在每次系统启动时都可以自动运行进行设置了。Realserver(即10.83.33.2和10.83.33.76)上的设置
这里我们必须先修正real server上arp problem .这是因为在使用VS/DR的时候，real server
会在一块网卡上绑定两个IP，但linux在kernel 2.2.14以后就将eth0:1的NOARP FLAG关闭，这使得eth0:1仅仅是eth0的别名，任何对eth0:1的操作都对eth0有效，因此如果此时使eth0:1 NOARP，则也使得eth0 NOARP,这样整个网卡都不会收到数据包,具体的说就是因为我所有的机器都放在同一个网段，当该网段的Router接收到用户对虚拟IP的TCP connection 要求(即使用FTP登录服务器)时，会先在网段中利用Arp request询问谁有VIP的地址，而包含Director与Real Servers上所有的interface,只要他有那个ip，都会发送arp reply回去，造成网段内所有拥有Virtual IP的interface都会reply给Router，最后结果就是看谁的速度快，Router就将该封包送给谁，如此会造成LVS的Server并无法发挥其效果，而我们所希望的是只有Director上的Virtual IP发送arp reply回去,因此需要利用hidden这个pattch，将real server上的Virtual IP给隐藏起来，如此他就不会对Arp Request进行Reply，就可以解决ARP 的问题.具体步骤是:
下载所需的软件包
从http://www.ssi.bg/~ja/得到hidden修正包,不同的核心使用相应的版本.请参考下表
Patch Linux 2.4 Created
hidden-2.4.28-1.diff 2.4.28 - 2.4.30 November 18, 2004
hidden-2.4.26-1.diff 2.4.26 - 2.4.27 February 28, 2004
hidden-2.4.25-1.diff 2.4.25 February 19, 2004
hidden-2.4.20pre10-1.diff 2.4.20pre10 - 2.4.24 October 12, 2002
hidden-2.4.19pre5-1.diff 2.4.19pre5 - 2.4.20pre9 April 7, 2002
hidden-2.4.5-1.diff 2.4.5 - 2.4.19pre4 June 2, 2001
hidden-2.4.4-1.diff 2.4.4 April 29, 2001
Patch Linux 2.6 Created
hidden-2.6.9-1.diff 2.6.9 - 2.6.11 October 19, 2004
hidden-2.6.4-1.diff 2.6.4 - 2.6.8 March 12, 2004
hidden-2.6.3-1.diff 2.6.3 February 19, 2004
hidden-2.5.67-1.diff 2.5.67 - 2.6.2 April 9, 2003
本例使用的内核版本是2.4.20-8,因此下载hidden-2.4.20pre10-1.diff
重新编译内核，修正arp problem
把hidden-2.4.20pre10-1.diff放到/usr/src/linux下，用命令
patch -p1 < hidden-2.4.20pre10-1.diff对kernel进行patch
进入/usr/src/linux目录，分别执行：
make mrproper 为创建新的内和配置做好准备
make menuconfig 进行配置
make dep 检测是否有相关的软件包被使用
make clean 为新内核结构准备源目录树
make bzImage 创建内核引导映像
make modules、make modules_install 生成模块
make install 安装新的内核到指定位置并重新配置grub.conf
到这里新内核就安装完毕了,请重启并用此内核引导系统
设置Real server
为了方便我们将所有步骤写成一个shell script.
#!/bin/bash
echo "0" >; /proc/sys/net/ipv4/ip_forward (关闭ip_forward)
ifconfig lo:100 10.83.33.100 broadcast 10.83.33.100 netmask 0xffffffff up (设置虚拟IP)
route add -host 10.83.33.100 dev lo:100 (设置达到虚拟Ip的路由)
echo "1" >; /proc/sys/net/ipv4/conf/all/hidden (开启No-ARP)
echo "1" >; /proc/sys/net/ipv4/conf/lo/hidden (开启No-ARP)
将此shell script加入到/etc/rc.local中，这样在每次系统启动时都可以自动运行进行设置了。
测试
为了使得我们清楚地知道访问的是那一台FTP服务器,我们在FTP1上编辑
/etc/vsftpd/vsftpd.conf,设置ftpd_banner=Welcome to FTP1 server,在FTP2设置
ftpd_banner=Welcome to FTP2 server,设置完毕后重启服务.
现在在另一台客户机开几个终端,依次输入ftp 10.83.33.100,我们可以从欢迎词上看到,每次
登录的FTP服务器都不是固定的,它会在FTP1和FTP2上互相交替,试验成功!
负载均衡软件实现方式之四- 专业负载均衡软件
看一下专业的负载均衡软件是什么样的：PCL负载均衡软件
详细内容，大家可以自己去看。简单讲，专业负载均衡软件大概有以下特点：
1、它是基于IP隧道的，而不是象URL重定向方式那样。所以，它是独立于应用的
2、它支持不同平台，即应用可以是基于LINUX，WINDOWS或SOLARIS的，而不是象LVS只能在LINUX上
3、它是实时的，这点与DNS方式有极大的差别。
4、它能够根据系统、应用的情况来决定负载，这一点与硬件负载均衡设备有很大差别。
5、专业负载均衡软件，适用于企业级应用，无论从其可靠性，还是从其服务保障上，都不是象LVS那样的开源软件可比的。
总结一下，如果是象YAHOO那样的网站应用，可以考虑DNS方式，参见：负载均衡软件实现方式之二- 基于DNS
如果是特别简单的应用，可以考虑URL重定向方式，参见：负载均衡软件实现方式之一- URL 重定向方式
如果是不太重要的纯LINUX应用，可以考虑LVS，参见：负载均衡软件实现方式之三- LVS
如果是重要、流量大、应用简单、预算充足的情况，可以考虑硬件方式（比如用F5）（一定要做双机啊！），参见：软件与硬件负载均衡的比较
而如果是重要的企业应用，两台或几十台服务器，应用比较复杂，包括有可能跨平台，则应该考虑专业的负载均衡软件。参见：PCL负载均衡软件-应用集群的理想选择
广域网负载均衡原理简单介绍
广域网负载均衡 多链路广域网负载均衡 （1）Inbound多链路负载均衡算法策略：RTT+Topology+RoundRobin 具体描述： 当外部用户访问九州梦网网站时，首先由F5的3DNS对客户端的LDNS进行RTT（Round Trip Time）探测，对比从两条链路返回的探测结果（可以从统计列表中看到），选择一条返回值小的链路IP地址返回给客户端，从而客户端再发起访问请求；当F5的3DNS探测不到客户端的LDNS（由于LDNS安全防护等原因）时，F5的3DNS自动启用Topology算法，来静态匹配客户端的LDNS地理位置，从而根据客户端的来源，返回正确的A记录；当探测不到的LDNS又不在地址列表中时，F5 3DNS自动启用Global Availability 算法作为默认算法，将所有无法计算结果并且不在Topology范围之内的LocalDNS请求，定义到系统的默认线路上。 F5 的3DNS具备二十多种Inbound算法，可以根据需要进行组合。 ①RTT算法运行机制： 通过3DNS的RTT就近性算法会自动运算生成一个ldns就近分布表，通过这个动态的表，每个客户上来都会提供一个最快速的链路进行访问，由于站点有ISP1和ISP2的两条广域网线路。在3DNS上会针对站点服务器(以https://www.sodocs.net/doc/6117134446.html, 为例)解析ISP1和ISP2的两个不同的公网地址。 对应于https://www.sodocs.net/doc/6117134446.html,域名，在3DNS上配置wideip：https://www.sodocs.net/doc/6117134446.html,，对应两个Virtual Server：VS1：202.106.83.177，VS2：219.17.66.100。分别属于ISP1和ISP2两条线路分配的IP地址段。在3DNS内部，同时定义两个DataCenter分别与ISP1和ISP2相对应。 用户的访问流程如下：
服务器负载均衡的设计与实现
服务器负载均衡的设计与实现 在该架构中OpenFlow控制器可以获取每个服务器的运行状态，并根据运行状态分发用户请求，最大程度地利用每台服务器的计算资源，并且可以在系统运行期间动态地添加或删除服务器，使系统具备很高的灵活性。 1、动态负载均衡架构的整体设计 负载均衡架构是在一个非结构化的网络中使用集中式的控制器实现多台服务器共同对外提供服务。OpenFlow网络中的所有交换机都连接在一个控制器上，每台服务器有两块网卡，一块网卡连接到OpenFlow网络对用户提供网络服务，另一块通过以太网交换机和控制器相连，以便控制器通过SNMP协议获取服务器的运行状态，具体架构如图所示。 在上述负载均衡架构中控制器是网络的核心，其主要功能有四个，分别为： 保证网络正常的通信、获取服务器的运行状态、通过负载均衡算法计算服务器的综合负载、向交换机下发流表项以转发用户请求；控制器的模块设计如图所示。 本文阐述的负载均衡架构可以工作在任意openflow网络中，而不是专门为某个服务器
所设计的负载均衡，控制器的首要任务就是保证网络可以提供正常的数据转发服务，为了保证网络既可以为其他服务提供基础支持又保证负载均衡能够正常工作，在控制器的转发控制中有两个模块，第一个模块负责负载均衡服务，第二个模块负责网络的基本通信。当一个数据包到达Openflow交换机后，如果交换机找不到可以匹配的流表项，就会向控制发送packet-in消息，控制器收到packet-in消息之后首先交给负载均衡模块，由负载均衡模块处理该消息，如果该数据包的目的IP 不是负载均衡所负责的网络服务，如果该数据包的目的IP不是负载均衡所负责的网络服务，负载均衡模块就不会做任何处理而是直接packet-in 消息传递给网络通信模块，以保证其它业务正常通信。如果该数据包的目的IP是负载均衡所负责的网络服务，负载均衡模块就向交换机下发流表项让交换机完成负载均衡服务。 为了有效地利用计算资源，控制器还需要根据服务器的运行状态转发用户请求，因此控制器还要完成这方面的工作。在此架构中每台服务器都有一块通过以太网交换机和控制器相连的网卡，控制器通过以太网交换机和服务器通信，利用SNMP协议获取服务器的运行状态。在此架构中就算没有和服务器相连的网卡，控制器也可以通过Openflow网络和服务器通信，本文之所以没有这么做是因为控制器直接和连接在openflow网络中的服务器通信需要交换机把所有服务器所发送的消息封装成packet-in消息发送给交换机，控制器也必须通过向交换机发送packet-out消息才能把数据发送给服务器，这样做会给交换机和控制器同时带来很大的压力。 因为服务器的运行状态必须由多条信息才能描述清楚，所以就算得到服务器的运行状态之后，也无法根据多条信息判断哪台服务器的负载最低。因此本文在控制器中运行了一个负载均衡算法，控制器会把服务的运行状态作为负载均衡算法的参数代入到服务器综合负载的运算中，计算出服务器的综合负载，并根据综合负载得到负载最小的服务器。 负载均衡的核心内容就是让交换机分发用户的请求，用户请求的第一个数据包到达交换级之后，交换机会通过packet-in消息把数据包发送给控制器，控制器中的负载均衡模块会通过SNMP协议获取所有服务器的运行状态，并根据运行状态计算服务器的综合负载，之后把用户的请求转发给综合负载最小的服务器。 2、动态负载均衡架构的设计与实现 负载均衡常用的算法有随机、轮训和最小连接数，原因是这三种算法很容易用硬件实现，这三种算法中最小连接数算法的效果是最理想的，但是如果集群中的服务器在CPU、内存、网络带宽上的配置不相同，这三个算法都不能充分地发挥服务器集群的计算能力。在openflow网络中，网络的控制层由软件制定，负载均衡算法也可以集成在控制器中，使用软件完成，这样可以更准确地评估服务器的负载情况。本文阐述的负载均衡方案中就设计了一个负载均衡算法，根据服务器的运行状态计算服务器的综合负载，并返回综合负载最小的服务器。该算法可以在服务器性能差距较大的集群中充分发挥每一台服务器的计算能力，算法的具体实现过程如下： 1）动态反馈当前服务器负载量 主要收集每台服务器CPU和内存的使用率，这些信息并不能直接表示一台服务器的负载情况，所以使用公式1把CPU和内存信息转换为服务器的负载量，其中LC为第i台服务器CPU的使用率，LM为第i台内存的使用率，r1和r2为权值，用于强调该服务类型对各个部分的不同影响程度，r1+r2=1,LS为计算得出的第i台服务器负载量 LS=r1LC+r2*LM 2）服务器处理能力计算； 集群中服务器的性能也可能不同，在计算服务器负载的时候还要考虑服务器的处理能力，第i台服务器的处理能力使用C(i)表示，C的计算方法如公式所示，其中P为第i台服务器CPU的个数，M为第i台服务器内存的大小，r1和r2为权值，r1+r2=1。
F5负载均衡器双机切换机制及配置
F5负载均衡器双机切换触发机制及配置 1 F5双机的切换触发机制 1.1 F5双机的通信机制 F5负载均衡器的主备机之间的心跳信息可以通过以下两种方式进行交互： ●通过F5 failover 串口线交换心跳信息(电压信号不断地由一方送到另外一方) 处于Standby的系统不断监控Failover上的电平，一旦发现电平降低，Standby Unit会立即变成Active，会发生切换(Failover)。通过串口监控电平信号引起的切换可以在 一秒中以内完成(大概200~300ms)。四层交换机在系统启动的时候也会监控Failover 线缆的电平以决定系统是处于Active状态还是Standby状态。在串口Failover线缆上不传输任何数据信息。 ●Failover线缆也可以不采用串口线，而直接采用网络线。(但F5不建议这样做， 因为网络层故障就可能会两台负载均衡器都处于Active状态)。如果采用网络层监控实现Failover, Bigip将通过1027与1028端口交换心跳信息。 经验证明：两台F5之间一定要用failover cable连接起来，不连接failover cable而直接采用网络线连接在一起不可靠，而且造成了网上事故。 F5双机之间的数据信息是通过网络来完成的。因此运行于HA方式的两台F5设备在网络层必须是相通的。(可以用网线将两台F5设备直接相连起来，也可以通过其它的二层设备将两台F5设备相连，使F5设备在网络上可以连通对端的Failover IP地址)。 两台运行于HA方式的四层交换机之间通过网络层交互的信息主要包括： ●用于配置同步的信息：通过手工执行config sync会引起Active到Standby系 统的配置信息传输。 ●用于在发生Failover时连接维持的信息：如果设置了Connection Mirroring, 处于Active的四层交换机会将连接表每十秒中发送一次到Standby的系统。（The following TCP Connections can be mirrored:TCP、UDP、SNAT、FTP、Telnet ）。 如果设置了Stateful Failover,Persistence信息也会被发送到Standby系统。（The following persistence information for the virtual servers (VIPs) can be mirrored:SSL persistence、Sticky persistence、iRules Persistence )
F5负载均衡基本原理
F5 Application Management Products 服务器负载均衡原理 F5 Networks Inc
1．服务器负载平衡市场需求 (3) 2．负载平衡典型流程 (4) 2..1 通过VIP来截获合适的需要负载平衡的流量 (4) 2.2 服务器的健康监控和检查 (5) 2.3 负载均衡和应用交换功能,通过各种策略导向到合适的服务器 (6)
1．服务器负载平衡市场需求 随着Internet的普及以及电子商务、电子政务的发展，越来越多的应用系统需要面对更高的访问量和数据量。同时，企业对在线系统的依赖也越来越高，大量的关键应用需要系统有足够的在线率及高效率。这些要求使得单一的网络服务设备已经不能满足这些需要，由此需要引入服务器的负载平衡，实现客户端同时访问多台同时工作的服务器，一则避免服务器的单点故障，再则提高在线系统的服务处理能力。从业界环境来说，如下的应用需求更是负载均衡发展的推动力： ?业务系统从Client-Server转向采用Browser-Server 系统结构，关键系统需要高可用性 ?电子商务系统的高可用性和高可靠性需要 ?IT应用系统大集中的需要（税务大集中,证券大集中,银行大集中） ?数据中心降低成本,提高效率 负载均衡技术在现有网络结构之上提供了一种廉价、有效、透明的方法，来扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。它有两方面的含义：首先，大量的并发访问或数据流量分担到多台节点设备上分别处理，减少用户等待响应的时间；其次，单个重负载的运算分担到多台节点设备上做并行处理，每个节点设备处理结束后，将结果汇总，返回给用户，系统处理能力得到大幅度提高。 BIG/IP利用定义在其上面的虚拟IP地址来为用户的一个或多个应用服务器提供服务。因此，它能够为大量的基于TCP/IP的网络应用提供服务器负载均衡服务。BIG/IP 连续地对目标服务器进行L4到L7合理性检查，当用户通过VIP请求目标服务器服务时，BIG/IP根椐目标服务器之间性能和网络健康情况，选择性能最佳的服务器响应用户的请求。 下图描述了一个负载平衡发生的流程：
多路径的配置与管理V2.0
多路径配置与管理
目录 1. 多路径概述 (1) 1.1 什么是多路径 (1) 1.2 业界的MPIO (1) 2. Windows Server 2008/2012 MPIO配置与管理 (1) 2.1 MPIO安装 (1) 3.2 MPIO配置 (5) 3.3 MPIO切换策略介绍 (13) 4. RedHat Linux MPIO配置与管理 (15) 4.1 多路径软件的安装 (15) 4.2 Multipath.conf配置文件解析 (16) 4.3 配置multipath.conf (19) 4.3.1 快速配置 (19) 4.3.2 高级配置 (19) 4.4 多路径管理 (24) 4.5 多路径磁盘的使用 (25) 5 各产品multipath.conf参数配置 (26) 5.1 INSPUR AS500G/E、AS520G/E (26) 5.1.1 Windows客户端 (26) 5.1.2 Linux客户端 (27) 6 Multipath Issues Troubleshooting (27) 6.1在群集中保持多路径设备名称一致 (27)
1. 多路径概述 1.1 什么是多路径 普通的电脑主机都是一个硬盘挂接到一个总线上，这里是一对一的关系。而到了有光纤组成的SAN环境，或者由iSCSI组成的IPSAN环境，由于主机和存储通过了光纤交换机或者多块网卡及IP来连接，这样的话，就构成了多对多的关系。也就是说，主机到存储之间的IO由多条路径可以选择。每个主机到所对应的存储可以经过几条不同的路径，如果是同时使用的话，I/O流量如何分配？其中一条路径坏掉了，如何处理？还有在操作系统的角度来看，每条路径，操作系统会认为是一个实际存在的物理盘，但实际上只是通向同一个物理盘的不同路径而已，这样在使用的时候，就给用户带来了困惑。多路径软件就是为了解决上面的问题应运而生的。 多路径管理MPIO（Multi-Path），对支持MPIO的存储设备，MPIO自动发现、配置和管理多个存储路径，提供IO高可靠性和负载均衡。MPIO方案的实现有三个部分组成，分别为存储系统部分、存储软件部分和操作系统部分。 多路径的主要功能就是和存储设备一起配合实现如下功能： 1.故障的切换和恢复 2.IO流量的负载均衡 3.磁盘的虚拟化 在RedHat和Suse的2.6内核中都自带了免费的多路径软件包，并且可以免费使用，同时也是一个比较通用的包，可以支持大多数存储厂商的设备，即使是一些不是出名的厂商，通过对配置文件进行稍作修改，也是可以支持并运行的很好的。 1.2 业界的MPIO 由于多路径软件是需要和存储在一起配合使用的，不同的厂商基于不同的操作系统，都提供了不同的版本。并且有的厂商，软件和硬件也不是一起卖的，如果要使用多路径软件的话，可能还需要向厂商购买license才行。，业界比较常见的MPIO功能软件有EMC 的PowerPath，IBM的SDD，日立的Hitachi Dynamic Link Manager和广泛使用的linux开源软件device-mapper。 2. Windows Server 2008/2012 MPIO配置与管理 2.1 MPIO安装 Windows Server 2008系统包含MPIO软件，不需要使用其它的MPIO软件。具体安装步
如意云路由单线多拨设置教程 mwan3,支持最新版本!
（2月19日测试，完全支持 1.4.1.4 版本，设置方法完全一样，只要小云的固件没有非常大的改动，应该是可以一直支持最新版本的！！！） 3月3日更新：优化安装步骤，除了上传文件和安装插件需要用到第三方工具和命令行外，其他配置全部都在LUCI界面完成。 多拨的教程网上一搜一大把，所以我这里只说我们如意云的多拨方法，方法都大同小异，只是参数方面有些不同罢了。 要想多拨，当然首要条件就是家里的宽带要支持多拨，测试的方法我就不多说了，只要用两台电脑或者虚拟机能同时拨号，并且迅雷加起来的下载速度超过了你平时的网速就可以多拨了，如果电信运营商限制了多拨，那此教程后面的你就可以不用看了。 像我这里的中国电信就限制了两个MAC网卡地址，只能用这两个MAC网卡地址才能拨上号，所以只能双拨。 多拨的硬件条件满足之后就是软件了，我们需要这些软件： 1、WinSCP，用于上传文件到路由器 2、putty，用于SSH登陆路由器安装插件 3、最新版mwan3文件 这三种软件在最下面有下载包 现在开始操作了 1、打开192.168.99.1，进入路由后台，高级设置——系统菜单——软件包——配置，修改配置文件，把mwan3安装在路由器里面，默认是安装在U盘扩展分区当中。 默认配置： 1.src/gz attitude_adjustment https://www.sodocs.net/doc/6117134446.html,/router/Public/upload/plugins 2.dest root /opt 3.dest ram /tmp 4.lists_dir ext /var/opkg-lists 5.option overlay_root /opt 6. 复制代码 修改为： 1.src/gz attitude_adjustment https://www.sodocs.net/doc/6117134446.html,/router/Public/upload/plugins 2.dest root / 3.dest ram /tmp 4.lists_dir ext /var/opkg-lists 5.option overlay_root /overlay 复制代码
负载均衡器部署方式和工作原理
负载均衡器部署方式和工作原理 2011/12/16 小柯信息安全 在现阶段企业网中，只要部署WEB应用防火墙，一般能够遇到负载均衡设备，较常见是f5、redware的负载均衡，在负载均衡方面f5、redware的确做得很不错，但是对于我们安全厂家来说，有时候带来了一些小麻烦。昨日的一次割接中，就遇到了国内厂家华夏创新的负载均衡设备，导致昨日割接失败。 在本篇博客中，主要对负载均衡设备做一个介绍，针对其部署方式和工作原理进行总结。 概述 负载均衡（Load Balance） 由于目前现有网络的各个核心部分随着业务量的提高，访问量和数据流量的快速增长，其处理能力和计算强度也相应地增大，使得单一的服务器设备根本无法承担。在此情况下，如果扔掉现有设备去做大量的硬件升级，这样将造成现有资源的浪费，而且如果再面临下一次业务量的提升时，这又将导致再一次硬件升级的高额成本投入，甚至性能再卓越的设备也不能满足当前业务量增长的需求。 负载均衡实现方式分类 1：软件负载均衡技术 该技术适用于一些中小型网站系统，可以满足一般的均衡负载需求。软件负载均衡技术是在一个或多个交互的网络系统中的多台服务器上安装一个或多个相应的负载均衡软件来实现的一种均衡负载技术。软件可以很方便的安装在服务器上，并且实现一定的均衡负载功能。软件负载均衡技术配置简单、操作也方便，最重要的是成本很低。 2：硬件负载均衡技术 由于硬件负载均衡技术需要额外的增加负载均衡器，成本比较高，所以适用于流量高的大型网站系统。不过在现在较有规模的企业网、政府网站，一般来说都会部署有硬件负载均衡设备（原因1.硬件设备更稳定，2.也是合规性达标的目的）硬件负载均衡技术是在多台服务器间安装相应的负载均衡设备，也就是负载均衡器来完成均衡负载技术，与软件负载均衡技术相比，能达到更好的负载均衡效果。 3：本地负载均衡技术
负载均衡的基础原理说明
大家都知道一台服务器的处理能力，主要受限于服务器自身的可扩展硬件能力。所以，在需要处理大量用户请求的时候，通常都会引入负载均衡器，将多台普通服务器组成一个系统，来完成高并发的请求处理任务。 之前负载均衡只能通过DNS来实现，1996年之后，出现了新的网络负载均衡技术。通过设置虚拟服务地址（IP），将位于同一地域（Region）的多台服务器虚拟成一个高性能、高可用的应用服务池；再根据应用指定的方式，将来自客户端的网络请求分发到
服务器池中。网络负载均衡会检查服务器池中后端服务器的健康状态，自动隔离异常状态的后端服务器，从而解决了单台后端服务器的单点问题，同时提高了应用的整体服务能力。 网络负载均衡主要有硬件与软件两种实现方式，主流负载均衡解决方案中，硬件厂商以F5为代表目前市场占有率超过50%，软件主要为NGINX与LVS。但是，无论硬件或软件实现，都逃不出基于四层交互技术的“转发”或基于七层协议的“代理”这两种方式。四层的转发模式通常性能会更好，但七层的代理模式可以根据更多的信息做到更智能地分发流量。一般大规模应用中，这两种方式会同时存在。 2007年F5提出了ADC（Application delivery controller）的概念为传统的负载均衡器增加了大量的功能，常用的有：SSL卸载、压缩优化和TCP连接优化。NGINX也支持很多ADC的特性，但F5的中高端型号会通过硬件加速卡来实现SSL卸载、压缩优化这一类CPU密集型的操作，从而可以提供更好的性能。 F5推出ADC以后，各种各样的功能有很多，但其实我们最常用的也就几种。这里我也简单的总结了一下，并和LVS、Nginx对比了一下。
LINUX下多路径(详细)
LINUX下多路径（multi-path）介绍及使用 2013-05-16 11:15:34| 分类：openfiler系统+fr|举报|字号订阅 一、什么是多路径 普通的电脑主机都是一个硬盘挂接到一个总线上，这里是一对一的关系。而到了有光纤组成的SAN环境，或者由iSCSI组成的IPSAN环境，由于主机和存储通过了光纤交换机或者多块网卡及IP来连接，这样的话，就构成了多对多的关系。也就是说，主机到存储可以有多条路径可以选择。主机到存储之间的IO由多条路径可以选择。每个主机到所对应的存储可以经过几条不同的路径，如果是同时使用的话，I/O流量如何分配？其中一条路径坏掉了，如何处理？还有在操作系统的角度来看，每条路径，操作系统会认为是一个实际存在的物理盘，但实际上只是通向同一个物理盘的不同路径而已，这样是在使用的时候，就给用户带来了困惑。多路径软件就是为了解决上面的问题应运而生的。多路径的主要功能就是和存储设备一起配合实现如下功能： 1.故障的切换和恢复 2.IO流量的负载均衡 3.磁盘的虚拟化 由于多路径软件是需要和存储在一起配合使用的，不同的厂商基于不同的操作系统，都提供了不同的版本。并且有的厂商，软件和硬件也不是一起卖的，如果要使用多路径软件的话，可能还需要向厂商购买license才行。比如EMC公司基于linux下的多路径软件，就需要单独的购买license。好在， RedHat和Suse的2.6的内核中都自带了免费的多路径软件包，并且可以免费使用，同时也是一个比较通用的包，可以支持大多数存储厂商的设备，即使是一些不是出名的厂商，通过对配置文件进行稍作修改，也是可以支持并运行的很好的。 二、Linux下multipath介绍，需要以下工具包： 在CentOS 5中，最小安装系统时multipath已经被安装，查看multipath是否安装如下：
F5负载均衡原理
F5负载均衡原理 一负载均衡基本概念 1、什么是负载均衡? 负载均衡技术在现有网络结构之上提供了一种廉价、有效、透明的方法，来扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。它有两方面的含义：首先，大量的并发访问或数据流量分担到多台节点设备上分别处理，减少用户等待响应的时间；其次，单个重负载的运算分担到多台节点设备上做并行处理，每个节点设备处理结束后，将结果汇总，返回给用户，系统处理能力得到大幅度提高。 BIG/IP利用定义在其上面的虚拟IP地址来为用户的一个或多个应用服务器提供服务。因此，它能够为大量的基于TCP/IP的网络应用提供服务器负载均衡服务。BIG/IP 连续地对目标服务器进行L4到L7合理性检查，当用户通过VIP请求目标服务器服务时，BIG/IP根椐目标服务器之间性能和网络健康情况，选择性能最佳的服务器响应用户的请求。 下图描述了一个负载平衡发生的流程： 1. 客户发出服务请求到VIP 2. BIGIP接收到请求，将数据包中目的IP地址改为选中的后台服务器IP地址，然后将数据包发出到后台选定的服务器 3. 后台服务器收到后，将应答包按照其路由发回到BIGIP 4. BIGIP收到应答包后将其中的源地址改回成VIP的地址，发回客户端，由此就完成了一个标准的服务器负载平衡的流程。
2．负载平衡典型流程 ●通过VIP来截获合适的需要负载平衡的流量 ●服务器监控和健康检查,随时了解服务器群的可用性状态 ●负载均衡和应用交换功能,通过各种策略导向到合适的服务器 2．1 通过VIP来截获合适的需要负载平衡的流量 在BIGIP上通过设置VIP来截获需要进行负载平衡的流量，这个VIP地址可以是一个独立的主机地址和端口的组合（例如：202.101.112.115:80）也可以是一个网络地址和端口的组合（例如：202.101.112.0:80），当流量经过BIGIP的时候，凡是命中VIP 的流量都将被截获并按照规则进行负载平衡。 2．2 服务器的健康监控和检查 服务器 (Node) - Ping (ICMP) BIGIP可以定期的通过ICMP包对后台服务器的IP地址进行检测，如果在设定的时间内能收到该地址的ICMP的回应，则认为该服务器能提供服务 服务 (Port) – Connect BIGIP可以定期的通过TCP包对后台服务器的服务端口进行检测，如果在设定的时间内能收到该服务器端口的回应，则认为该服务器能提供服务 扩展内容查证(ECV: Extended Content Verification)—ECV ECV是一种非常复杂的服务检查，主要用于确认应用程序能否对请求返回对应的数据。如果一个应用对该服务检查作出响应并返回对应的数据，则BIG/IP控制器将该服务器标识为工作良好。如果服务器不能返回相应的数据，则将该服务器标识为宕机。宕机一旦修复，BIG/IP就会自动查证应用已能对客户请求作出正确响应并恢复向该服务器传送。该功能使BIG/IP可以将保护延伸到后端应用如Web内容及数据库。BIG/ip的ECV 功能允许您向Web服务器、防火墙、缓存服务器、代理服务器和其它透明设备发送查询，然后检查返回的响应。这将有助于确认您为客户提供的内容正是其所需要的。 扩展应用查证(EAV: Extended Application Verification) EAV是另一种服务检查，用于确认运行在某个服务器上的应用能否对客户请求作出响应。为完成这种检查，BIG/IP控制器使用一个被称作外部服务检查者的客户程序，该程序为BIG/IP提供完全客户化的服务检查功能，但它位于BIG/IP控制器的外部。例如，该外部服务检查者可以查证一个Internet或Intranet上的从后台数据库中取出数据并在HTML网页上显示的应用能否正常工作。EAV是BIG/IP提供的非常独特的功能，它提供管理者将BIG/IP客户化后访问各种各样应用的能力，该功能使BIG/IP在提供标准的可用性查证之外能获得服务器、应用及内容可用性等最重要的反馈。
几种负载均衡策略比较~
PS：Nginx/LVS/HAProxy是目前使用最广泛的三种负载均衡软件，本人都在多个项目中实施过，参考了一些资料，结合自己的一些使用经验，总结一下。 一般对负载均衡的使用是随着网站规模的提升根据不同的阶段来使用不同的技术。具体的应用需求还得具体分析，如果是中小型的Web应用，比如日PV小于1000万，用Nginx就完全可以了；如果机器不少，可以用DNS轮询，LVS所耗费的机器还是比较多的；大型网站或重要的服务，且服务器比较多时，可以考虑用LVS。一种是通过硬件来进行进行，常见的硬件有比较昂贵的F5和Array等商用的负载均衡器，它的优点就是有专业的维护团队来对这些服务进行维护、缺点就是花销太大，所以对于规模较小的网络服务来说暂时还没有需要使用；另外一种就是类似于Nginx/LVS/HAProxy的基于Linux的开源免费的负载均衡软件，这些都是通过软件级别来实现，所以费用非常低廉。 目前关于网站架构一般比较合理流行的架构方案：Web前端采用 Nginx/HAProxy+Keepalived作负载均衡器；后端采用MySQL数据库一主多从和读写分离，采用LVS+Keepalived的架构。当然要根据项目具体需求制定方案。 下面说说各自的特点和适用场合。 一、Nginx Nginx的优点是： 1、工作在网络的7层之上，可以针对http应用做一些分流的策略，比如针对域名、目录结构，它的正则规则比HAProxy更为强大和灵活，这也是它目前广泛流行的主要原因之一，Nginx单凭这点可利用的场合就远多于LVS了。 2、Nginx对网络稳定性的依赖非常小，理论上能ping通就就能进行负载功能，这个也是它的优势之一；相反LVS对网络稳定性依赖比较大，这点本人深有体会； 3、Nginx安装和配置比较简单，测试起来比较方便，它基本能把错误用日志打印出来。LVS的配置、测试就要花比较长的时间了，LVS对网络依赖比较大。 3、可以承担高负载压力且稳定，在硬件不差的情况下一般能支撑几万次的并发量，负载度比LVS相对小些。 4、Nginx可以通过端口检测到服务器内部的故障，比如根据服务器处理网页返回的状态码、超时等等，并且会把返回错误的请求重新提交到另一个节点，不过其中缺点就是不支持url来检测。比如用户正在上传一个文件，而处理该上传的节点刚好在上传过程中出现故障，Nginx会把上传切到另一台服务器重新处理，而LVS就直接断掉了，如果是上传一个很大的文件或者很重要的文件的话，用户可能会因此而不满。 5、Nginx不仅仅是一款优秀的负载均衡器/反向代理软件，它同时也是功能强大的Web应用服务器。LNMP也是近几年非常流行的web架构，在高流量的环境中稳定性也很好。 6、Nginx现在作为Web反向加速缓存越来越成熟了，速度比传统的Squid服务器更快，可以考虑用其作为反向代理加速器。 7、Nginx可作为中层反向代理使用，这一层面Nginx基本上无对手，唯一可以对比
F5负载均衡的双机冗余配置与全冗余解析
F5负载均衡的双机冗余配置与全冗余解析 F5负载均衡的双机冗余实现与RadWare是不同的，RadWare是采用VRRP协议实现的，F5主要是通过串口心跳和网络心跳来实现双机冗余的。下面让我们对此做一下认识和了解，仅此交流。 一、串口心跳双机冗余方式 两台F5 BIG IP之间通过串口用它自带的串口线揽(这个串口线较短)相连。每台F5 BIGIP 通过串口心跳线监控对端设备的状态。 在串口心跳线的结构中，双机切换流程如下： 1、Active 设备负责在心跳线上产生一个高电平 2、Backup设备监听对端的高电平 3、当Backup设备监听到对端没有高电平时，将自己转换为Active设备 4、Backup设备对外发送ARP广播，将所有的VS和浮动IP对外广播，表明这些地址在自己这端，引发网络流量切换。 在BIGIP的串口心跳线中，主要通过电平方式来通知对端和监控对端状态，在串口心跳线中没有任何的数据信号传输。 这种方式也是F5推荐的冗余方式。 二、网络心跳双机冗余方式 由于F5的串口线长度有限（50英尺），当两台F5 BIGIP物理位置相距较远的时候，就不方便连接了。除了串口心跳外，两台F5 BIGIP之间还可以通过网络线连接来实现心跳信号的传递。切换触发信号通过网络通知对端设备，同时每台F5 BIGIP通过网络连线来监控对端设备的状态。 两台f5 BIGIP之间通过TCP的1028端口进行心跳信号传递。切换的过程如下： 1、Acitve设备负责产生心跳信号 2、Backup设备监听Active设备的心跳信号
3、当Backup设备在一定时间内没有接收到心跳信号时，则将自己切换为Active 4、Backup设备对外发送ARP广播，将所有的VS和浮动IP对外广播，表明这些地址在自己这端，引发网络流量切换。 在配置Network FailSafe的时候，将指定一个VLAN来进行心跳信号传输。这个VLAN通常为两台BIGIP之间的一个独立连接VLAN或者Internal VLAN。 三、网络心跳的配置示例： 1、网络图 2、设置Floating IP和Failover Peer IP地址 3、检测运行状态: System---Redundancy Properties中查看
负载均衡软件实现与硬件实现方案
该文档是word2003—word2007兼容版 软件、硬件负载均衡部署方案 目录 1、硬件负载均衡之F5部署方案 (2) 1.1网络拓扑结构 (2) 1.2反向代理部署方式 (3) 2软件负载均衡方案 (4) 2.1负载均衡软件实现方式之一- URL重定向方式 (4) 2.2负载均衡软件实现方式之二- 基于DNS (5) 2.3负载均衡软件实现方式之三- LVS (8) 2.4负载均衡软件实现方式之四- 专业负载均衡软件 (16) 总结： (16)
1、硬件负载均衡之F5部署方案 对于所有的对外服务的服务器，均可以在BIG-IP上配置Virtual Server实现负载均衡，同时BIG-IP可持续检查服务器的健康状态，一旦发现故障服务器，则将其从负载均衡组中摘除。 BIG-IP利用虚拟IP地址（VIP由IP地址和TCP/UDP应用的端口组成，它是一个地址）来为用户的一个或多个目标服务器（称为节点：目标服务器的IP地址和TCP/UDP应用的端口组成，它可以是internet的私网地址）提供服务。因此，它能够为大量的基于TCP/IP的网络应用提供服务器负载均衡服务。根据服务类型不同分别定义服务器群组，可以根据不同服务端口将流量导向到相应的服务器。BIG-IP连续地对目标服务器进行L4到L7合理性检查，当用户通过VIP请求目标服务器服务时，BIG-IP根椐目标服务器之间性能和网络健康情况，选择性能最佳的服务器响应用户的请求。如果能够充分利用所有的服务器资源，将所有流量均衡的分配到各个服务器，我们就可以有效地避免“不平衡”现象的发生。 利用UIE+iRules可以将TCP/UDP数据包打开，并搜索其中的特征数据，之后根据搜索到的特征数据作相应的规则处理。因此可以根据用户访问内容的不同将流量导向到相应的服务器，例如：根据用户访问请求的URL将流量导向到相应的服务器。 1.1网络拓扑结构 网络拓扑结构如图所示：
软件负载均衡优缺点总结
（总结）Nginx/LVS/HAProxy负载均衡软件的优缺点详解 PS：Nginx/LVS/HAProxy是目前使用最广泛的三种负载均衡软件，本人都在多个项目中实施过，参考了一些资料，结合自己的一些使用经验，总结一下。 一般对负载均衡的使用是随着网站规模的提升根据不同的阶段来使用不同的技术。具体的应用需求还得具体分析，如果是中小型的Web应用，比如日PV小于1000万，用Nginx就完全可以了；如果机器不少，可以用DNS轮询，LVS所耗费的机器还是比较多的；大型网站或重要的服务，且服务器比较多时，可以考虑用LVS。一种是通过硬件来进行进行，常见的硬件有比较昂贵的F5和Array等商用的负载均衡器，它的优点就是有专业的维护团队来对这些服务进行维护、缺点就是花销太大，所以对于规模较小的网络服务来说暂时还没有需要使用；另外一种就是类似于Nginx/LVS/HAProxy的基于Linux的开源免费的负载均衡软件，这些都是通过软件级别来实现，所以费用非常低廉。 目前关于网站架构一般比较合理流行的架构方案：Web前端采用 Nginx/HAProxy+Keepalived作负载均衡器；后端采用MySQL数据库一主多从和读写分离，采用LVS+Keepalived的架构。当然要根据项目具体需求制定方案。 下面说说各自的特点和适用场合。 Nginx的优点是： 1、工作在网络的7层之上，可以针对http应用做一些分流的策略，比如针对域名、目录结构，它的正则规则比HAProxy更为强大和灵活，这也是它目前广泛流行的主要原因之一，Nginx单凭这点可利用的场合就远多于LVS了。 2、Nginx对网络稳定性的依赖非常小，理论上能ping通就就能进行负载功能，这个也是它的优势之一；相反LVS对网络稳定性依赖比较大，这点本人深有体会； 3、Nginx安装和配置比较简单，测试起来比较方便，它基本能把错误用日志打印出来。LVS的配置、测试就要花比较长的时间了，LVS对网络依赖比较大。 3、可以承担高负载压力且稳定，在硬件不差的情况下一般能支撑几万次的并发量，负载度比LVS相对小些。 4、Nginx可以通过端口检测到服务器内部的故障，比如根据服务器处理网页返回的状态码、超时等等，并且会把返回错误的请求重新提交到另一个节点，不过其中缺点就是不支持url来检测。比如用户正在上传一个文件，而处理该上传的节点刚好在上传过程中出现故障，Nginx会把上传切到另一台服务器重新处理，而LVS就直接断掉了，如果是上传一个很大的文件或者很重要的文件的话，用户可能会因此而不满。 5、Nginx不仅仅是一款优秀的负载均衡器/反向代理软件，它同时也是功能强大的Web应用服务器。LNMP也是近几年非常流行的web架构，在高流量的环境中稳定性也很好。 6、Nginx现在作为Web反向加速缓存越来越成熟了，速度比传统的Squid服务器
LINUX下多路径MULTIPATH配置文档和相关概念
一、什么是multipath 普通的电脑主机都是一个硬盘挂接到一个总线上，这里是一对一的关系。而到了有光纤组成的SAN环境，由于主机和存储通过了光纤交换机连接，这样的话，就构成了多对多的关系。也就是说，主机到存储可以有多条路径可以选择。主机到存储之间的IO由多条路径可以选择。 既然，每个主机到所对应的存储可以经过几条不同的路径，如果是同时使用的话，I/O流量如何分配？其中一条路径坏掉了，如何处理？还有在操作系统的角度来看，每条路径，操作系统会认为是一个实际存在的物理盘，但实际上只是通向同一个物理盘的不同路径而已，这样是在使用的时候，就给用户带来了困惑。多路径软件就是为了解决上面的问题应运而生的。多路径的主要功能就是和存储设备一起配合实现如下功能： 1.故障的切换和恢复 2.IO流量的负载均衡 3.磁盘的虚拟化 二、为什么使用multipath 由于多路径软件是需要和存储在一起配合使用的，不同的厂商基于不同的操作系统，都提供了不同的版本。并且有的厂商，软件和硬件也不是一起卖的，如果要使用多路径软件的话，可能还需要向厂商购买license才行。比如EMC公司基于linux下的多路径软件，就需要单独的购买license。 其中，EMC提供的就是PowerPath，HDS提供的就是HDLM，更多的存储厂商提供的软件，可参考这里。 当然，使用系统自带的免费多路径软件包，同时也是一个比较通用的包，可以支持大多数存储厂商的设备，即使是一些不是出名的厂商，通过对配置文件进行稍作修改，也是可以支持并运行的很好的。 ※请与IBM的RDAC、Qlogic的failover驱动区分开，它们都仅提供了Failover的功能，不支持Load Balance负载均衡方式。但multipath根据选择的策略不同，可支持多种方式，如：Failover、Multipath等。 Failover的功能解释：通俗地说，即当A无法为客户服务时，系统能够自动地切换，使B能够及时地顶上继续为客户提供服务，且客户感觉不到这个为他提供服务的对象已经更换。这里的
思科负载均衡的配置实例
1.负载均衡的介绍 软/硬件负载均衡 软件负载均衡解决方案，是指在一台或多台服务器相应的操作系统上，安装一个或多个附加软件来实现负载均衡，如DNS 负载均衡等。它的优点是基于特定环境、配置简单、使用灵活、成本低廉，可以满足一般的负载均衡需求。硬件负载均衡解决方案，是直接在服务器和外部网络间安装负载均衡设备，这种设备我们通常称之为负载均衡器。由于专门的设备完成专门的任务，独立于操作系统，整体性能得到大量提高，加上多样化的负载均衡策略，智能化的流量管理，可达到最佳的负载均衡需求。一般而言，硬件负载均衡在功能、性能上优于软件方式，不过成本昂贵。[1] 本地/全局负载均衡 负载均衡从其应用的地理结构上，分为本地负载均衡和全局负载均衡。本地负载均衡是指对本地的服务器群做负载均衡，全局负载均衡是指在不同地理位置、有不同网络结构的服务器群间做负载均衡。本地负载均衡能有效地解决数据流量过大、网络负荷过重的问题，并且不需花费昂贵开支购置性能卓越的服务器，可充分利用现有设备，避免服务器单点故障造成数据流量的损失。有灵活多样的均衡策略，可把数据流量合理地分配给服务器群内的服务器，来共同负担。即使是再给现有服务器扩充升级，也只是简单地增加一个新的服务器到服务群中，而不需改变现有网络结构、停止现有的服务。全局负载均衡，主要用于在一个多区域拥有自己服务器的站点，为了使全球用户只以一个IP地址或域名就能访问到离自己最近的服务器，从而获得最快的访问速度，也可用于子公司分散站点分布广的大公司通过Intranet （企业内部互联网）来达到资源统一合理分配的目的。 更高网络层负载均衡 针对网络上负载过重的不同瓶颈所在，从网络的不同层次入手，我们可以采用相应的负载均衡技术来解决现有问题。更高网络层负载均衡，通常操作于网络的第四层或第七层。第四层负载均衡将一个Internet上合法注册的IP地址，映射为多个内部服务器的IP地址，对每次TCP连接请求动态使用其中一个内部IP地址，达到负载均衡的目的。第七层负载均衡控制应用层服务的内容，提供了一种对访问流量的高层控制方式，适合对HTTP服务器群的应用。第七层负载均衡技术通过检查流经的HTTP报头，根据报头内的信息来执行负载均衡任务。 [编辑本段] 网络负载平衡的优点 1、网络负载平衡允许你将传入的请求传播到最多达32台的服务器上，即可以使用最多32台服务器共同分担对外的网络请求服务。网络负载平衡技术保证即使是在负载很重的情况下它们也能作出快速响应。 2、网络负载平衡对外只须提供一个IP地址（或域名）。 3、如果网络负载平衡中的一台或几台服务器不可用时，服务不会中断。网络负载平衡自动检测到服务器不可用时，能够迅速在剩余的服务器中重新指派客户机通讯。此保护措施能够帮助你为关键的业务程序提供不中断的服务。可以根据网络访问量的增多来增加网络负载平衡服务器的数量。 4、网络负载平衡可在普通的计算机上实现。在Windows Server 2003中，网络负载平衡的应用程序包括Internet信息服务(IIS)、ISA Server 2000防火墙与代理服务器、VPN虚拟专用网、终端服务器、Windows Media Services（Windows视频点播、视频广播）等服务。同时，网络负载平衡有助于改善你的服务器性能和可伸缩性，以满足不断增长的基于Internet 客户端的需求。
实现服务器负载均衡常见的四种方法
为了提高服务器的性能和工作负载能力，天互云计算通常会使用DNS服务器、网络地址转换等技术来实现多服务器负载均衡，特别是目前企业对外的互联网Web 网站，许多都是通过几台服务器来完成服务器访问的负载均衡。 目前企业使用的所谓负载均衡服务器，实际上它是应用系统的一种控制服务器，所有用户的请求都首先到此服务器，然后由此服务器根据各个实际处理服务器状态将请求具体分配到某个实际处理服务器中，对外公开的域名与IP地址都是这台服务器。负载均衡控制与管理软件安装在这台服务器上，这台服务器一般只做负载均衡任务分配，但不是实际对网络请求进行处理的服务器。 一、企业实现Web服务器负载均衡 为了将负载均匀的分配给内部的多个服务器上，就需要应用一定的负载均衡策略。通过服务器负载均衡设备实现各服务器群的流量动态负载均衡，并互为冗余备份。并要求新系统应有一定的扩展性，如数据访问量继续增大，可再添加新的服务器加入负载均衡系统。 对于WEB服务应用，同时有几台机器提供服务，每台机器的状态可以设为regular(正常工作)或backup(备份状态)，或者同时设定为regular状态。负载均衡设备根据管理员事先设定的负载算法和当前网络的实际的动态的负载情况决定下一个用户的请求将被重定向到的服务器。而这一切对于用户来说是完全透明的，用户完成了对WEB服务的请求，并不用关心具体是哪台服务器完成的。 二、使用网络地址转换实现多服务器负载均衡 支持负载均衡的地址转换网关中可以将一个外部IP地址映射为多个内部IP地址，对每次TCP连接请求动态使用其中一个内部地址，达到负载均衡的目的。很多硬件厂商将这种技术集成在他们的交换机中，作为他们第四层交换的一种功能来实现，一般采用随机选择、根据服务器的连接数量或者响应时间进行选择的负载均衡策略来分配负载。然而硬件实现的负载控制器灵活性不强，不能支持更优化的负载均衡策略和更复杂的应用协议。 基于网络地址转换的负载均衡器可以有效的解决服务器端的CPU和磁盘I/O负载，然而负载均衡器本身的性能受网络I/O的限制，在一定硬件条件下具有一定的带宽限制，但可以通过改善算法和提高运行负载均衡程序的硬件性能，来提高这个带宽限制。不同的服务类型对不同的服务器资源进行占用，我们使用的负载衡量策略是使用同一个负载进行评估，这对于大多数条件是适合的，然而最好的办法是针对不同的资源，如CPU、磁盘I/O或网络I/O 等，分别监视服务器负载，由中心控制器选择最合适的服务器分发客户请求。 三、使用DNS服务器实现负载均衡