链路及服务器负载均衡_F5解决方案

链路及服务器负载均衡-

F5解决方案

目 录

一 项目背景 ······················································································································· 3

1.1 XXXX行业最新动态简介 ······························································································ 3

1.2 XXXX原有网站系统潜在的问题 ····················································································· 3

二 需求描述 ······················································································································· 5

2.1多链路负载均衡 ·········································································································· 5

2.2应用服务器负载均衡 ···································································································· 5

2.3集成的应用优化需求 ···································································································· 5

三 F5方案描述 ··················································································································· 6

3.1 F5方案总体设计及描述 ································································································ 6

3.2 F5解决方案的优点 ······································································································ 7

3.2.1 F5的解决方案是唯一可以提供毫秒级切换的解决方案 ················································ 7

3.2.2

F5的解决方案是唯一集成优化的负载均衡解决方案 ··················································· 8

3.2.3

F5的解决方案提供iRules可以对系统应用提供灵活的支持 ······································· 10

3.2.4

F5

是专业的应用交付解决方案的厂商，是行业的领导者。 ······································· 11

3.2.5

F5负载均衡是全球著名应用厂商的的首选推荐。 ···················································· 12

附录1: 链路负载均衡关键技术 ····························································································· 13

附录2: 服务器负载均衡技术实现 ·························································································· 15

一 项目背景

1.1 XXXX行业最新动态简介

XXXX行业用8年的蛰伏迎来了2006年的辉煌。经历了8年的风雨，其间也有股市的牛熊交替，或许XXXX行业从来没有想到2006年有如此的蓬勃发展，而400亿XXXX的一日速成更创造了XXXX发行的天文数字。

随着2006年出现一批百亿XXXX，乃至单只规模达四百亿的XXXX登陆证券市场，国内XXXX以超6000千亿元之巨的规模向市场更加明显地表现出了以XXXX为代表的机构化时代的来临。今年以来，新募集的XXXX规模迄今已超过过去5年XXXX首发规模的八成，接近过去3年XXXX的首发规模的总和。

随着XXXX业的火热发展，XXXX的网上交易，网上理财，网上资讯等应用访问量都呈指数级增长，对XXXX应用，网站等原有系统都提出新的挑战。优化/改造原有应用IT架构成为各XXXX面临的首要任务。XXXX的服务的内容和方式必须进行相应的调整和更新，以满足在互联网技术飞速发展的今天，客户不受时间，地点的限制，随时交互的进行金融活动的需要。

对于XXXX的网站来讲，最重要的莫过于实现网上交易平台的安全，快速，高可用了。

网上交易系统平台主要需求如下：

➢ 安全交易，由于网上交易涉及客户个人隐私和XXXX,银行金融机密，因此网上交易的安全性是系统建设的首要问题。

➢ 支持传统业务及新业务发展，实现在线交易。

➢ 访问快速。

➢ 支持 7×24小时全天候服务，充分利用系统和设备的能力，为客户提供可靠，完善，便捷的服务。

➢ 安装，维护方便。

➢ 具备高性能，高扩展性和高可伸缩性。

1.2 XXXX原有网站系统潜在的问题

引起站点无法访问的原因主要有如下几种 ：

➢

➢

➢

➢

➢

单ISP 接入线路故障；

服务器故障－服务器出现硬件或操作系统故障而不能使用 ；

软件故障－尽管其它应用系统正常运行，但某个或某些应用系统挂起或停止响应 ；

内容故障－服务器和应用系统都在正常运行，但对请求的响应却是“404

Object Not Found”，或响应内容不正确;

流量过多－服务器的响应与负载量变化密切相关。在流量增 长的过程中，服务器将及时对请求作出响应，然而当流量到达一个极限点时，服务器就会停止对所有请求进行响应。这种现象在本质上很象二进位制－服务器或者工作或者罢工 。

不能访问网络－如果服务器和外界的连接中断，也就无法进行访问了。这可能是由路由器故障、路由器配置错误或是高速缓存故障而引起的。

访问速度缓慢－响应时间将影响客户的信心和心情，很明显，客户访问网站时等待的时间越长，它们就会越不耐烦，为防止现有客户或潜在客户弃您的网站而去，更糟糕的是转而访问竞争对手的网站，一定要避免网站的速度因突然出现的流量高峰而慢得像蜗牛一样。通讯拥塞，服务器过载，SSL的使用，防火墙等等均可造成访问速度减慢。

异地容灾问题－当一个中心发生故障时，如何自动转向其它可用站点，并在原中心恢复后，自动转回服务，而且自动同步内容。

安全问题－黑客攻击，产品本身安全性，系统的安全性，远程管理的安全性，防火墙异构，SSL方式, 安全与速度等。

➢

➢

➢

➢

二 需求描述

为了适应新的业务发展需求, 解决原有网站潜在的问题，需要对原有网站系统实现链路及服务器负载均衡，具体要求如下:

2.1多链路负载均衡

为了保证出口链路的高可用性和访问效率，计划拥有多条ISP接入线路。多链路负载均衡设备能够提供独具特色的解决方案，不但能够充分利用多条链路（双向流量按照预设的算法分担到不同的链路上，一旦一条链路不通的情况下，能够无缝切换到另外一条可用链路上）；而且可以根据对不同链路的侦测结果，将最快速的链路提供给外部用户进行响应，从而解决目前广泛存在的多个ISP之间的互联互通问题。

2.2应用服务器负载均衡

通过负载均衡设备, 采用丰富的负载均衡算法对应用服务器进行负载均衡，使流量得以合理分配，并且需要处理因服务器负载均衡所带来的会话保持问题。某台服务器发生故障时由负载均衡产品自动检查到，并且将其从服务器群组中排除，透明的容错，从而保证服务器的整体性能得以大幅度提升。

2.3集成的应用优化需求

需提供一套有针对性的方法来减少流量，降低互联网延迟和客户机连接瓶颈对其应用性能所造成的影响。通过综合采用多种应用优化手段以后，应用访问的性能可以得到显著提高，与此同时，由于服务器性能的提高，还可以达到减少服务器数量、从而节省投资的目的。例如强调有SSL 加速集成，内容缓存，HTTP 压缩等。

三 F5方案描述

3.1 F5方案总体设计及描述

根据需求，建议在原有系统中部署两台F5 BIGIP 负载均衡器, 同时实现多链路及服务器的负载均衡。 具体的部署方式根据实际情况和应用要求，可以考虑采取不同部署方式。下面是改造前后的网络拓扑图及相关讨论。以双链路出口(一条网通,一条电信为例) 。

改造前Internet单出口拓朴

互联网

二层交换机

MAIL WEB

防火墙

防火墙

FTP 论坛/BBS

网上交易

DMZ区

内 网

改造后Internet双出口拓朴图

电信

网通

服务器区：wideips: CNCip/CTCip

F5_BIGIP

负载均衡器

MAIL WEB

Internal Vlan

External Vlan

F5_BIGIP

负载均衡器

FTP 论坛/BBS

防火墙网上交易

防火墙

DMZ区

内

网

两台F5 BigIP负载均衡器做HA实现冗余，F5 BigIP 负载均衡器可同时实现链路及服务器负载均衡。具体有关链路负载均衡, 服务器负载均衡原理请见附录。

同时,F5 BigIP 负载均衡器可集成SSL 加速,HTTP压缩, Ramcache内容缓存等应用优化功能。

3.2 F5解决方案的优点

3.2.1 F5的解决方案是唯一可以提供毫秒级切换的解决方案

XXXX网站系统是一个可靠性要求非常高的系统，系统中断1秒钟都会影响到成千上万个用户。F5的解决方案可以提供毫秒级的切换，确保网站系统的应用不会

因为负载均衡器的切换造成中断。

F5公司的BigIP 产品是业界唯一的可以达到毫秒级切换的负载均衡产品, 目前，在中国17家专业银行的生产系统无一例外都是采用了F5的负载均衡器，毫秒级的切换时间保证了99.9999%的无故障时间。

3.2.2 F5的解决方案是唯一集成优化的负载均衡解决方案

➢ 在同一台负载均衡器上同时实现链路及服务器负载均衡

通过在负载均衡器上附加软件功能模块还可以实现以下具有典型意义的功能:

➢ SSL 加速集成

当企业的关键应用(网银系统就是典型代表之一)通过互联网进行部署时，往往需要采SSL来提高应用的安全性。而SSL流量的快速增加，往往使服务器的CPU不堪重负。F5 BIGIP应用交换机集成了硬件SSL加速处理能力，使客户能够有效地管理通过SSL提供的企业应用，并进行先进的智能流量管理检查。从而，提供了更强大的性能，并降低了实施安全应用的成本。

F5 BIGIP应用交换机对SSL会话第一阶段的非对称加密和第二阶段的对称加密都实现了硬件加速，真正卸载CPU处理SSL加密解密的带来的沉重负担。通过iRule提供的强大编程处理能力，F5 BIGIP应用交换机还可以实现对应用内容有选择性的

加密。

BIGIP应用交换机在基本配置中已经包含了100TPS的SSL加速处理能力。通过购买附加的License可以将额外SSL的加速处理能力在BIGIP应用交换机上激活。

Max. SSL TPS

Max. SSL Bulk

➢ 动态智能HTTP压缩

Client 1

BIG-IP Web Server

BIGIP 1500 BIGIP 3400 BIGIP 6400 BIGIP 6800

2,000

500 Mbps

8,000

1 Gbps

200,000

15,000

2 Gbps

500,000

20,000

2 Gbps

500,000 Max. SSL conc. conn. 100,000

Compression on the BIG-IP

Client 2

使用工业标准的GZIP和Deflate压缩算法来压缩HTTP流量；降低带宽消耗、缩短最终用户在慢速 / 低带宽连接条件下的下载时间。

广域网访问的网络延时与带宽瓶颈经常给用户的WEB应用的正常访问带来不便，通过在F5 BIG-IP应用交换机上启用HTTP压缩功能，可以带来以下好处：

更快的页面下载速度；

更小的带宽消耗(支持广泛数据类型的压缩：例如HTTP, XML, Javascript, J2EE

applications and many others)，启用带宽压缩所带来的带宽节省可以达到80%。

客户端自适应的压缩处理能力(技术专利)：F5 BIG-IP应用交换机可以通过探测到客户端的Round Trip Time来识别用户是通过宽带还是窄带方式上网，然后决定是否要对该用户启用HTTP压缩功能。

对用户完全透明，不需要在客户端安装程序：F5 BIG-IP应用交换机采用的压缩算法是目前常用WEB浏览器广泛支持的GZIP和Deflate算法，因此对用户完全透明，不需要预先安装客户端解压程序。

Bytes before Bytes after

IIS 6.0 (Standard Web Content)

Oracle 10g Portal

% bandwidth

compression compression saved

538,318

97,875

82

OWA 2003

Sharepoint Portal Services 2003

Siebel Call Center 7.7

Weblogic Portal v8.1

305,001

790,652

2,053,366

217,970

100,192

203,400

275,343

66,093

67

74

87

70

以下是各种型号BIG-IP应用交换机所能支持的最大压缩处理能力：

Max. compression

➢ Ramcache 内容缓存

通过在F5 BIG-IP应用交换机的内存上对服务器上被反复存取的内容作缓存，可以大大减轻服务器上的压力(可以减轻50%以上日服务器性能压力)。

F5 BIG-IP应用交换机提供了内存缓存的灵活控制能力，可以对指定应用的指定内容在指定条件下进行缓存与刷新。支持静态与动态内容的缓存，对动态页面(例如动态HTML)，可以根据预先定义的缓存内容刷新条件对内容进行刷新。

而每个应用进行高速缓存可以消耗的内存容量也可以灵活定制。

BIG-IP 1500 BIG-IP 3400 BIG-IP 6400 BIG-IP 6800

100 Mbps 500 Mbps 2 Gbps 2 Gbps

3.2.3 F5的解决方案提供iRules可以对系统应用提供灵活的支持

BIGIP软件包括强大易用的iRules工具，可用来定义如何根据报头和/或TCP有效负载信息来引导、保存和过滤流量。iRules增强了企业或服务提供商定根据业务需求定制应用流量的能力。

在BIGIP上，我们可以同过BIGIP的iRules来实现七层的流量检测和灵活的负载均衡策略定义。通过iRules可以对网络流量的任何规则进行判断，如源、目的IP地址，源、目的端口，数据包内容等。

iRules 可以同系统的应用进行灵活的配合，对系统提交的数据进行分析，对特定的请求进行特殊的处理，或者对于特定的业务进行处理。

3.2.4 F5 是专业的应用交付解决方案的厂商，是行业的领导者。

从Gartner最新的市场分析报告中可以看出，F5 公司不论是在领导者地位还是可执行能力方面都处在最领先的位置。

3.2.5 F5负载均衡是全球著名应用厂商的的首选推荐。

F5 与全球著名应用厂商如Microsoft , BEA , IBM , Oracle 等都建立了全球合作伙伴关系, 在他们的系统中, 首选F5负载均衡。F5 负载均衡技术与其应用有着完美的结合及宝贵的经验。

附录1: 链路负载均衡关键技术

智能DNS 解析功能

提供智能的DNS解析功能（示意图）

注册上级DNS：

•

•IP=?

ns1.

Client

Internet

8

LDNS

ns2.

1

4

7

2

3

6探测 5探测

9

为了更好的分析F5的BIG-IP 是如何实现对不同ISP用户访问提供不同的访问链路的，以一个电信用户的访问过程来详细讲解一下。

首先，在LC上将会有两条ISP的链路连接，可以在其上层的交换机上通过VLAN来划分开两条链路，然后接入到不同ISP的路由器上。同时在LC上不同的ISP接口上配置上不同ISP的连接IP 。

然后，在域名解析的DNS上做一个别名的DNS解析条目，如下：

IN CNAME

……

. IN NS 。

IN NS 。

. IN A （F5设备电信地址）

. IN A (F5设备网通地址）

F5：配置：

. IN A

IN A

其中SUB是一个在LC上配置的虚拟域名，可以自己来定义。通过一个DNS的别名和NS域名解析指向，就可以让用户本地的DNS去LC上取相应的域名解析结果，而LC通过对不同链路状态的检测，回复最优路径的访问IP，这样就可以实现访问速度的提高了。具体流程如下：

1、电信用户在IE浏览器上访问 这个域名，本地机器会向其本地DNS服务器查询该域名的解析IP。

2、如果本地DNS上没有该域名的条目，它会向根询问该条目；如果已经有，则马上回应一个解析条目。

3、由于在根DNS上已经做了一个别名的DNS解析条目，当本地DNS向根DNS询问解析的时候，根DNS会通知该本地DNS向LC获取这个域名的解析条目。

4、本地DNS联系LC询问解析，这时LC会动态检测两条通往不同ISP路道，测试那条到达该本地DNS相对较优，然后选择相对较优的链路的地址去回应本地DNS，在本例中会使用中国电信的IP对 这个域名做解析。

5、本地DNS会根据从LC收到的域名解析条目回应提出要求的中国电信访问用户。

6、中国电信的访问用户使用中国电信的地址去访问

这个域名。

从上面的过程可见，通过LC的链路检测功能，可以为用户提供最优的访问链路，同时解决不同ISP接入速度慢的影响。

附录2: 服务器负载均衡技术实现

BIG/IP利用虚拟IP地址（VIP由IP地址和TCP/UDP应用的端口组成，它是一个地址和端口的组合）来为用户的一个或多个目标服务器（称为节点：目标服务器的IP地址和TCP/UDP应用的端口组成，它可以是internet的私网保留地址）提供服务。因此，它能够为大量的基于TCP/IP的网络应用提供服务器负载均衡服务。BIG/IP连续地对目标服务器进行L4到L7合理性检查，当用户通过VIP请求目标服务器服务时，BIG/IP根椐目标服务器之间性能和网络健康情况，选择性能最佳的服务器响应用户的请求。BIG/IP能够充分利用所有的服务器资源，将所有流量均衡的分配到各个服务器，从而有效地避免“不平衡”现象的发生。BIGIP是一台对流量和内容进行管理分配的设备。它提供12种灵活的算法将数据流有效地转发到它所连接的服务器群。而面对用户，只是一台虚拟服务器。用户此时只须记住一台服务器，即虚拟服务器。但他们的数据流却被BIGIP灵活地均衡到所有的服务器。这12种算法包括：

Ø轮询（RoundRobin）：顺序循环将请求一次顺序循环地连接每个服务器。当其中某个服务器发生第二到第7层的故障，BIG/IP就把其从顺序循环队列中拿出，不参加下一次的轮询，直到其恢复正常。

Ø比率（Ratio）：给每个服务器分配一个加权值为比例，根椐这个比例，把用户的请求分配到每个服务器。当其中某个服务器发生第二到第7层的故障，BIG/IP就把其从服务器队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。

Ø优先权（Priority）：给所有服务器分组，给每个组定义优先权，BIG/IP用户的请求，分配给优先级最高的服务器组（在同一组内，采用轮询或比率算法，分配用户的请求）；当最高优先级中所有服务器出现故障，BIG/IP才将请求送给次优先级的服务器组。这种方式，实际为用户提供一种热备份的方式。

Ø最少的连接方式（LeastConnection）：传递新的连接给那些进行最少连接处理的服务器。当其中某个服务器发生第二到第7层的故障，BIG/IP就把其从服务器队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。

Ø最快模式（Fastest）：传递连接给那些响应最快的服务器。当其中某个服务器发生第二到第7层的故障，BIG/IP就把其从服务器队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。

Ø观察模式（Observed）：连接数目和响应时间以这两项的最佳平衡为依据为新的请求选择服务器。当其中某个服务器发生第二到第7层的故障，BIG/IP就把其从服务器队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。

Ø预测模式（Predictive）：BIG/IP利用收集到的服务器当前的性能指标，进行预测分析，选择一台服务器在下一个时间片内，其性能将达到最佳的服务器相应用户的请求。(被big/ip进行检测)

Ø动态性能分配（DynamicRatio-APM):BIG/IP收集到的应用程序和应用服务器的各项性能参数，动态调整流量分配。

Ø动态服务器补充（DynamicServerAct.):当主服务器群中因故障导致数量减少时，动态地将备份服务器补充至主服务器群。

Ø服务质量(QoS)：按不同的优先级对数据流进行分配。

Ø 服务类型(ToS)：按不同的服务类型（在TypeofField中标识）对数据流进行分配。

Ø 规则模式：针对不同的数据流设置导向规则，用户可自行编辑流量分配规则，BIG/IP利用这些规则对通过的数据流实施导向控制。

当出现流量“峰值”时，如果能调配所有服务器的资源同时提供服务，所谓的“峰值堵塞”压力就会由于系统性能的大大提高而明显减弱。由于BIGIP优秀的负载均衡能力，所有流量会被均衡的转发到各个服务器，即组织所有服务器提供服务。这时，系统性能等于所有服务器性能的总和，远大于流量“峰值”。这样，即缓解了“峰值堵塞”的压力，又降低了为调整系统性能而增加的投资。

多种服务器状态监测手段

BIGIP支持采用ICMP，TCP/UDP，ECV，EAV，iControl等各种方法对服务器或应用状态进行健康检查。

ØICMP：第2/3层的健康检查方法，采用Ping的方法检查服务器是否alive。

ØTCP/UDP：第4层的健康检查方法，检查相应的TCP/UDP端口是否激活来确定Service的状态。

ØECV：扩展内容验证，第7层的健康检查方法。模拟客户端向服务器发出请求，检查接收数据中是否含有期望的字符串来确定应用的状态。

ØEAV：扩展应用验证，嵌入式、个性化的健康检查方法。可以使用shell script

或perl 语言等嵌入程序执行EAV，对服务器进行多层步骤、复杂的健康检查。一般开发EAV需要三天左右的时间。

ØiControl：主动式的健康检查方法。让服务器或应用来告诉BIGIP，它的健康状态。一般开发iControl需要三个月甚至更长的时间。

方案的特色：

• 实时监控服务器应用系统的状态，并智能屏蔽故障应用系统

• 实现多台服务器的负载均衡，提升系统的可靠性

• 提供服务器在线维护和调试的手段

• 可以对服务器提供流量限制和安全保护

负载均衡流程原理说明：

1)

在负载均衡器内预先配置相应的策略，将许多真实的服务器群规划成一个Pool（服务器池）；以及规划一个客户访问接口虚拟服务器Virtual Server。

2)

用户的请求通过域名解析，到达负载均衡器的Virtual Server；

3)

负载均衡器根据预先配置和定义的负载均衡策略（4层至7层）作出判断，将用户请求转发到的最合适的服务器。

4)

服务器处理用户的请求，再由负载均衡器将处理结果返回用户。