看“软硬兼施”的负载均衡如何突破性能瓶颈

  面对网络应用业务量及用户量的增加,面对庞大的数据流量及集中性的访问,面临网络堵塞和服务超载的严峻问题在所难逃。为了能够为用户提供持续、不间断的应用服务,带来更好前端应用体验,不仅需要拥有处理大量并发访问服务能力的服务器,负载均衡技术也是加强处理能力、提高系统容错性的一大法宝。

  负载均衡遭遇业务新挑战

  仅仅一个新浪微博,就有超过5亿的用户。访问量早就成为了天文数字。为改善使用体验、提升网络性能,新浪于2004年左右在国内最早使用负载均衡设备NetScaler,2007年新浪与F5公司达成全方位战略合作。但是,随着新浪微博等新兴应用的推出商业设备的性价比和供货时间长无法满足业务的快速部署。而且当微博等线上业务出现访问异常或故障时,单纯依靠成本高昂的专业负载均衡设备提供的CPU、内存、连接数等统计信息,并不足以让工程师掌握服务器及应用状态,不能满足现代互联网发展对低成本、大并发的要求。

  像新浪这样一个24小时运转的互联网企业,面对在没有专门运维时间、停机升级时间的情况下,如何能够突破负载均衡器的性能瓶颈,保证网络流量处理能力,保障数据传输的可靠性、实时性,成为新浪在业务发展过程中迫切需要解决的问题。

  软硬联合突破性能瓶颈

  在互联网行业,软件定义赋予了用户极大业务灵活性和自主能力。由于自己开发软件在节省成本的同时能够更加切合公司的业务,提高故障响应度,并有效解决大规模部署的问题,因此从2006年开始,新浪尝试向基于x86架构的开源负载均衡软件转移,即在Linux操作系统下,通过Haproxy实现对七层负载均衡的优化。

  使用初期,机房中的灵活部署以及每年1100万-2000万元的成本节省让新浪真切的感受到了Haproxy实际优势。由于负载均衡软件的性能与服务器CPU、网卡等硬件直接相关,而英特尔提供的硬件产品,可以结合新浪的需求,增添、去掉其中的一些功能,与新浪“灵活方便”的需求不谋而合,因此,在专注于软件开发的同时,新浪也与英特尔展开了紧密的合作。“英特尔为我们提供了相关的设备和万兆网卡,让我们在英特尔-新浪联合实验室中做了相关测试。除了产品层面,在CPU及网卡的参数和使用上,英特尔也为我们提供了技术上的帮助,”新浪高级架构师林晓峰说道“英特尔的同事会根据我们提出的问题,在全球集团、公司去调集相应的技术专员,从而及时优质的解决我们的困惑。”

  通过对微博等业务进行测试发现,使用英特尔架构处理器及万兆网卡设备,不仅使得原来的Haproxy性能提高了20%-30%,还提升了性能的多核扩展性,而如果再进行相关的优化,数据还将实现进一步提升。因此,新浪决定与英特尔进一步合作,共同完成基于Haproxy应用的CPU性能优化工作。

  经过双方多次的探讨及研究,新浪在Haproxy优化项目中最终采用了拥有强劲性能的英特尔至强E5处理器及万兆网卡。项目运行至今,新浪服务器性能已经实现线性扩展,单机处理能力获得显著提升,开网卡性能也能够被全部利用上。同时,集群内部一台服务器已经能够同时满足70多万个链接请求,相比于之前硬件负载均衡设备的解决方案,响应能力提高了不止一倍,系统负载的分配更加合理,从而使得服务器能够承载更多业务及相应流量。

  拥抱开源行业发展新机遇

  目前来看,基于英特尔平台的新浪Haproxy软件方案是基于新浪当前的实际需求量身定制的,但在稳定性、可靠性和性能方面已能与硬件负载均衡设备媲美,其灵活方便的特点也得以充分发挥。

  “负载均衡问题是每一个互联网公司都必须面对的,”新浪基础架构部总监王凯说道“因此,除了满足新浪自身业务需求外,我们也会在未来与英特尔及更多行业合作伙伴携手将目前Haproxy的解决方案进一步优化,加大在自动化及开源方面的研发力度,将这个解决方案提升到产品级层面,从而分享给有类似需求的其他互联网公司,带动整个行业对负载均衡软件的开发与使用。”

(作者:李祥敬责任编辑:李祥敬)

时间: 2024-10-24 09:38:07

看“软硬兼施”的负载均衡如何突破性能瓶颈的相关文章

juniper实现负载均衡

拓扑图如上所示,本案例之用到了r1,r2,r3,r4四台路由器,都是在olive里通过logical-system来实现的.r1,r2,r3,r4通过rip实现互通,然后我们再r1到r4的10.0.0.4/32的路由实现负载均衡.下面是配置脚本: [edit] olive# show ## Last changed: 2012-07-26 07:46:36 CST version 12.1R1.9; system { time-zone Asia/Shanghai; root-authentic

从一个开发的角度看负载均衡和LVS

在大规模互联网应用中,负载均衡设备是必不可少的一个节点,源于互联网应用的高并发和大流量的冲击压力,我们通常会在服务端部署多个无状态的应用服务器和若干有状态的存储服务器(数据库.缓存等等). 一.负载均衡的作用 负载均衡设备的任务就是作为应用服务器流量的入口,挑选最合适的一台服务器,将客户端的请求转发给它处理,实现客户端到真实服务端的透明转发.最近几年很火的「云计算」以及分布式架构,本质上也是将后端服务器作为计算资源.存储资源,由某台管理服务器封装成一个服务对外提供,客户端不需要关心真正提供服务的

一张图看懂阿里云网络产品[五]负载均衡SLB

负载均衡SLB是对多台云服务器进行流量分发的服务.它可以通过流量分发扩展应用系统的服务能力,通过消除单点故障提升应用系统的可用性.通过设置虚拟IP,将位于同一地域的多台云服务器虚拟成一个高性能.高可用的应用服务池.根据指定的方式,将来自客户端的网络请求分发到云服务器池中. 系列文章持续更新中,敬请关注 [一]网络产品概览 [二]VPC [三]EIP [四]NAT网关 [五]负载均衡SLB [六]共享带宽 [七]共享流量包 [八]高速通道 [九]VPN网关 [十]云托付 [十一]全球加速

从应用需求看多WAN路由器负载均衡

ADSL等宽带接入方式因其经济且够用,即性价比优势受到了很多中小企业的青睐.随着企业业务的发展,尤其是一些中型企业以及对网络依赖性很高的企业,均会考虑进行带宽扩充或规划大带宽接入.多线宽带接入往往是其首选,也会有些企业会选择"光纤+ADSL"等模式,无论采取何种接入方式,企业用户从拥有成本.运维成本角度考虑,多数会选择多WAN口路由器供其使用. 然而在采购多WAN口路由器时,什么样功能的产品才能符合自己的需要,几乎是每位网络设备管理者所疑惑的问题.笔者在与一线销售工程师交流之后,对客户

Linux下双网卡绑定技术实现负载均衡和失效保护(bond)

对于bonding的网络负载均衡是我们在文件服务器中常用到的,比如把三块网卡,当做一块来用,解决一个IP地址,流量过大,服务器网络压力过大的问题.对于文件服务器来说,比如NFS或SAMBA文件服务器,没有所有一个管理员会把内部网的文件服务器的IP地址弄非常多个来解决网络负载的问题.如果在内网中,文件服务器为了管理和应用上的方便,大多是用同一个IP地址.对于一个百M的本地网络来说,文件服务器在多个用户同时使用的情况下,网络压力是极大的,特别是SAMABA和NFS服务器.为了解决同一个IP地址,突破

服务器集群负载均衡(F5,LVS,DNS,CDN)区别以及选型

  ======================================= F5全称: F5-BIG-IP-GTM 全球流量管理器. 是一家叫F5 Networks的公司开发的四~七层交换机,软硬件捆绑. 据说最初用BSD系统,现在是LINUX;硬件是Intel的PC架构,再加周边的网络和专用加速设备. 当然要提提售价, 都是几十万RMB的身价. 这宝贝是用于对流量和内容进行管理分配的设备,也就是负载均衡. 从名字就能看出来:BIG-IP. 外部看来是一个IP,内部可却是几十台应用服务器

Oracle RAC (或OPS)实现自动并行处理、负载均衡

RAC(Real Application Cluster)"实时应用集群",以前称作OPS(Oracle Parallel Server)"甲骨文并行服务器",是Oracle新版数据库中采用的一项 高可用性新技术之一,也是Oracle数据库支持网格计算环境的核心技术.用来在集群环境下实现多机共享数据库,以保证应用的高可用性.同时可以自动实现并 行处理及均分负载(把负载平均分配到集群中的各个节点,以提高系统的整体吞吐能力),还能实现数据库在故障时的容错和无断点恢复.

聊一聊负载均衡SLB的DDoS防护

1.概述 众所周知,DDoS(分布式拒绝服务攻击)攻击是当前互联网上最常见,却最难以防范的一种攻击,其基本原理是黑客通过发动成千上万的肉鸡,在短时间内对被攻击目标发起海量访问,大量占用被攻击目标的服务资源,使得正常的业务访问无法进行,具有危害大.成本低.防范难等特点.阿里云公网产品的一大特点就是有默认DDoS安全防护,包括弹性IP.负载均衡SLB.NAT网关等均有覆盖,今天就以SLB产品为例聊一聊阿里云提供的DDoS防护功能. 如上图所示所有来自Internet的流量都要先经过云盾再到达负载均衡

弘积科技:银行负载均衡其实可以这么做!

引言:业务的稳定性和高可用性可谓是银行的生命线.很难想象,银行的业务系统一旦中断,将会带来怎样的严重后果.为了应对网上银行.手机银行等业务的快速发展对数据中心所带来的处理压力,某省级城商行采用弘积科技ADP平台来保障核心业务的平稳高效运行,也为银行业的负载均衡实践提供了有益借鉴. 成立于2007年的某商业银行,经过近十年发展,业务稳步上升.2016年末其总资产已突破4200亿元,跻身"城商行4000亿俱乐部" . 随着业务的迅猛增长,特别是网上银行交易量的增多,该银行原有的数据中心越来