应对亿级访问,另辟蹊径实现MySQL主库高可用

  

关于如何实现MySQL主库高可用,是一个老生常谈的问题了,目前开源方案主要有MHA和MMM,各有优缺吧。笔者比较推崇的一个原则是“引入尽可能少的东西来满足需求”,所以先想到了“经典”的双主+keepalived架构。关于这个架构,网络上的资料基本都仅停留在对server和MySQL进程层面的监控来决定keepalived是否切换vip,其实这样做是远远不足以保证主库可用性及双主数据一致性的。

举例来说:很多时候主库不可用是由于负载过高或者是达到最大连接数等因素导致的,而server和MySQL进程层面却是正常的;另一方面,在keepalived切换过程中若没有严格的监测当时从库是否有延迟、主库上是否还有耗时的写操作等细节,就无法避免双主数据分列的产生。

因此,笔者在“双主+keepalived”架构的基础上,通过shell脚本主要从以下三个方面进行了改进:

  1. 如何有效地判断主库可用性(通过具体的查询语句来判定);
  2. 如何“优雅”地执行vip切换动作;
  3. 主库修复后,如何安全地将vip切回主库。

目前,这套系统在笔者的线上环境使用,数据库日查询量9000w以上,期间经历过几次切换,未出现数据不一致等异常。

基本思路  

将DB1和DB2做成主动被动模式的双主结构:DB1主动、DB2被动,通过keepalived的VIP对外,将VIP设置成原DB1的IP,保证改造过程对代码透明。

三个前提:

  • 两台MySQL的配置文件里需要加上“log_slave_updates = 1”;
  • 并且“备用机”通过“read_only”参数实现除root用户之外的只读特性;
  • 分别在两个数据库创建test.test表,插入几条数据,供检测脚本使用。

正常时,VIP在DB1,通过keepalived调用脚本定期检查mysql服务可用性(通过一个低权限用户连接mysql服务器并执行一个简单查询,根据返回结果来判定mysql是否可用)。

若无法执行查询:

 
1. 第一次检测失败后,检查服务状态:

  1. 若服务异常,则执行切换:关闭DB1的keepalived,使VIP漂移至DB2,通过DB2上keepalived的notify_master机制,触发脚本将DB2的mysql从被动状态(只读)切换到主动状态(可读写),并发送通知邮件。
  2. 若服务正常(则可能是一些临时性因素导致的监测失败),等待30s做第二次检查,这30s是对瞬时/短时因素造成检查失败的容忍时间,本着“能不切则不切”的原则。若第二次检查仍然失败

 
2.  开始执行系列切换动作

  1. 将DB1的MySQL设置为 read_only模式 (阻止写请继续求进入)
  2. 在DB1上kill掉当前客户端的线程。原来担心kill掉线程会对数据执行造成影响,后来查看了官方文档“mysql shutdown process”,发现mysql正常关闭过程也有一步是如此操作,所以这里可以放心了。然后 sleep 2,给kill命令一些时间(关于kill命令的机制,参考官方解释
  3. 关闭DB1的keepalived,使DB2接管VIP。通过DB2上keepalived的notify_master机制,触发脚本将DB2的mysql从被动状态(只读)切换到主动状态(可读写),并发送通知邮件。

  
3.  管理员修复DB1后,通过脚本“change_to_backup.sh”将主库切换回DB1。脚本思路如下:

(注:涉及到切换主备,就会有中断时间,所以推荐此步骤在业务低谷期执行)

  1. 将DB2的read_only属性置为1
  2. kill掉DB2上的client线程,并重启DB2的keepalived使VIP漂移至DB1
  3. 确定DB1跟上了DB2的更新,并将DB1上的read_only属性移除

  
关于“数据一致性”和“切换时间”:

连续两次失败以后,通过对主MySQL设置read_only属性,同时kill掉用户线程来保证在DB2接管服务之前,DB1上已经没有写操作,避免主从数据不一致。并且切换时间基本上是可确定的:

  • keepalived检测间隔笔者设置为30s(可调整)
  • 若server或MySQL进程级故障,则马上切换,切换时间 < 2s(keepalived切换时间)
  • 若其他原因,则切换时间 < 30s(shell脚本里尽量避免切换而等待30s,可调整)+2s(给kill 主库sql的时间)+2s(keepalived切换时间)

 

以上是大致思路,具体实现看过下面的脚本,就会一目了然了。

DB1上keepalived配置

/etc/keepalived/check_mysql.sh脚本内容如下(主要的判断逻辑都在这里)



DB2上keepalived配置:

/etc/keepalived/notify_master_mysql.sh脚本内容:

DB2上手动切换回DB1的脚本change_to_backup.sh:


日志截图:

DB1 mysql服务故障:

DB1 mysql服务正常,查询失败:

 

DB2 一次切换过程:

DB2 执行脚本手动切回DB1:

总结 

此方案解决了主从中master节点的单点问题;同时,在此基础上,可以再增加从库和中间件实现读写分离等架构。

作者介绍  李建凯

  • 6年Linux运维经验,现混迹动漫行业,任职动漫之家运维经理。
  • 经历过五六台server的“小作坊”,也见识过日pv近亿的“大考验“。多年的一线工作积累了丰富的trouble shooting经验。
  • 擅长应用运维,对数据库感兴趣并对MySQL有些研究。

经作者同意授权转载

作者:李建凯

博客:奋进的K


时间: 2024-11-08 18:54:56

应对亿级访问,另辟蹊径实现MySQL主库高可用的相关文章

Linux下keepalived+mysql 实现高可用

Linux下keepalived+mysql实现高可用 首先在搭建前分析,想用keepalived实现mysql高可用,那么先的对keepalived+lvs跟mysql主主复制有所了解.因为mysql+keepalived架构是在keepalived+lvs跟mysql主主复制的基础上实现的lvs+keepalived跟mysql主主复制,在前面的博文中已经介绍过了这里不啰嗦了. lvs+keepalived链接:http://duyunlong.blog.51cto.com/1054716/

MySQL小型高可用架构(组合)

一.MySQL MySQL小型高可用架构 方案:MySQL双主.主从 + Keepalived主从自动切换   服务器资源:两台PC Server 优点:架构简单,节省资源 缺点:无法线性扩展,主从失败之后需要手动恢复主从架构     MySQL中型高可用架构 方案:MMM + MySQL双主 + 多从高可用方案   服务器资源: 1.至少五台PC Server,2台MySQL主库,2台MySQL从库,1台MMM Monitor: 2.1台MMM Monitor选择低配: 3.如果不采用F5作为

Oracle和MySQL的高可用方案对比(一)

关于Oracle和MySQL的高可用方案,其实一直想要总结了,就会分为几个系列来简单说说.通过这样的对比,会对两种数据库架构设计上的细节差异有一个基本的认识.Oracle有一套很成熟的解决方案.用我在OOW上的ppt来看,是MAA的方案,今年是这个方案的16周年了. 而MySQL因为开源的特点,社区里推出了更多的解决方案,个人的见解,InnoDB Cluster会是MySQL以后的高可用方案标配. 而目前来看,MGR固然不错,MySQL Cluster方案也有,PXC,Galera等方案,个人还

Oracle和MySQL的高可用方案对比(二)

对比 昨天聊了一篇关于高可用方案中Oracle的RAC和MySQL的MHA的对比. 今天来说下Oracle的DG和MySQL的方案对比,相比来说,可能这方面MySQL会单薄一些,所以文末会说下InnoDB Cluster. 在灾备的概念中,Oracle DBA喜欢叫做主备,即为Primary,Standby,而MySQL喜欢叫做主从,即为Master,Slave 首先在Oracle中,数据是基于物理复制(此处说的都是physical standby),所以对于数据库的状态和角色就很好定位,从库正

MySQL双机高可用的负载均衡(读写分离、主从自动切换)架构设计

架构简介   前几天网友来信说帮忙实现这样一个架构:只有两台机器,需要实现其中一台死机之后另一台能接管这台机器的服务,并且在两台机器正常服务时,两台机器都能用上.于是设计了如下的架构.ps://www.centos.bz/wp-content/uploads/2014/12/%E5%8F%8C%E6%9C%BAha%E6%9E%B6%E6%9E%84%E5%9B%BE.png" /> 此架构主要是由keepalived实现双机高可用,维护了一个外网VIP,一个内网VIP.正常情况时,外网V

MySQL下高可用故障转移方案MHA的超级部署教程_Mysql

MHA介绍MHA是一位日本MySQL大牛用Perl写的一套MySQL故障切换方案,来保证数据库系统的高可用.在宕机的时间内(通常10-30秒内),完成故障切换,部署MHA,可避免主从一致性问题,节约购买新服务器的费用,不影响服务器性能,易安装,不改变现有部署.      还支持在线切换,从当前运行master切换到一个新的master上面,只需要很短的时间(0.5-2秒内),此时仅仅阻塞写操作,并不影响读操作,便于主机硬件维护.   在有高可用,数据一致性要求的系统上,MHA 提供了有用的功能,

mysql MHA高可用架构安装

是什么(是一个软件) MHA(Master High Availability)是MySQL高可用性环境下故障切换和主从提升的高可用软件.在MySQL故障切换过程中,MHA能做到在0~30秒之内自动完成数据库的故障切换操作,并且在进行故障切换的过程中,MHA能在最大程度上保证数据的一致性,以达到真正意义上的高可用.-也就是一个软件 软件结构 两部分组成 MHA Manager(管理节点)和MHA Node(数据节点) MHA Manager可以单独部署在一台独立的机器上管理多个master-sl

中国手游布局免费WiFi分发渠道 年覆盖百亿级访问人次

中介交易 http://www.aliyun.com/zixun/aggregation/6858.html">SEO诊断 淘宝客 云主机 技术大厅 近日,中国手游(NASDAQ:CMGE)与巴士在线联合宣布基于巴士在线打造的中国最大的公交移动WiFi平台"MyWiFi",携手开展游戏分发与深度定制合作.中国手游集团将作为巴士在线免费WiFi平台下游戏内容的核心供应商,提供下载与联合运营中国手游自研和独代的精品游戏;同时,针对公交乘客的需求特征,中国手游将为巴士在线深度

中国手游布局免费WiFi分发渠道年覆盖百亿级访问人次

近日,中国手游(NASDAQ:CMGE)与巴士在线联合宣布基于巴士在线打造的中国最大的公交移动WiFi平台"MyWiFi",携手开展游戏分发与深度定制合作.中国手游集团将作为巴士在线免费WiFi平台下游戏内容的核心供应商,提供下载与联合运营中国手游自研和独代的精品游戏;同时,针对公交乘客的需求特征,中国手游将为巴士在线深度定制其最新推出的"51PK"对战游戏平台,用户在公交车上享受极速WiFi网络的同时,还可以体验各种交互性极强的轻松游戏.未来,双方还将结合O2O.