一个简单的MySQL数据迁移示例

    因为服务器迁移,目前一套硬件老化的MySQL主从服务器都需要替换为新服务器,总体评估了一下,在不改变版本的情况下,采用了较新的5.6子版本。就是如下图所示的左边和右边。

  如果要做这个完整的切换,其实方式和思路都有很多,我选择了一种来做。

  首先我低估了数据的情况,以为都是InnoDB表,于是从主库使用--single-transaction导出表数据,直接导入。看起来没有什么明显的异常,但是启动slave,发现数据冲突。

2017-08-07 17:40:31 75211 [Warning] Slave: Duplicate entry '632107' for key 'PRIMARY' Error_code: 1062
2017-08-07 17:40:31 75211 [ERROR] Error running query, slave SQL thread aborted. Fix the problem, and restart the slave S
QL thread with "SLAVE START". We stopped at log 'binlog.000019' position 934115248

 所以仔细审视数据,发现原来里面有个数据库里存在大量的MYISAM表。在这种情况系,备份MYISAM表数据就很可能出现问题,因为--single-transaction不会生效,要备份可以使用mysqlhotcopy等方式来做,我不喜欢MYISM表,而且这个人其实比较懒,不想这样折腾,而且还对主库造成一定的影响。所以我把目光瞄向了从库。

   为了保证数据一致性,我完全可以先停掉slave,在有限的时间里导出数据,这样对于主库来说是透明的。

而需要注意的是使用mysqldump导出使用master-data的选项注定是有冲突的,所以我们完全可以不用master-data=2的选项,而直接根据show slave status\G的结果来得到具体的偏移量。

# mysqldump --all-databases --master-data=2 > master.sql
mysqldump: Error: Binlogging on server not active

新的主库,新的备库都是按照这种方式来搭建,数据都来自旧的从库,这样一来,配置好服务的话,主库会有3个binlogDump线程。

整个数据导入的过程中,可以根据processlist的数据看到处理MyISAM表还是比较耗时,我就干等着几个MyISAM大表的线程State从“Repair by sorting”和“Repair with keycache”切换。

这个时候我们就需要转换一下,我们把新的从库指向新的主库即可,也就是实现级联复制,要做这个工作,让数据追平之后,保险起见还是先停掉新主库的slave线程,让新的从库重新从新的主库来应用日志(show
master status\G) 这样一来,一切一连,一个级联的环境就搞定了。

  后期后一些微调,也可以很自然的完成。

而正式切换的时候,其实几乎不需要做什么工作。新的主库使用reset slave all即可。

  上面的这是一个很基础的环境切换,如果能够更深一步,把网络层面的工作做好,其实这个切换就更加透明,完全可以做到无感知。

时间: 2024-09-21 15:14:06

一个简单的MySQL数据迁移示例的相关文章

一个简单的MySQL数据浏览器

这个程序可以用来浏览MySQL中的数据,您可以稍做修改就可以做出很不错的MySQL浏览器. */ /* ?cmd=db ?cmd=table&db={} ?cmd=record&db={}&table={} */ $host = 'localhost'; $user = 'test'; $password = ''; if(!isset($cmd)) $cmd = 'db'; switch($cmd){   case 'db':    break;   case 'table':

一个简单的MySQL数据浏览器_php基础

这个程序可以用来浏览MySQL中的数据,您可以稍做修改就可以做出很不错的MySQL浏览器.*/ /*?cmd=db?cmd=table&db={}?cmd=record&db={}&table={}*/ $host = 'localhost';$user = 'test';$password = ''; if(!isset($cmd)) $cmd = 'db';switch($cmd){   case 'db':      break;   case 'table':      b

一个简单的Java EE&Docker示例

本文讲的是一个简单的Java EE&Docker示例,[编者的话]学习Docker的最好办法就是迅速在工作中应用它,本文作者使用Docker部署了一个Java EE应用,非常简单和方便.需要注意的是,由于作者写作时本地网络有问题,所以Dockerfile中很多的资源都没有从网络下载,你再实践时,可以尝试修改.学习快乐 :) 本文中,我们将会把Java EE和Docker结合,具体内容如下: 创建.构建并运行一个Docker镜像: 通过镜像启动一个Wildfly服务器,并部署了一个JavaEE示例

迁移 oracle10g rac-您好,请教一个ORACLE跨OS数据迁移问题

问题描述 您好,请教一个ORACLE跨OS数据迁移问题 PLATFORM_ID PLATFORM_NAME ENDIAN_FORMAT 6 AIX-Based Systems (64-bit) Big 18 IBM Power Based Linux Big 2 Solaris[tm] OE (64-bit) Big 4 HP-UX IA (64-bit) Big 16 Apple Mac OS Big 1 Solaris[tm] OE (32-bit) Big 9 IBM zSeries Ba

一个简单的MySQL参数导致的连接问题解惑

最近在做一套MySQL环境的数据迁移,需要把一部分数据从一个站点迁移到另外一个站点,新站点是一套全新的环境,对于MySQL的安装采用了同事建议的二进制方式.当然安装的过程比起Oracle的安装看起来要简单很多了.基本做到了一键安装的程度.因为对于MySQL还是有很多的盲点,所以感觉还是有些心虚,当然态度是虚心的了.可能很多问题处理起来就不会像Oracle那样理直气壮了.这可能也是好事. 数据库安装很快就做好了,而且里面的很多参数也采用了一定的规则去匹配一些参数值,所以自己也没做其它的改变就直接使

一个简单的mysql数据库分页的程序模板

下面是一个简单的php连接mysql数据库进行数据分页显示的模版.可以按注释说明信息进行修改,里面的sql语句是可以自己改的. 注意分析和观察里面相关分页部分的代码的书写和实现的方式. <?php $link = mysql_connect('localhost', 'root', '') or die('mysql database connect error'); mysql_select_db('your database') or die('the selected database i

一个简单的Python plot曲线图示例

如下代码实现一个简单的曲线图绘制,采用Python 3.5.2 编写: import numpy as np import matplotlib.pyplot as plt x=np.linspace(-5,5,200) y=np.sin(x) yn=y+np.random.rand(1,len(y))*1.5 fig=plt.figure() ax=fig.add_subplot(111) ax.scatter(x,yn,c='blue',marker='o') ax.plot(x,y+0.7

PHP将数据从Oracle向Mysql数据迁移实例

为什么要迁移? 首先从运营成本考虑,用Mysql可以节约不少的费用.另一方面,Mysql的稳定性及功能不断地提高与 增强,基本上可以满足客户的需求,如支持多 节点部署,数据分区等.还有就是Mysql使用方便,比 Oracle简单易用.故客户就要求将已有的Oracle数据表与内容迁移到Mysql来. 为什么要自己写脚本? 迁移的表与数据都蛮多的,有几百张表.因此手工完成不太方便.也尝试了一些免费的迁移工具, 如:MySQLMigrationTool等,发现转移 的字段类型不太符合要求(可能是原来的

mysql 数据迁移至oracle, 程序查询数据遭遇oracle字段大写问题

问题描述 场景: 之前系统用mysql数据库,很多数据经过hibernate如此查出 public List<Map<String, Object>> getAllPortalPorletItemLstUnderWorkZoneSiteByWorkZoneSiteId(final long projectId, final long orgRoleId,final long workZoneSiteId) {List<Map<String, Object>>