码迷,mamicode.com
首页 > 数据库 > 详细

MySQL中使用innobackupex、xtrabackup进行大数据的备份和还原

时间:2015-05-05 16:52:58      阅读:195      评论:0      收藏:0      [点我收藏+]

标签:数据表   在线   替代品   影响   

大数据量备份与还原,始终是个难点。当MYSQL10G,用mysqldump来导出就比较慢了。在这里推荐xtrabackup,这个工具比mysqldump要快很多。

本文还参考了:http://blog.chinaunix.net/uid-20682026-id-3319204.html

xtrabackup备份恢复测试

一、Xtrabackup介绍

1Xtrabackup是什么

Xtrabackup是一个对InnoDB做数据备份的工具,支持在线热备份(备份时不影响数据读写),是商业备份工具InnoDB Hotbackup的一个很好的替代品。

Xtrabackup有两个主要的工具:xtrabackupinnobackupex

1xtrabackup只能备份InnoDBXtraDB两种数据表,而不能备份MyISAM数据表
      2
innobackupex是参考了InnoDBHotbackupinnoback脚本修改而来的.innobackupex是一个perl脚本封装,封装了xtrabackup。主要是为了方便的同时备份InnoDBMyISAM引擎的表,但在处理myisam时需要加一个读锁。并且加入了一些使用的选项。如slave-info可以记录备份恢复后,作为slave需要的一些信息,根据这些信息,可以很方便的利用备份来重做slave

2Xtrabackup可以做什么 :

在线()备份整个库的InnoDB XtraDB

xtrabackup的上一次整库备份基础上做增量备份(innodb only)
以流的形式产生备份,可以直接保存到远程机器上(本机硬盘空间不足时很有用)

MySQL数据库本身提供的工具并不支持真正的增量备份,二进制日志恢复是point-in-time(时间点)的恢复而不是增量备份。
Xtrabackup
工具支持对InnoDB存储引擎的增量备份,工作原理如下:

(1)首先完成一个完全备份,并记录下此时检查点的LSN(Log Sequence Number)
(2)
在进程增量备份时,比较表空间中每个页的LSN是否大于上次备份时的LSN,如果是,则备份该页,同时记录当前检查点的LSN
先,在logfile中找到并记录最后一个checkpoint(“last checkpoint LSN”),然后开始从LSN的位置开始拷贝InnoDBlogfilextrabackup_logfile;接着,开始拷贝全部的数据文.ibd;在拷贝全部数据文件结束之后,才停止拷贝logfile

因为logfile里面记录全部的数据修改情况,所以,即时在备份过程中数据文件被修改过了,恢复时仍然能够通过解析xtrabackup_logfile保持数据的一致。

因为innobackupex支持innodb,myisam,所以本文说一下,怎么使用innobackupex

二,安装xtrabackup

1、下载地址

http://www.percona.com/downloads/XtraBackup/

 

2、安装

根据需求,选择不同的版本,我选择的是rpm安装包,如果报以下错误

代码如下:


[root@localhost xtrabackup]# rpm -ivhpercona-xtrabackup-2.2.4-5004.el6.x86_64.rpm
 
warning: percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm: Header V4 DSA/SHA1Signature, key ID cd2efd2a: NOKEY
error: Failed dependencies:
perl(Time::HiRes) is needed by percona-xtrabackup-2.2.4-5004.el6.x86_64

解决办法:

代码如下:

[root@localhost xtrabackup]# yum -y install perl perl-devellibaio libaio-devel perl-Time-HiRes perl-DBD-MySQL //安装依赖包  
[root@localhost xtrabackup]# rpm -ivhpercona-xtrabackup-2.2.4-5004.el6.x86_64.rpm   //
重新安装  
warning: percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm: Header V4 DSA/SHA1Signature, key ID cd2efd2a: NOKEY 
 
Preparing... ########################################### [100%] 
 
1:percona-xtrabackup ########################################### [100%] 
 

注意:

xtrabackup 2.2.4不支持mysql 5.1.73,所以如果要用新的xtrabackup,就要用高版本的mysql数据库,不然就会报以下错误:
innobackupex: Error: Unsupported server version: ‘5.1.73‘

下载时选择二进制已经编译好的格式比较方便,解压后直接使用,需要做如下操作:

tar zxvf xtrabackup-1.6.tar.gz

cp /xtrabackup-1.6/bin/innobackupex /usr/bin/innobackupex

cp /xtrabackup-1.6/bin/xtrabackup  /usr/bin/xtrabackup

cp/xtrabackup-1.6/bin/xtrabackup_51  /usr/bin/xtrabackup_51

这里需要注意的是xtrabackup_51中的51指的是mysql的版本5.1,这个根据mysql版本的不同拷贝不同的命令

二、修改my.cnf

查看一下mysqld下面有没有datadir,如果没有加上

 

代码如下:


[mysqld] 
 
datadir=/var/lib/mysql 
(这个路径是mysql初始化时候的路径,安装mysql不同路径不同,我的路径为/usr/local/mysql/data 

不加的话,还原数据的时候,有可能会出现以下问题:

代码如下:


xtrabackup: Error: Please set parameter ‘datadir‘
innobackupex: fatal error: no ‘mysqld‘ group in MySQL options
innobackupex: fatal error: OR no ‘datadir‘ option in group ‘mysqld‘ in MySQLoptions

 

如果当输入innobackupex相关命令的时候报如下的错误提示:

 

Can‘t locateTime/HiRes.pm in @INC (@INC contains: /usr/local/lib64/perl5/usr/local/share/perl5 /usr/lib64/perl5/vendor_perl/usr/share/perl5/vendor_perl /usr/lib64/perl5 /usr/share/perl5 .) at/usr/local/bin/pt-query-digest line 3187.

BEGINfailed--compilation aborted at /usr/local/bin/pt-query-digest line 3187.

解决方案:

.pm实际上是Perl的包,只需安装如下软件包即可:

yum install -yperl-Time-HiRes

 

三、全部数据库备份与还原

1、全部数据库备份

代码如下:


# innobackupex --defaults-file=/etc/my.cnf --user=root /home/tank/backup

如果你的mysql库有密码就必须加一项—password=password.

 

如果报以下错误:

代码如下:


InnoDB: Error: log file ./ib_logfile0 is of different size 5242880 bytes
InnoDB: than specified in the .cnf file 50331648 bytes!
innobackupex: Error: The xtrabackup child process has died at/usr/bin/innobackupex line 2679.

解决办法:在my.cnfmysqld中加入以下内容:

代码如下:


[mysqld] 
 
innodb_log_file_size = 5M 
 

2、单数据库备份

代码如下:


# innobackupex --defaults-file=/etc/my.cnf --user=root --database=backup_test/home/tank/backup/ 
 

经验证,备份单个库没有问题。存在的不足是,恢复的时候,数据目录必须为空。也就是说,在恢复阶段,需要将现有的数据目录改名为临时目录;在恢复之后,将原数据目录(现临时目录)下的其他库的内容拷贝到数据目录下即可。

3、数据库备份并压缩

代码如下:


# innobackupex --defaults-file=/etc/my.cnf --user=root --stream=tar /home/tank/backup | gzip > /home/tank/backup/`date+%F_%H-%M-%S`.tar.gz 
 

4、全数据还原

代码如下:


# /etc/init.d/mysqld stop      //
停掉mysql  
# mv /var/lib/mysql /var/lib/mysql_bak   //
数据目录备份  
# mkdir -p /var/lib/mysql  //
重建数据目录  
 
 
//--apply-log
选项的命令是准备在一个备份上启动mysql服务  
# innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log/home/tank/backup/2014-09-18_16-35-12 
 
 
 
//--copy-back
选项的命令从备份目录拷贝数据,索引,日志到my.cnf文件里规定的初始位置  
# innobackupex --defaults-file=/etc/my.cnf --user=root --copy-back/home/tank/backup/2014-09-18_16-35-12 
 
 
 
# chown -R mysql.mysql /var/lib/mysql  //
改变文件所属  
# /etc/init.d/mysqld stop  //
启动mysql  

四、增量备份与还原

1、创建测试数据库和表

代码如下:


create database backup_test;  //
创建库  
 
 
CREATE TABLE `backup` (  //
创建表  
 `id` int(11) NOT NULL AUTO_INCREMENT , 
 
 `name` varchar(20) NOT NULL DEFAULT ‘‘ , 
 
 `create_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP , 
 
 `del` tinyint(1) NOT NULL DEFAULT ‘0‘, 
 
 PRIMARY KEY (`id`) 
 
) ENGINE=myisam DEFAULT CHARSET=utf8 AUTO_INCREMENT=1 ; 
 

2、增量备份

代码如下:


mysql> INSERT INTO backup (name) VALUES (‘tank‘),(‘tank1‘);  //
插入数据  
 
 
# innobackupex --defaults-file=/etc/my.cnf --user=root--incremental-basedir=/home/tank/backup/2014-09-18_16-35-12 --incremental/home/tank/backup/ 
 

3、在增量的基础上在进行增量备份

代码如下:


mysql> INSERT INTO backup (name) VALUES(‘tank2‘),(‘tank3‘),(‘tank4‘),(‘tank5‘),(‘tank6‘);  //
在插入数据  
 
 
//2014-09-18_18-05-20
这个目录,上次增量备份产生的目录  
# innobackupex --defaults-file=/etc/my.cnf --user=root--incremental-basedir=/home/tank/backup/2014-09-18_18-05-20 --incremental /home/tank/backup/ 
 

查看增量备份记录文件:

代码如下:


[root@localhost 2014-09-18_16-35-12]# cat xtrabackup_checkpoints   //
全备目录下的文件  
backup_type = full-prepared 
 
from_lsn =0             //
全备起始为 
to_lsn = 23853959 
 
last_lsn = 23853959 
 
compact = 0 
 
 
 
[root@localhost 2014-09-18_18-05-20]# cat xtrabackup_checkpoints  //
第一次增量备份目录下的文件  
backup_type = incremental 
 
from_lsn = 23853959 
 
to_lsn = 23854112 
 
last_lsn = 23854112 
 
compact = 0 
 
 
 
[root@localhost 2014-09-18_18-11-43]# cat xtrabackup_checkpoints  //
第二次增量备份目录下的文件  
backup_type = incremental 
 
from_lsn = 23854112 
 
to_lsn = 23854712 
 
last_lsn = 23854712 
 
compact
 = 0  

增量备份做完后,把backup_test这个数据库删除掉,drop databasebackup_test;这样可以对比还原后。

4、增量还原

代码如下:


# innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log --redo-only/home/tank/backup/2014-09-18_16-35-12 
 
 
 
# innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log --redo-only/home/tank/backup/2014-09-18_16-35-12--incremental-dir=/home/tank/backup/2014-09-18_18-05-20 
 
 
# innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log --redo-only/home/tank/backup/2014-09-18_16-35-12--incremental-dir=/home/tank/backup/2014-09-18_18-11-43 

在这里有三个目录:

1)/home/tank/backup/2014-09-18_16-35-12,全备份目录
2)
/home/tank/backup/2014-09-18_18-05-20,第一次增量备份产生的目录
3)
/home/tank/backup/2014-09-18_18-11-43,第二次增量备份产生的目录

到这里增量还原,还没有结束,还有最重要一步,就是要进行一次全量还原。停止数据库,删除/var/lib/mysql,在还原。

增量备份的原理就是,,把增量目录下的数据,整合到全变量目录下,然后在进行,全数据量的还原。

总体来说,innobackupex速度快,支持innodb,myisam,用起来是还不是很方便,单库还原,还是增量备份还原,都要进行全部数据库还原,这个不合理。

 

此处可以写个脚本做备份(backup.sh)

      #!/bin/sh

      echo "开始备份..."`date`

      log=zztx01_`date+%y%m%d%H%M`.log

      str=zztx01_`date +%y%m%d%H%M`.tar.gz

      innobackupex--user=root --password=123456 --defaults-file=/etc/my.cnf --database=zztx--stream=tar /data/back_data/ 2>/data/back_data/$log | gzip1>/data/back_data/$str

      echo "备份完毕..."`date`

 

说明:
      --database=zztx 单独对zztx数据库做备份,若是不添加此参数那就那就是对全库做备份

     2>/data/back_data/zztx.log  输出信息写入日志中

     1>/data/back_data/zztx.tar.gz 打包压缩存储到该文件中

 

五、innobackup 常用参数说明

--defaults-file
xtrabackup--defaults-file参数

--apply-log
xtrabackup--prepare参数的封装

--copy-back
做数据恢复时将备份数据文件拷贝到MySQL服务器的datadir

--remote-host=HOSTNAME
通过ssh将备份数据存储到进程服务器上;

--stream=[tar]
份文件输出格式, tar时使用tar4ibd , 该文件可在XtarBackupbinary文件中获得.如果备份时有指定--stream=tar,tar4ibd文件所处目录一定要在$PATH(因为使用的是tar4ibd去压缩, XtraBackupbinary包中可获得该文件)
使用参数stream=tar备份的时候,你的xtrabackup_logfile可能会临时放在/tmp目录下,如果你备份的时候并发写入较大的话xtrabackup_logfile可能会很大(5G+),很可能会撑满你的/tmp目录,可以通过参数--tmpdir指定目录来解决这个问题。

--tmpdir=DIRECTORY
当有指定--remote-hostor --stream, 事务日志临时存储的目录, 默认采用MySQL配置文件中所指定的临时目录tmpdir

--redo-only --apply-log,
强制备份日志时只redo ,跳过rollback。这在做增量备份时非常必要。

--use-memory=#
该参数在prepare的时候使用,控制prepareinnodb实例使用的内存量

--throttle=IOS
xtrabackup--throttle参数
--sleep=
是给ibbackup使用的,指定每备份1M数据,过程停止拷贝多少毫秒,也是为了在备份时尽量减小对正常业务的影响,具体可以查看ibbackup的手册

--compress[=LEVEL]
对备份数据迚行压缩,仅支持ibbackupxtrabackup还没有实现;

--include=REGEXP
xtrabackup参数--tables的封装,也支持ibbackup。备份包含的库表,例如:--include="test.*",意思是要备份 test库中所有的表。如果需要全备份,则省略这个参数;如果需要备份test库下的2个表:test1test2,则写成:--include="test.test1|test.test2"。也可以使用通配符,如:--include="test.test*"

--databases=LIST
列出需要备份的databases,如果没有指定该参数,所有包含MyISAMInnoDB表的database都会被备份;

--uncompress
解压备份的数据文件,支持ibbackupxtrabackup还没有实现该功能;

--slave-info,
份从库, 加上--slave-info备份目录下会多生成一个xtrabackup_slave_info 文件, 这里会保存主日志文件以及偏移, 文件内容类似于:CHANGE MASTER TOMASTER_LOG_FILE=‘‘, MASTER_LOG_POS=0

--socket=SOCKET
指定mysql.sock所在位置,以便备份进程登录mysql.

 


MySQL中使用innobackupex、xtrabackup进行大数据的备份和还原

标签:数据表   在线   替代品   影响   

原文地址:http://881955.blog.51cto.com/871955/1642052

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!