MySQL中怎么进行大数据的备份和还原

这篇文章主要介绍“MySQL中怎么进行大数据的备份和还原”，在日常操作中，相信很多人在MySQL中怎么进行大数据的备份和还原问题上存在疑惑，小编查阅了各式资料，整理出简单好用的操作方法，希望对大家解答”MySQL中怎么进行大数据的备份和还原”的疑惑有所帮助！接下来，请跟着小编一起来学习吧！大数据量备份与还原，始终是个难点。当MYSQL超10G，用mysqldump来导出就比较慢了。在这里推荐xtrabackup,这个工具比mysqldump要快很多。本文还参考了：http://blog.chinaunix.net/uid-20682026-id-3319204.htmlxtrabackup备份恢复测试一、Xtrabackup介绍1、Xtrabackup是什么Xtrabackup是一个对InnoDB做数据备份的工具，支持在线热备份(备份时不影响数据读写)，是商业备份工具InnoDB Hotbackup的一个很好的替代品。Xtrabackup有两个主要的工具：xtrabackup、innobackupex1、xtrabackup只能备份InnoDB和XtraDB两种数据表，而不能备份MyISAM数据表
2、 innobackupex是参考了InnoDBHotbackup的innoback脚本修改而来的.innobackupex是一个perl脚本封装，封装了xtrabackup。主要是为了方便的同时备份InnoDB和MyISAM引擎的表，但在处理myisam时需要加一个读锁。并且加入了一些使用的选项。如slave-info可以记录备份恢复后，作为slave需要的一些信息，根据这些信息，可以很方便的利用备份来重做slave。2、Xtrabackup可以做什么 :在线(热)备份整个库的InnoDB、 XtraDB表在xtrabackup的上一次整库备份基础上做增量备份(innodb only)
以流的形式产生备份，可以直接保存到远程机器上(本机硬盘空间不足时很有用)MySQL数据库本身提供的工具并不支持真正的增量备份，二进制日志恢复是point-in-time(时间点)的恢复而不是增量备份。
Xtrabackup工具支持对InnoDB存储引擎的增量备份，工作原理如下：(1)首先完成一个完全备份，并记录下此时检查点的LSN(Log Sequence Number)。
(2)在进程增量备份时，比较表空间中每个页的LSN是否大于上次备份时的LSN，如果是，则备份该页，同时记录当前检查点的LSN。
首先，在logfile中找到并记录最后一个checkpoint(“last checkpoint LSN”)，然后开始从LSN的位置开始拷贝InnoDB的logfile到xtrabackup_logfile；接着，开始拷贝全部的数据文件.ibd；在拷贝全部数据文件结束之后，才停止拷贝logfile。因为logfile里面记录全部的数据修改情况，所以，即时在备份过程中数据文件被修改过了，恢复时仍然能够通过解析xtrabackup_logfile保持数据的一致。因为innobackupex支持innodb,myisam,所以本文说一下，怎么使用innobackupex。二，安装xtrabackup1、下载地址http://www.percona.com/downloads/XtraBackup/2、安装根据需求，选择不同的版本，我选择的是rpm安装包，如果报以下错误代码如下:
[root@localhost xtrabackup]# rpm -ivhpercona-xtrabackup-2.2.4-5004.el6.x86_64.rpm
warning: percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm: Header V4 DSA/SHA1Signature, key ID cd2efd2a: NOKEY
error: Failed dependencies:
perl(Time::HiRes) is needed by percona-xtrabackup-2.2.4-5004.el6.x86_64解决办法：代码如下:[root@localhost xtrabackup]# yum -y install perl perl-devellibaio libaio-devel perl-Time-HiRes perl-DBD-MySQL//安装依赖包
[root@localhost xtrabackup]# rpm -ivhpercona-xtrabackup-2.2.4-5004.el6.x86_64.rpm //重新安装
warning: percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm: Header V4 DSA/SHA1Signature, key ID cd2efd2a: NOKEY
Preparing… ########################################### [100%]
1:percona-xtrabackup ########################################### [100%]注意：xtrabackup 2.2.4不支持mysql 5.1.73，所以如果要用新的xtrabackup,就要用高版本的mysql数据库，不然就会报以下错误：
innobackupex: Error: Unsupported server version: ‘5.1.73’下载时选择二进制已经编译好的格式比较方便，解压后直接使用，需要做如下操作：tar zxvf xtrabackup-1.6.tar.gzcp /xtrabackup-1.6/bin/innobackupex /usr/bin/innobackupexcp /xtrabackup-1.6/bin/xtrabackup /usr/bin/xtrabackupcp/xtrabackup-1.6/bin/xtrabackup_51 /usr/bin/xtrabackup_51这里需要注意的是xtrabackup_51中的51指的是mysql的版本5.1，这个根据mysql版本的不同拷贝不同的命令二、修改my.cnf查看一下mysqld下面有没有datadir，如果没有加上代码如下:
[mysqld]
datadir=/var/lib/mysql（这个路径是mysql初始化时候的路径，安装mysql不同路径不同，我的路径为/usr/local/mysql/data）不加的话 香港云主机，还原数据的时候，有可能会出现以下问题：代码如下:
xtrabackup: Error: Please set parameter ‘datadir’
innobackupex: fatal error: no ‘mysqld’ group in MySQL options
innobackupex: fatal error: OR no ‘datadir’ option in group ‘mysqld’ in MySQLoptions如果当输入innobackupex相关命令的时候报如下的错误提示：Can’t locateTime/HiRes.pm in @INC (@INC contains: /usr/local/lib64/perl5/usr/local/share/perl5 /usr/lib64/perl5/vendor_perl/usr/share/perl5/vendor_perl /usr/lib64/perl5 /usr/share/perl5 .) at/usr/local/bin/pt-query-digest line 3187.BEGINfailed–compilation aborted at /usr/local/bin/pt-query-digest line 3187.解决方案：.pm实际上是Perl的包，只需安装如下软件包即可：yum install -yperl-Time-HiRes三、全部数据库备份与还原1、全部数据库备份代码如下:
# innobackupex –defaults-file=/etc/my.cnf –user=root /home/tank/backup如果你的mysql库有密码就必须加一项—password=‘password’./如果报以下错误：代码如下:
InnoDB: Error: log file ./ib_logfile0 is of different size 5242880 bytes
InnoDB: than specified in the .cnf file 50331648 bytes!
innobackupex: Error: The xtrabackup child process has died at/usr/bin/innobackupex line 2679.解决办法：在my.cnf的mysqld中加入以下内容：代码如下:
[mysqld]
innodb_log_file_size = 5M2、单数据库备份代码如下:
# innobackupex –defaults-file=/etc/my.cnf –user=root –database=backup_test/home/tank/backup/经验证，备份单个库没有问题。存在的不足是，恢复的时候，数据目录必须为空。也就是说，在恢复阶段，需要将现有的数据目录改名为临时目录；在恢复之后，将原数据目录（现临时目录）下的其他库的内容拷贝到数据目录下即可。3、数据库备份并压缩代码如下:
# innobackupex –defaults-file=/etc/my.cnf –user=root –stream=tar/home/tank/backup | gzip > /home/tank/backup/`date+%F_%H-%M-%S`.tar.gz4、全数据还原代码如下:
# /etc/init.d/mysqld stop //停掉mysql
# mv /var/lib/mysql /var/lib/mysql_bak //数据目录备份
# mkdir -p /var/lib/mysql //重建数据目录

//–apply-log选项的命令是准备在一个备份上启动mysql服务
# innobackupex –defaults-file=/etc/my.cnf –user=root –apply-log/home/tank/backup/2014-09-18_16-35-12

//–copy-back 选项的命令从备份目录拷贝数据,索引,日志到my.cnf文件里规定的初始位置
# innobackupex –defaults-file=/etc/my.cnf –user=root –copy-back/home/tank/backup/2014-09-18_16-35-12

# chown -R mysql.mysql /var/lib/mysql //改变文件所属
# /etc/init.d/mysqld stop //启动mysql四、增量备份与还原1、创建测试数据库和表代码如下:
create database backup_test; //创建库

CREATE TABLE `backup` ( //创建表
`id` int(11) NOT NULL AUTO_INCREMENT ,
`name` varchar(20) NOT NULL DEFAULT ” ,
`create_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ,
`del` tinyint(1) NOT NULL DEFAULT ‘0’,
PRIMARY KEY (`id`)
) ENGINE=myisam DEFAULT CHARSET=utf8 AUTO_INCREMENT=1 ;2、增量备份代码如下:
mysql> INSERT INTO backup (name) VALUES (‘tank’),(‘tank1’); //插入数据

# innobackupex –defaults-file=/etc/my.cnf –user=root–incremental-basedir=/home/tank/backup/2014-09-18_16-35-12 –incremental/home/tank/backup/3、在增量的基础上在进行增量备份代码如下:
mysql> INSERT INTO backup (name) VALUES(‘tank2’),(‘tank3’),(‘tank4’),(‘tank5’),(‘tank6’); //在插入数据

//2014-09-18_18-05-20这个目录，上次增量备份产生的目录
# innobackupex –defaults-file=/etc/my.cnf –user=root–incremental-basedir=/home/tank/backup/2014-09-18_18-05-20 –incremental /home/tank/backup/查看增量备份记录文件：代码如下:
[root@localhost 2014-09-18_16-35-12]# cat xtrabackup_checkpoints //全备目录下的文件
backup_type = full-prepared
from_lsn =0 //全备起始为0
to_lsn = 23853959
last_lsn = 23853959
compact = 0

[root@localhost 2014-09-18_18-05-20]# cat xtrabackup_checkpoints //第一次增量备份目录下的文件
backup_type = incremental
from_lsn = 23853959
to_lsn = 23854112
last_lsn = 23854112
compact = 0

[root@localhost 2014-09-18_18-11-43]# cat xtrabackup_checkpoints //第二次增量备份目录下的文件
backup_type = incremental
from_lsn = 23854112
to_lsn = 23854712
last_lsn = 23854712
compact= 0增量备份做完后，把backup_test这个数据库删除掉，drop databasebackup_test;这样可以对比还原后。4、增量还原代码如下:
# innobackupex –defaults-file=/etc/my.cnf –user=root –apply-log –redo-only/home/tank/backup/2014-09-18_16-35-12

# innobackupex –defaults-file=/etc/my.cnf –user=root –apply-log –redo-only/home/tank/backup/2014-09-18_16-35-12–incremental-dir=/home/tank/backup/2014-09-18_18-05-20

# innobackupex –defaults-file=/etc/my.cnf –user=root –apply-log –redo-only/home/tank/backup/2014-09-18_16-35-12–incremental-dir=/home/tank/backup/2014-09-18_18-11-43在这里有三个目录：1)、/home/tank/backup/2014-09-18_16-35-12，全备份目录
2)、/home/tank/backup/2014-09-18_18-05-20，第一次增量备份产生的目录
3)、/home/tank/backup/2014-09-18_18-11-43，第二次增量备份产生的目录到这里增量还原，还没有结束，还有最重要一步，就是要进行一次全量还原。停止数据库，删除/var/lib/mysql，在还原。增量备份的原理就是，，把增量目录下的数据，整合到全变量目录下，然后在进行，全数据量的还原。总体来说，innobackupex速度快，支持innodb,myisam,用起来是还不是很方便，单库还原，还是增量备份还原，都要进行全部数据库还原，这个不合理。此处可以写个脚本做备份(backup.sh) #!/bin/sh echo “开始备份…”`date` log=zztx01_`date+%y%m%d%H%M`.log str=zztx01_`date +%y%m%d%H%M`.tar.gz innobackupex–user=root –password=123456 –defaults-file=/etc/my.cnf –database=zztx–stream=tar /data/back_data/ 2>/data/back_data/$log | gzip1>/data/back_data/$str echo “备份完毕…”`date`说明：
–database=zztx 单独对zztx数据库做备份，若是不添加此参数那就那就是对全库做备份
2>/data/back_data/zztx.log 输出信息写入日志中
1>/data/back_data/zztx.tar.gz 打包压缩存储到该文件中五、innobackup 常用参数说明–defaults-file
同xtrabackup的–defaults-file参数–apply-log
对xtrabackup的–prepare参数的封装–copy-back
做数据恢复时将备份数据文件拷贝到MySQL服务器的datadir ；–remote-host=HOSTNAME
通过ssh将备份数据存储到进程服务器上；–stream=[tar]
备份文件输出格式, tar时使用tar4ibd , 该文件可在XtarBackupbinary文件中获得.如果备份时有指定–stream=tar,则tar4ibd文件所处目录一定要在$PATH中(因为使用的是tar4ibd去压缩, 在XtraBackup的binary包中可获得该文件)。
在使用参数stream=tar备份的时候，你的xtrabackup_logfile可能会临时放在/tmp目录下，如果你备份的时候并发写入较大的话xtrabackup_logfile可能会很大(5G+)，很可能会撑满你的/tmp目录，可以通过参数–tmpdir指定目录来解决这个问题。–tmpdir=DIRECTORY
当有指定–remote-hostor –stream时, 事务日志临时存储的目录, 默认采用MySQL配置文件中所指定的临时目录tmpdir–redo-only –apply-log组,
强制备份日志时只redo ,跳过rollback。这在做增量备份时非常必要。–use-memory=#
该参数在prepare的时候使用，控制prepare时innodb实例使用的内存量–throttle=IOS
同xtrabackup的–throttle参数
–sleep=是给ibbackup使用的，指定每备份1M数据，过程停止拷贝多少毫秒，也是为了在备份时尽量减小对正常业务的影响，具体可以查看ibbackup的手册；–compress[=LEVEL]
对备份数据迚行压缩，仅支持ibbackup，xtrabackup还没有实现；–include=REGEXP
对 xtrabackup参数–tables的封装，也支持ibbackup。备份包含的库表，例如：–include=”test.*”，意思是要备份 test库中所有的表。如果需要全备份，则省略这个参数；如果需要备份test库下的2个表：test1和test2,则写成：–include=”test.test1|test.test2″。也可以使用通配符，如：–include=”test.test*”。–databases=LIST
列出需要备份的databases，如果没有指定该参数，所有包含MyISAM和InnoDB表的database都会被备份；–uncompress
解压备份的数据文件，支持ibbackup，xtrabackup还没有实现该功能；–slave-info,
备份从库, 加上–slave-info备份目录下会多生成一个xtrabackup_slave_info 文件, 这里会保存主日志文件以及偏移, 文件内容类似于:CHANGE MASTER TOMASTER_LOG_FILE=”, MASTER_LOG_POS=0–socket=SOCKET
指定mysql.sock所在位置，以便备份进程登录mysql.到此，关于“MySQL中怎么进行大数据的备份和还原”的学习就结束了，希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习，快去试试吧！若想继续学习更多相关知识，请继续关注开发云网站，小编会继续努力为大家带来更多实用的文章！

相关推荐: Spring Boot中怎么利用RabbitMQ实现优先级队列

这篇文章给大家介绍S 香港云主机pring Boot中怎么利用RabbitMQ实现优先级队列，内容非常详细，感兴趣的小伙伴们可以参考借鉴，希望对大家能有所帮助。本地运行 RabbitMQ访问可视化面板地址：http://127.0.0.1:15672/账号：u…