备份和恢复
为什么要备份?
实现容灾恢复
1 | 硬件故障 |
备份注意要点
1 | 能容忍最多丢失多少数据 |
还原要点
1 | 做还原测试,用于测试备份的可用性 |
备份类型
1 | 完全备份:整个数据集 |
注意:二进制文件不应该与数据文件放在同一磁盘
冷、温、热备份
1 | 冷备:读写操作均不可进行 |
物理和逻辑备份
1 | 物理备份:直接复制数据文件进行备份,与存储引擎有关,占用较多的空间,速度快。 |
备份时需要考虑的因素
1 | 温备的持锁多久 |
备份什么
1 | 数据 |
备份工具
1 | cp,tar等复制归档工具:物理备份工具,适用所有存储引擎;只支持冷备;完全和部分备份 |
mysqldump工具介绍
mysqldump:客户端命令,通过mysql协议连接至mysql服务器进行备份
用法:
1 | mysqldump [OPTIONS] database [tables] (不推荐使用) |
mysqldump常见选项:
1 | -A, --all-databases 备份所有数据库,含create database |
实现数据库分库备份
方法一:
1 | [root@mariadb ~]#mysql -e 'show databases'|grep -Eiv 'database|information_schema|performance_schema'|sed -r 's#.*#mysqldump -B -F --master-data=2 & |gzip > &_`data +%F`.sql.gzip#'|bash |
方法二:
1 | [root@mariadb ~]#for i in `mysql -e 'show databases'|grep -Eiv "database|information_schema|performance_schema"`;do mysqldump -B $i -F --master-data=2 |gzip > ${i}_`date +%F`.sql.gzip;done |
MyISAM备份选项:
支持温备;不支持热备,所以必须先锁定要备份的库,而后启动备份操作锁定方法如下:
-x,–lock-all-tables:加全局读锁,锁定所有库的所有表,同时加–singletransaction或–lock-tables选项会关闭此选项功能
注意:数据量大时,可能会导致长时间无法并发访问数据库
-l,–lock-tables:对于需要备份的每个数据库,在启动备份之前分别锁定其所有表,默认为on,–skip-lock-tables选项可禁用,对备份MyISAM的多个库,可能会造成数据不一致
注:以上选项对InnoDB表一样生效,实现温备,但不推荐使用
InnoDB备份选项: 支持热备,可用温备但不建议用
–single-transaction:此选项Innodb中推荐使用,不适用MyISAM,此选项会开始备份前,先执行START TRANSACTION指令开启事务,即以事务的方式开启备份
此选项通过在单个事务中转储所有表来创建一致的快照。 仅适用于存储在支持多版本控制的存储引擎中的表(目前只有InnoDB可以); 转储不保证与其他存储引擎保持一致。 在进行单事务转储时,要确保有效的转储文件(正确的表内容和二进制日志位置),没有其他连接应该使用以下语句:ALTER TABLE,DROP TABLE,RENAME TABLE,TRUNCATE TABLE
此选项和–lock-tables(此选项隐含提交挂起的事务)选项是相互排斥
备份大型表时,建议将–single-transaction选项和–quick结合一起使用
生产环境备份策略
InnoDB建议备份策略:
1 | [root@mariadb ~]#mysqldump –uroot –A –F –E –R --single-transaction --master-data=1 --flush-privileges --triggers --default-character-set=utf8 --hex-blob > $BACKUP/fullbak_$BACKUP_TIME.sql |
MyISAM建议备份策略
1 | [root@mariadb ~]#mysqldump –uroot –A –F –E –R –x --master-data=1 --flush-privileges --triggers --default-character-set=utf8 --hex-blob > $BACKUP/fullbak_$BACKUP_TIME.sql |
场景:每天凌晨两点计划任务自动备份数据库,第二天早上十点数据库被误删除,设法将数据库恢复到十点的状态
如果是yum安装的数据库,直接启动数据库;如果是多实例,初始化数据库后,然后启动数据库。(本实验以多实例安装为例),前提条件为二进制日志和数据库必须分离存放,即二进制日志必须保存完整,此外还要确认字符集和存储引擎。备份策略为innodb建议的备份策略。
1
2
3
4
5
6
7
8
9
10
11[root@ansible test]#sed -n '/^[^#]/p' /mysql/3306/etc/my.cnf
[mysqld]
port=3306
datadir=/mysql/3306/data/
log-bin=/mysql/3306/logbin/mysql-bin
socket=/mysql/3306/socket/mysql.sock
innodb_file_per_table
symbolic-links=0
[mysqld_safe]
log-error=/mysql/3306/log/mariadb.log
pid-file=/mysql/3306/pid/mariadb.pid导入备份。
首先关闭二进制日志:1
2MariaDB [(none)]> set sql_log_bin=0;
MariaDB [(none)]>source test/all_bak.sql将二进制日志导入数据库。
新开终端查看当前被分的二进制节点:1
2[root@ansible ~]#sed -n '/^-- CHANGE MASTER TO/p' test/all_bak.sql
-- CHANGE MASTER TO MASTER_LOG_FILE='mysql-bin.000003', MASTER_LOG_POS=385;
将此节点之后的二进制日志导出:
1 | [root@ansible ~]#ls /mysql/3306/logbin/ |
导入(在旧终端):
1 | MariaDB [(none)]>source /root/test/binlog_bak.sql |
开启二进制日志:
1 | MariaDB [(none)]> set sql_log_bin=1; |
此时,已经将数据库恢复到十点的状态,恢复期间,应通过设置防火墙策略等手段禁止用户访问该实例,数据库恢复完成后,恢复用户的访问。
场景:每天凌晨两点计划任务自动备份数据库,第二天早上十点数据库中的某个表被误删除,之后对数据库的其他表做了一些写操作,直到十点十分发现问题,设法将数据库恢复到十点十分的状态,即恢复被删除的表,并将其余操作一并恢复。
- 准备工作:依然是用hellodb数据库做演示,删除teachers表,并在students表中插入记录,而后恢复。
hellodb库的表结构如下:1
2
3
4
5
6
7
8
9
10
11
12MariaDB [hellodb]> show tables;
+-------------------+
| Tables_in_hellodb |
+-------------------+
| classes |
| coc |
| courses |
| scores |
| students |
| teachers |
| toc |
+-------------------+
备份数据库
1 | [root@mariadb ~]#mysqldump -A -F --single-transaction --master-data=2 > all_bak.sql |
禁止用户访问此数据库实例。(利用防火墙策略等手段)
关闭二进制日志
1
MariaDB [hellodb]> set sql_log_bin=0;
导入备份的数据库
1
MariaDB [hellodb]> source /root/all_bak.sql
将备份节点之后的二进制日志导出
1
[root@mariadb ~]#mysqlbinlog /var/lib/mysql/mariadb-bin.000002 > binlog.sql
将导出的二进制日志中的删除teachers表的语句删除
1
[root@mariadb ~]#sed -i '/^DROP/s/.*/#&/' binlog.sql
将二进制日志导入数据库
1
MariaDB [hellodb]> source /root/binlog.sql
打开二进制日志
1
MariaDB [hellodb]> set sql_log_bin=1;
至此,误删除的表已经恢复,注意:所有的导入过程必须关闭二进制日志,直到恢复完成后再打开。
percona-xtrabackup实战入门
Percona
1 | 官网:www.percona.com |
Xtrabackup
percona提供的mysql数据库备份工具,惟一开源的能够对innodb和xtradb数据库进行热备的工具
手册:https://www.percona.com/doc/percona-xtrabackup/LATEST/index.html
特点:
1 | 备份还原过程快速、可靠 |
xtrabaclip工作原理:
https://www.percona.com/doc/percona-xtrabackup/LATEST/how_xtrabackup_works.html
下载xtrabackup
1 | [root@mariadb tools]#wget https://www.percona.com/downloads/XtraBackup/Percona-XtraBackup-2.4.12/binary/redhat/7/x86_64/percona-xtrabackup-24-2.4.12-1.el7.x86_64.rpm |
安装xtrabackup
1 | [root@mariadb tools]#yum install percona*.rpm |
xtrabackup用法简介
备份:innobackupex [option] BACKUP-ROOT-DIR
选项说明:https://www.percona.com/doc/percona-xtrabackup/LATEST/genindex.html
选项说明:
1 | --user:该选项表示备份账号 |
prepare:innobackupex –apply-log [option] BACKUP-DIR
选项说明
1 | --apply-log:最后一次恢复时使用该选项,一般情况下,在备份完成后,数据尚且不能用于恢复操作,因为备份的数据中可能会包含尚未提交的事务或已经提交但 |
还原:innobackupex –copy-back [选项] BACKUP-DIR
innobackupex –move-back [选项] [–defaults-group=GROUP-NAME] BACKUP-DIR
选项说明
1 | --defaults-file=[MY.CNF]:此选项接受一个字符串参数,该参数指定要从中读取默 |
还原注意事项:
1 | 1.datadir 目录必须为空。除非指定innobackupex --force-non-emptydirectorires选项指定,否则--copy-backup选项不会复制目标目录已经存在的文件。 |
以上需要在用户调用innobackupex之前完成
1 | --force-non-empty-directories:指定该参数时候,使得innobackupex -- |
使用xtrabackup备份生成的相关文件
使用innobakupex备份时,其会调用xtrabackup备份所有的InnoDB表,复制所有关于表结构定义的相关文件(.frm)、以及MyISAM、MERGE、CSV和ARCHIVE表的相关文件,同时还会备份触发器和数据库配置信息相关的文件。这些文件会被保存至一个以时间命名的目录中,在备份时,innobackupex还会在备份目录中创建如下文件:
1 | xtrabackup_info:innobackupex工具执行时的相关信息,包括版本,备份选项,备 |
实验:xtrabackup完全备份及还原
在原主机做完全备份到/data/backup
1
[root@mariadb tools]#xtrabackup --backup --target-dir=/data/backup
将备份后生成的目录拷贝到远程主机
1
[root@mariadb tools]#scp -r /data/backup/ 192.168.34.108:/data/backup/
在远程主机做预准备工作
1
[root@node01 ~]#xtrabackup --prepare --target-dir=/data/backup
执行还原操作
1
[root@node01 ~]#xtrabackup --copy-back --target-dir=/data/backup --datadir=/var/lib/mysql
更改还原的数据库的属主和属组
1
[root@node01 ~]#chown -R mysql.mysql /var/lib/mysql/
至此,实验结束。
实验:xtrabackup完全、增量备份及还原
创建文件夹用于实验
1 | [root@mariadb backup]#mkdir /data/test/{base,inc1,inc2} |
执行完全备份
1
[root@mariadb backup]#xtrabackup --backup --target-dir=/data/test/base
往数据库中插入数据后执行第一次增量备份
1
[root@mariadb backup]#xtrabackup --backup --target-dir=/data/test/inc1 --incremental-basedir=/data/test/base
再次往数据库插入数据后执行第二次增量备份
1
[root@mariadb backup]#xtrabackup --backup --target-dir=/data/test/inc2 --incremental-basedir=/data/test/inc1
删除数据库,准备还原
1
2
3
4
5
6[root@mariadb backup]#rm -rf /var/lib/mysql/*
```
5. 预准备完成备份,此选项--apply-log-only 阻止回滚未完成的事务
```bash
[root@mariadb backup]#xtrabackup --prepare --target-dir=/data/test/base --apply-log-only合并第1次增量备份到完全备份
1
[root@mariadb backup]#xtrabackup --prepare --apply-log-only --target-dir=/data/test/base --incremental-dir=/data/test/inc1
合并第2次增量备份到完全备份:最后一次还原不需要加选项–apply-log-only
1
[root@mariadb backup]#xtrabackup --prepare --target-dir=/data/test/base --incremental-dir=/data/test/inc2
复制到数据库目录,注意数据库目录必须为空,MySQL服务不能启动
1
[root@mariadb backup]#xtrabackup --copy-back --target-dir=/data/test/base --datadir=/var/lib/mysql/
还原属性
1
[root@mariadb backup]#chown -R mysql:mysql /var/lib/mysql
启动服务
1
[root@mariadb backup]#systemctl start mariadb
xtrabackup单表导出和导入
- 单表备份
innobackupex –include=’hellodb.students’ /backups - 备份表结构
mysql -e ‘show create table hellodb.students’ > student.sql - 删除表
mysql -e ‘drop table hellodb.students‘
4 innobackupex –apply-log –export /backups/2018-02-23_15-03-23/ - 创建表
mysql>CREATE TABLEstudents
(StuID
int(10) unsigned NOT NULL AUTO_INCREMENT,Name
varchar(50) NOT NULL,Age
tinyint(3) unsigned NOT NULL,Gender
enum(‘F’,’M’) NOT NULL,ClassID
tinyint(3) unsigned DEFAULT NULL,TeacherID
int(10) unsigned DEFAULT NULL,
PRIMARY KEY (StuID
)
) ENGINE=InnoDB AUTO_INCREMENT=26 DEFAULT CHARSET=utf8 - 删除表空间
alter table students discard tablespace; - cp /backups/2018-02-23_15-03-23/hellodb/students.{cfg,exp,ibd}
/var/lib/mysql/hellodb/ - chown -R mysql.mysql /var/lib/mysql/hellodb/
- mysql>alter table students import tablespace;
mysql主从复制
mysql的扩展
1 | 读写分离 |
主从复制的功用
1 | 数据分布 |
主从复制原理
- master收到用户的写操作,更新数据,同时写入二进制日志。
- master上的dump thread向slave上的I/O thread发送binary log events
- slave thread将从master接收的binary log events保存在rely log中
- slave上的SQL thread从rely log读取日志事件,并写入本地数据库中。至此,完成主从复制
复制类型
异步复制:master写入完成后立即反馈结果给用户,有数据丢失风险,例如master在向slave同步之前突然宕机,然而用户以为已经正确完成写入操作。
同步复制:master写入完成后先将二进制日志同步到所有的slave,之后在反馈结果给用户,缺点是用户体验差,可能造成长时间等待。
半同步复制:master写入完成后先将二进制日志同步到slave,但是只要有一个slave同步完成,即反馈结果给用户,比较合理。
主从配置过程:参看官网
https://mariadb.com/kb/en/library/setting-up-replication/
https://dev.mysql.com/doc/refman/5.5/en/replication-configuration.html
主节点配置
- 启用二进制日志
[mysqld]
log_bin - 为当前节点设置一个全局唯一的ID号
[mysqld]
server_id=#
log-basename=master 可选项,设置datadir中日志名称,确保不依赖主机名 - 创建有复制权限的账号
GRANT REPLICATION SLAVE ON . TO ‘repluser’@’HOST’ IDENTIFIED BY
‘replpass’;
从节点配置
- 启动中继日志
[mysqld]
server_id=# 为当前节点设置一个全局惟的ID号
read-only
relay_log=relay-log relay log的文件路径,默认值hostname-relay-bin
relay_log_index=relay-log.index 默认值hostname-relay-bin.index - 使用有复制权限的用户账号连接至主服务器,并启动复制线程
mysql> CHANGE MASTER TO MASTER_HOST=’host’,
MASTER_USER=’repluser’, MASTER_PASSWORD=’replpass’,
MASTER_LOG_FILE=’mysql-bin.xxxxx’, MASTER_LOG_POS=#;
mysql> START SLAVE [IO_THREAD|SQL_THREAD];
实验:配置主从复制架构
配置主服务器
1
2
3
4[mysqld]
log-bin
server-id=1
binlog-format=row在主服务器创建用于主从复制的用户
1
MariaDB [(none)]> grant replication slave on *.* to 'repluser'@'192.168.34.%' identified by '137226';
配置从服务器
1
2
3
4[mysqld]
port=3306
server-id=2
read-only在从服务器指定主服务器位置,复制用户、密码,及开始复制点
1
2
3
4
5
6
7MariaDB [(none)]> CHANGE MASTER TO
MASTER_HOST='192.168.34.102',
MASTER_USER='repluser',
MASTER_PASSWORD='137226',
MASTER_PORT=3306,
MASTER_LOG_FILE='mariadb-bin.000005',
MASTER_LOG_POS=329;开启slave
1
MariaDB [(none)]>start slave;
至此,简单的主从复制已经实现,从服务器可以配置多个,只需要server-id不同即可。
复制架构中应该注意的问题
限制从服务器为只读
1
2
3
4在从服务器上设置read_only=ON
注意:此限制对拥有SUPER权限的用户均无效
阻止所有用户, 包括主服务器复制的更新
mysql> FLUSH TABLES WITH READ LOCK;RESET SLAVE 在从服务器清除master.info ,relay-log.info, relay log ,开始新的relaylog ,注意:需要先STOP SLAVE
RESET SLAVE ALL 清除所有从服务器上设置的主服务器同步信息如:PORT, HOST, USER和 PASSWORD 等
sql_slave_skip_counter = N 从服务器忽略几个主服务器的复制事件,global变量
如何保证主从复制的事务安全
参看https://mariadb.com/kb/en/library/server-system-variables/
在master节点启用参数:1
sync_binlog=1 每次写后立即同步二进制日志到磁盘,性能差
如果用到的为InnoDB存储引擎:
1 | innodb_flush_log_at_trx_commit=1 每次事务提交立即同步日志写磁盘 |
在slave节点启用服务器选项:
1 | skip_slave_start=ON 不自动启动slave |
在slave节点启用参数:
1 | sync_relay_log=# #次写后同步relay log到磁盘 |
主从级联复制
以A(192,168,34,108),B(192.168.34.103),C(192,。168.34.108)分别为主,从,二级从演示。
主服务器主服务器如上。
在从服务器开启二进制日志,并指定更新二进制日志,其余同上:
1
2
3[mysqld]
log-bin
log-slave-updates将二级从服务器的主指向一级从服务器即可。
mysql主主复制
1 | 主主复制:互为主从 |
主主复制的配置步骤:
- 各节点使用一个惟一server_id
- 都启动binary log和relay log
- 创建拥有复制权限的用户账号
- 定义自动增长id字段的数值范围各为奇偶
- 均把对方指定为主节点,并启动复制线程
半同步复制
默认情况下,MySQL的复制功能是异步的,异步复制可以提供最佳的性能,主库把binlog日志发送给从库即结束,并不验证从库是否接收完毕。这意味着当主服务器或从服务器端发生故障时,有可能从服务器没有接收到主服务器发送过来的binlog日志,这就会造成主服务器和从服务器的数据不一致,甚至在恢复时造成数据的丢失
实验:实现半同步复制实验
先搭建主从复制架构,(最少一主两从三台服务器)
配置主服务器
1
2
3
4
5mysql> INSTALL PLUGIN rpl_semi_sync_master SONAME 'semisync_master.so';
mysql>SET GLOBAL rpl_semi_sync_master_enabled=1; #永久保存可写入配置文件
mysql>SET GLOBAL rpl_semi_sync_master_timeout = 1000;超时长为1s #永久保存可写入配置文件
mysql>SHOW GLOBAL VARIABLES LIKE '%semi%';
mysql>SHOW GLOBAL STATUS LIKE '%semi%‘;配置从服务器
1
2mysql> INSTALL PLUGIN rpl_semi_sync_slave SONAME 'semisync_slave.so';
mysql> SET GLOBAL rpl_semi_sync_slave_enabled=1; #永久保存可写入配置文件
mysql复制过滤器
让从节点仅复制指定的数据库,或指定数据库的指定表
两种实现方式:
服务器选项:主服务器仅向二进制日志中记录与特定数据库相关的事件
注意:此项和binlog_format相关
参看:https://mariadb.com/kb/en/librarymysqld-options/#-binlogignore-db
在主服务器配置:1
2binlog_do_db = 数据库白名单列表,多个数据库需多行实现
binlog_ignore_db = 数据库黑名单列表问题:基于二进制还原将无法实现;不建议使用
从服务器SQL_THREAD在replay中继日志中的事件时,仅读取与特定数
据库(特定表)相关的事件并应用于本地
问题:会造成网络及磁盘IO浪费
在从服务器配置:1
2
3
4
5
6replicate_do_db= 指定复制库的白名单
replicate_ignore_db= 指定复制库黑名单
replicate_do_table= 指定复制表的白名单
replicate_ignore_table= 指定复制表的黑名单
replicate_wild_do_table= foo%.bar% 支持通配符
replicate_wild_ignore_table=
mysql主从复制加密
基于SSL复制:
在默认的主从复制过程或远程连接到MySQL/MariaDB所有的链接通信中的数据都是明文的,外网里访问数据或者复制,存在安全隐患。通过SSL/TLS加密的方式进行复制的方法,来进一步提高数据的安全性
获取证书
生成私钥
1
[root@mariadb ssl]#(umask 066;openssl genrsa 2048 > cakey.pem)
生成自签名证书
1
[root@mariadb ssl]#openssl req -new -x509 -key cakey.pem -out cacert.pem -days 3650
生成主服务器私钥及证书申请
1
[root@mariadb ssl]#openssl req -newkey rsa:2048 -days 365 -nodes -keyout master.key > master.csr
生成从服务器私钥和证书申请
1
[root@mariadb ssl]#openssl req -newkey rsa:2048 -days 365 -nodes -keyout slave.key > slave.csr
分别给master.csr和slave.csr办法证书
1
2[root@mariadb ssl]#openssl x509 -req -in master.csr -CA cacert.pem -CAkey cakey.pem -set_serial 01 > master.crt
[root@mariadb ssl]#openssl x509 -req -in slave.csr -CA cacert.pem -CAkey cakey.pem -set_serial 02 > slave.crt验证证书的有效性
1
2
3[root@mariadb ssl]#openssl verify -CAfile cacert.pem master.crt slave.crt
master.crt: OK
slave.crt: OK
此时的目录结构如下:
1 | [root@mariadb ssl]#ls |
将相关证书分别拷贝到主服务器和各从服务器
1
[root@mariadb ssl]#scp cacert.pem slave.crt slave.key 192.168.34.108:/etc/my.cnf.d/ssl/
配置主服务器
1
2
3
4
5
6
7[mysqld]
log-bin
server_id=1
ssl
ssl-ca=/etc/my.cnf.d/ssl/cacert.pem
ssl-cert=/etc/my.cnf.d/ssl/master.crt
ssl-key=/etc/my.cnf.d/ssl/master.key配置从服务器
1
2
3
4
5
6
7
8
9
10
11mysql>
CHANGE MASTER TO
MASTER_HOST='192.168.34.102',
MASTER_USER='rplssl',
MASTER_PASSWORD='centos',
MASTER_LOG_FILE='mariadb-bin.000005',
MASTER_LOG_POS=329,
MASTER_SSL=1,
MASTER_SSL_CA = '/etc/my.cnf.d/ssl/cacert.pem',
MASTER_SSL_CERT = '/etc/my.cnf.d/ssl/slave.crt',
MASTER_SSL_KEY = '/etc/my.cnf.d/ssl/slave.key';
主从复制的监控和维护
清理日志
1 | PURGE { BINARY | MASTER } LOGS { TO 'log_name' | BEFORE |
复制监控
1 | SHOW MASTER STATUS |
从服务器是否落后于主服务
1 | Seconds_Behind_Master: 0 |
如何确定主从节点数据是否一致
percona-tools
数据不一致如何修复
删除从数据库,重新复制