mysql日志管理 、备份与恢复
创始人
2024-03-18 23:55:52
0

目录

一、数据备份的重要性与分类

1、数据备份的重要性

2、从物理与逻辑的角度,备份分为

3、从数据库的备份策略角度,备份可分为

3.1 完全备份(只适合第一次)

3.2 差异备份(用的较少,有丢失数据的现象)

3.3 增量备份

3.4 备份方式比较

3.5 如何选择逻辑备份策略(频率)

4、常见的备份方法

4.1 物理冷备

4.2 专用备份工具mydump或mysqlhotcopy

4.3 启用二进制日志进行增量备份

4.4 第三方工具备份

5、mysql的一些配置

二、完全备份详解(只适合第一次)

1、完全备份的方式方法

2、完全备份的优点

3、完全备份的缺点

4、数据库完全备份分类

4.1 物理冷备份与恢复

4.2 mysqldump备份与恢复

三、MySQL完全备份与恢复

1、物理冷备份与恢复

1.1 前期准备 

1.2 实际操作

2、mysqldump 备份(温备份)

2.1 前期准备 

2.2 备份一个库实际操作

2.3 备份两个库实际操作

2.4 备份全部库实际操作

2.5 备份指定库中的部分表实际操作

2.6 备份指定库中的部分表的表结构实际操作

3、mysqldump 恢复(温备份)

3.1 创建备份(方法一)

3.2 模拟数据库出现问题(方法一)

3.3 恢复数据库(方法一)

3.4 创建备份(方法二) 

3.5 模拟数据库出现问题(方法二)

3.6 恢复数据库(方法二)

 四、MySQL 增量备份与恢复

1、二进制日志中需要关注的部分(恢复的方式)

2、实际操作

2.1 加混合模式

2.2 前期准备

2.3 备份

2.4 模拟数据库出现问题

2.5 恢复数据(第一种方式)

2.6 恢复数据(第二种方式)

3、断点恢复

3.1 添加数据

3.2 刷新日志

 3.3 模拟数据库出现问题

3.6 查看000006中的数据,要恢复到数据9

3.7  恢复完全备份

3.8 恢复节点

4、基于时间点恢复

4.1 查看时间(恢复到数据10)

4.2 节点恢复


一、数据备份的重要性与分类

  • 备份的主要目的是灾难恢复,备份还可以测试应用、回滚数据修改、查询历史数据、审计等。
  • 而备份、恢复中,日志起到了很重要的作用

1、数据备份的重要性

  • 备份的主要目的是灾难恢复
  • 在生产环境中,数据的安全性至关重要
  • 任何数据的丢失都可能产生严重的后果
  • 造成数据丢失的原因
    • 程序错误
    • 人为操作错误
    • 运算错误
    • 磁盘故障
    • 灾难 (如火灾、地震)和盗窃

2、从物理与逻辑的角度,备份分为

  • 物理备份:对数据库操作系统的物理文件(如数据文件日志文件等)的备份,这种类型的备份适用于在出现问题的时候需要快速恢复的大型重要数据库。
    • 物理备份方法
      • 冷备份(脱机备份):是在关闭数据库的时候进行的
      • 热备份(联机备份):数据库处于运行状态,依赖于数据库的日志文件
      • 温备份:数据库锁定表格(不可写入但可读)的状态下进行备份操作
  • 逻辑备份:对数据库逻辑组件(如:表等数据库对象)的备份,表示为逻辑数据库结构这种类型的备份适用于可以编辑数据值或表结构

3、从数据库的备份策略角度,备份可分为

  • 完全备份:每次对数据库进行完整的备份
  • 差异备份:备份自从上次完全备份之后被修改过的文件
  • 增量备份:只有在上次完全备份或者增量备份后被修改的文件才会被备份

3.1 完全备份(只适合第一次)

  • 每次都进行完全备份,会导致备份文件占用空间巨大,并且大量的重复数据
  • 详细:每次对数据进行完整备份,即对整个数据库、数据库结构和文件结构的备份,保存的是备份完成时刻的数据库,是差异备份与增量备份的基础完全备份的备份与恢复操作都非常简单方便,但是数据存在大量的重复并且会占用大量的磁盘空间,备份的时间也很长
  • 恢复时,直接完全备份的文件即可

3.2 差异备份(用的较少,有丢失数据的现象)

  • 完成一次全部备份,每次差异备份,都会被分完全备份之后的数据,可能会出备份重复数据,导致占额外的磁盘空间
  • 详细:备份那些自从上次完全备份之后被修改过的所有文件,备份的时间节点是从上次完整备份起,备份数据量会越来越大。恢复数据时只需要恢复上次的完全备份与最佳的一次差异备份
  • 恢复时,先恢复完全备份的数据,再次恢复差异备份的数据

3.3 增量备份

  • 完全备份,每次增量备份都是在备份上一次的完全备份或者增量备份之后的数据,不会出现重复数据的情况,也不会占用额外的磁盘空间
  • 详细:只有那些在上次完全备份或者增量备份后被修改的文件才会被备份以上次完整备份或上次增量备份的时间为时间点,仅备份期间内的数据变化,因而备份的数据量小,占用空间小,备份速度快。但恢复时,需要从上一次的完整备份开始到最后一次增量备份之间的所有增量依次恢复,如中间某次的备份数据损坏,将导致数据的丢失每次增量备份都是在备份在上一次完成全备份
  • 恢复时,需要按照次序恢复完全备份和增量备份的数据

3.4 备份方式比较

备份方式比较
备份方式完全备份差异备份增量备份
完全备份时的状态表1、表2表1、表2表1、表2
第1次添加内容创建表3创建表3创建表3
备份内容    表1、表2、表3表3表3
第2次添加内容创建表4创建表4创建表4
备份内容    表1、表2、表3、表4表3、表4表4

3.5 如何选择逻辑备份策略(频率)

合理值区间***

  • 一周一次的全备,全备的时间需要在不提供业务的时间区间进行 PM 10点 AM 5:00之间进行全备
  • 增量:3天/2天/1天一次增量备份
  • 差异:选择特定的场景进行备份

一个处理 (NES) 提供额外空间给与mysql 服务器用

4、常见的备份方法

4.1 物理冷备

  • 备份时数据库处于关闭状态,直接打包数据库文件
  • 备份速度快,恢复时也是最简单的

4.2 专用备份工具mydump或mysqlhotcopy

  • mysqldump常用的逻辑备份工具
  • mysqlhotcopy仅拥有备份MyISAM和ARCHIVE表

4.3 启用二进制日志进行增量备份

  • 进行增量备份,需要刷新二进制日志

4.4 第三方工具备份

  • 免费的MySQL热备份软件Percona XtraBackup

5、mysql的一些配置

MySQL 的日志默认保存位置为 /usr/local/mysql/data

##配置文件
vim /etc/my.cnf
[mysqld]
##错误日志,用来记录当MySQL启动、停止或运行时发生的错误信息,默认已开启
log-error=/usr/local/mysql/data/mysql_error.log     #指定日志的保存位置和文件名

##通用查询日志,用来记录MySQL的所有连接和语句,默认是关闭的
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log

##二进制日志(binlog),用来记录所有更新了数据或者已经潜在更新了数据的语句,记录了数据的更改,可用于数据恢复,默认已开启 (实际并没有开启,需要在里面加入下列命令)
log-bin=mysql-bin      

log_bin=mysql-bin

##中继日志
一般情况下它在Mysql主从同步(复制)、读写分离集群的从节点开启。主节点一般不需要这个日志

##慢查询日志,用来记录所有执行时间超过long_query_time秒的语句,可以找到哪些查询语句执行时间长,以便提醒优化,默认是关闭的(用索引来优化)
s1ow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5        #设置超过5秒执行的语句被记录,缺省时为10秒

##复制段
log-error=/usr/local/mysql/data/mysql_error.log                          #错误日志
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log         #记录日志
log-bin=mysql-bin                                                                       #二进制
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log            
long_query_time=5                                                                                  #慢查询,设置为5s

systemctl restart mysqld                  #重启服务才能生效
mysql -u root -P
show variables like 'general%';       #查看通用查询日志是否开启
show variables like 'log_bin%';       #查看二进制日志是否开启
show variables like '%slow%';         #查看慢查询日功能是否开启
show variables like 'long_query_time';    #查看慢查询时间设置
set global slow_query_log=ON;         #在数据库中设置开启慢查询的方法

PS:variables 表示变量 like 表示模糊查询
#xxx(字段)
xxx% 以xxx为开头的字段
%xxx 以xxx为结尾的字段
%xxx% 只要出现xxx字段的都会显示出来
xxx   精准查询

#二进制日志开启后,重启mysql 会在目录中查看到二进制日志
cd /usr/local/mysql/data
ls
mysql-bin.000001        #开启二进制日志时会产生一个索引文件及一个索引列表

索引文件:记录更新语句
索引文件刷新方式:

  • 重启mysql的时候会更新索引文件,用于记录新的更新语句
  • 刷新二进制日志

mysql-bin.index:
二进制日志文件的索引

配置mysql文件,配置完后一定要重启服务

查看通用查询日志是否开启

查看二进制日志是否开启

查看慢查询日功能是否开启

二、完全备份详解(只适合第一次)

  • 每次都进行完全备份,会导致备份文件占用空间巨大,并且大量的重复数据
  • 恢复时,直接完全备份的文件即可

1、完全备份的方式方法

  • 是对整个数据库、数据库结构和文件结构的备份
  • 保存的是备份完成时刻的数据库
  • 是差异备份与增量备份的基础

2、完全备份的优点

  • 备份与恢复操作简单方便

3、完全备份的缺点

  • 数据存在大量的重复
  • 占用大量的备份空间
  • 备份与恢复时间长

4、数据库完全备份分类

4.1 物理冷备份与恢复

  • 关闭MySQL数据库
  • 使用tar命令直接打包数据库文件夹
  • 直接替换现有MySQL目录即可

4.2 mysqldump备份与恢复

  • MySQL自带的备份工具,可方便实现对MySQL的备份。
  • 可以将指定的库、表导出为SQL脚本
  • 使用命令mysql导入备份的数据

三、MySQL完全备份与恢复

InnoDB 存储引擎的数据库在磁盘上存储成三个文件: db.opt(表属性文件)、表名.frm(表结构文件)、表名.ibd(表数据文件)。

1、物理冷备份与恢复

systemctl stop mysqld
yum -y install xz
#压缩备份
tar Jcvf /opt/mysql_all_$(date +%F).tar.xz /usr/local/mysql/data/
mv /usr/local/mysql/data/ /opt/
#解压恢复
tar Jxvf /opt/mysql_all_2020-11-22.tar.xz -C /usr/local/mysql/data/
cd /usr/local/mysql/data
mv /usr/local/mysql/data/* ./

1.1 前期准备 

创建几条数据

1.2 实际操作

2、mysqldump 备份(温备份)

(1)、完全备份一个或多个完整的库 (包括其中所有的表)
mysqldump -u root -p[密码] --databases 库名1 [库名2] ... > /备份路径/备份文件名.sql    #导出的就是数据库脚本文件
例:
mysqldump -u root -p --databases kgc > /opt/kgc.sql       #备份一个kgc库
mysqldump -u root -p --databases mysql kgc > /opt/mysql-kgc.sql    #备份mysql与 kgc两个库 (2)、完全备份 MySQL 服务器中所有的库
mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql
例:
mysqldump -u root -p --all-databases > /opt/all.sql(3)、完全备份指定库中的部分表
mysqldump -u root -p[密码] 库名 [表名1] [表名2] ... > /备份路径/备份文件名.sql
例:
mysqldump -u root -p [-d] kgc info1 info2 > /opt/kgc_info1.sql
#使用“-d”选项,说明只保存数据库的表结构 
#不使用“-d"选项,说明表数据也进行备份
#做为一个表结构模板(4)查看备份文件
grep -v "^--" /opt/kgc_info1.sql | grep -v "^/" | grep -v "^$"
#过滤出以--开头的                    以/开头的      非空行

2.1 前期准备 

2.2 备份一个库实际操作

2.3 备份两个库实际操作

2.4 备份全部库实际操作

2.5 备份指定库中的部分表实际操作

2.6 备份指定库中的部分表的表结构实际操作

3、mysqldump 恢复(温备份)

  • 使用mysqldump导出的文件,可使用导入的方法
    • source命令
    • mysql命令
  • 使用source恢复数据库的步骤
    • 登录到MySQL数据库
    • 执行source备份sql脚本的路径
  • source恢复的示例
    • MySQL [(none)]> source /backup/all-data.sql
PS:mysqldump 严格来说属于温备份,会需要对表进行写入的锁定
在全量备份与恢复实验中,假设现有qsh库,qsh库中有一个ll表,需要注意的一点为:
① 当备份时加 --databases ,表示针对于qsh库
#备份命令
mysqldump -uroot -p123456 --databases qsh > /opt/qsh.sql 备份库后
#恢复命令过程为:
mysql -uroot -p123456 
drop database qsh;
exit
mysql -uroot -p123456 < /opt/qsh.sql
② 当备份时不加 --databases,表示针对qsh库下的所有表
#备份命令
mysqldump -uroot -p123456 qsh > /opt/qsh_all.sql
#恢复过程:
mysql -uroot -p123456
drop database qsh;
create database qsh;
exit
mysql -uroot -p123456 qsh < /opt/qsh_all.sql 

3.1 创建备份(方法一)

3.2 模拟数据库出现问题(方法一)

 

3.3 恢复数据库(方法一)

3.4 创建备份(方法二) 

3.5 模拟数据库出现问题(方法二)

3.6 恢复数据库(方法二)

 

 四、MySQL 增量备份与恢复

  • 一般恢复
    • 将所有备份的二进制日志内容全部恢复
  • 基于位置恢复
    • 数据库在某一时间点可能既有错误的操作也有正确的操作
    • 可以基于精准的位置跳过错误的操作
    • 发生错误节点之前的一个节点,上一次正确操作的位置点停止
  • 基于时间点恢复
    • 跳过某个发生错误的时间点实现数据恢复
    • 在错误时间点停止,在下一个正确时间点开始
1.开启二进制日志功能
vim /etc/my.cnf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED      #可选,指定二进制日志(binlog)的记录格式为MIXED(混合输入)
server-id = 1              #可加可不加该命令#二进制日志(binlog)有3种不同的记录格式: STATEMENT (基于SQL语句)、ROW(基于行)、MIXED(混合模式),默认格式是STATEMENT第一种方式 STATEMENT(基于SQL语句):
每一条涉及到被修改的sql 都会记录在binlog中
缺点:日志量过大,如sleep()函数,last_insert_id()>,以及user-defined fuctions(udf)、主从复制等架构记录日志时会出现问题总结:增删改查通过sql语句来实现记录,如果用高并发可能会出错,可能时间差异或者延迟,可能不是我们想想的恢复可能你先删除或者在修改,可能会倒过来。准确率底第二种方式 ROW(基于行)
只记录变动的记录,不记录sql的上下文环境
缺点:如果遇到update......set....where true 那么binlog的数据量会越来越大总结:update、delete以多行数据起作用,来用行记录下来,
只记录变动的记录,不记录sql的上下文环境,
比如sql语句记录一行,但是ROW就可能记录10行,但是准确性高,高并发的时候由于操作量,性能变低 比较大所以记录都记下来,③ MIXED 推荐使用
一般的语句使用statement,函数使用ROW方式存储。systemctl restart mysqld 查看二进制日志文件的内容
cp /usr/local/mysql/data/mysql-bin.000002 /opt/① mysqlbinlog --no-defaults  /opt/mysql-bin.000002mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000002#--base64-output=decode-rows:使用64位编码机制去解码(decode)并按行读取(rows)
#-v: 显示详细内容
#--no-defaults : 默认字符集(不加会报UTF-8的错误)
PS: 可以将解码后的文件导出为txt格式,方便查阅
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000002 > /opt/mysql-bin.000002

1、二进制日志中需要关注的部分(恢复的方式)

  1. at :开始的位置点 
  2. end_log_pos:结束的位置
  3. 时间戳: 210712 11:50:30 
  4. SQL语句

2、实际操作

2.1 加混合模式

vim /etc/my.cnf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED   指定二进制日志(binlog)的记录格式为 MIXED
server-id = 1  

2.2 前期准备

2.3 备份

2.4 模拟数据库出现问题

2.5 恢复数据(第一种方式)

2.6 恢复数据(第二种方式)

3、断点恢复

3.1 添加数据

3.2 刷新日志

 3.3 模拟数据库出现问题

3.6 查看000006中的数据,要恢复到数据9

3.7  恢复完全备份

3.8 恢复节点

4、基于时间点恢复

4.1 查看时间(恢复到数据10)

4.2 节点恢复

相关内容

热门资讯

拖地作文 拖地作文300字(精选10篇)  在平日的学习、工作和生活里,大家对作文都不陌生吧,作文是经过人的思...
神州12号飞吧作文 神州12号飞吧作文  在学习、工作、生活中,大家或多或少都会接触过作文吧,作文是一种言语活动,具有高...
可恶的蚊子作文 可恶的蚊子作文(通用31篇)  在平时的学习、工作或生活中,大家或多或少都会接触过作文吧,作文是经过...
找春天作文 找春天作文找春天作文1  清晨,小鸟叽叽喳喳地叫着,我被小鸟叫醒了。  于是,我赶紧起来,穿好衣服,...
中国发展作文 关于中国发展作文800字(精选7篇)  在生活、工作和学习中,说到作文,大家肯定都不陌生吧,作文根据...
说句心里话作文600字 说句心里话作文600字(通用40篇)  在学习、工作乃至生活中,大家都写过作文,肯定对各类作文都很熟...
浪费粮食作文 浪费粮食作文范文(通用5篇)  无论是在学校还是在社会中,大家对作文都再熟悉不过了吧,作文是人们以书...
描写北京故宫的作文500字 描写北京故宫的作文范文500字(通用52篇)  无论是在学校还是在社会中,大家总少不了接触作文吧,写...
我和我的家作文 我和我的家作文(精选20篇)  无论是在学校还是在社会中,大家都经常看到作文的身影吧,作文是人们以书...
美丽的蝴蝶作文 美丽的蝴蝶作文美丽的蝴蝶今天,我想大家介绍一位新朋友蝴蝶。它长得可好看了,两片扇形的翅膀,有蓝色的、...
元旦的作文500字 元旦的作文500字锦集5篇  在学习、工作或生活中,大家都有写作文的经历,对作文很是熟悉吧,作文可分...
飘在天上的日子作文 飘在天上的日子作文7篇  在平日的学习、工作和生活里,大家或多或少都会接触过作文吧,写作文可以锻炼我...
一个急性子的人700字作文 一个急性子的人700字作文  我的爸爸是一个急性王,怎么这样说呢?让我慢慢道来吧。  就拿去千山的那...
爱护草坪作文 爱护草坪作文爱护草坪作文1爱护草坪一天,有三个小朋友在草坪上踢足球,这时一个小姐姐走过来说:“你们在...
最美的声音作文800字 最美的声音作文800字  世界上最美的声音是什么?这个问题,值得我们去思考,去探索一般,到底什么样是...
小象的名片 小象的名片小象的名片正文:               小象的名片    在一个森林里,好多动物都有...
蓝色的梦想作文 蓝色的梦想作文海像梦一样把我蓝色的梦想冲去。风像气一样把我美丽的神话打开。梦,我有一个渺小而孤独的蓝...
小狗作文 小狗作文小狗狗是人类最忠诚的朋友,这不,我爸爸就买了只小狗。小狗的毛是黑色的,没有一根杂毛。它的小耳...
我和三个小老外850字作文 关于我和三个小老外850字作文  在日常学习、工作或生活中,大家或多或少都会接触过作文吧,借助作文可...
小学三年级作文春雨200字 小学三年级作文春雨200字(精选56篇)  在日常学习、工作抑或是生活中,大家都接触过作文吧,借助作...