当前位置: 首页 > news >正文

MySQL InnoDB MVCC数据结构分析

1、概述

MVCCMultiversion Concurrency Control)多版本并发控制,通过维护不同的版本号,提供一种很好的并发控制技术,这种技术能够使读写操作不冲突提升并发性能

MySQL InnoDB存储引擎,在更新某些数据时,并非使用新数据覆盖旧数据,而是标记旧数据是过时的,同时在其他地方新增一个数据版本。因此,同一份数据有多个版本存储,但只有一个是最新的

根据事务的ACID特性:原子性,一致性,隔离性,持久性MVCC主要解决的是隔离性问题。

特性

解释

Atomicity 原子性

事务的所有行为或者全部提交或者全部不做

Consistency 一致性

事务在完成时使得整个数据库仍保持一致性状态

Isolation 隔离性

并发的事务看不到彼此正在进行的更新操作

Durability 持久性

一个成功提交的事务对数据库的更新是永久的

      并且InnoDB存储引擎采用Next-Key Loking的算法来避免幻读现象。在事务隔离界别Read CommitedRepeatable Read下,InnoDB存储引擎使用非锁定的一致性读。

2、隐藏列

      InnoDB表中会存有三个隐藏字段,这三个字段是mysql默认帮我们添加的。

      MySQL 5.7.29版本 dict文件夹下dict0dict.cc文件的实现源码中,从dict_table_add_system_columns()函数可以看到其内部实现:

分析:

      从函数中可以看到当满足一定的条件时,若建表时没有指定主键,InnoDB会使用该ROW_ID创建一个聚簇索引,MySQL会自动生成一个隐藏的自增ID;事务的ID和回滚指针也被生成,用于记录修改(insert/update/delete)该记录的事务ID和指向这条记录的上一个版本。

      当产生新的版本,旧的版本将被放到undo log中,并且当前记录的回滚指针指向上一个版本的地址。

当建表没有指定主键或新开一个事务对该行数据有修改操作时,会增加隐藏列,隐藏列的产生会调用一个函数,在dict文件夹下dict0dict.cc文件中的dict_table_add_system_columns()函数中,具体定义了这三个隐藏列:

隐藏字段名称

意义

大小

ROW_ID

隐藏的自增ID,当建表没有指定主键,InnoDB会使用该ROW_ID创建一个聚簇索引。

6 byte

DB_TRX_ID

最近修改(更新/删除/插入)该记录的事务ID。

7 byte

DB_ROLL_PTR

回滚指针,指向这条记录的上一个版本。

6 byte

MVCC 使用了三个字段来实现版本并发控制。分别为事务字段,回滚指针字段,是否删除字段。

对于删除标记位的解读:

字段名称

意义

DEL_BIT

判断该行记录是否已经被删除。

分析:

      删除标记位是MVCC在进行删除操作时,对该条记录的删除位状态进行标记,当DEL_BITtrue时,表示已经删除,但未真删除,若需要回滚,可根据状态位进行逆向操作,insert回去,这样保证了在勿删等操作下对于数据的找回

3undo log &版本链

      undo log被称为回滚日志,它是用于记录数据被修改前的信息undo log主要记录的是数据的逻辑变化,为了在发生错误时回滚之前的操作,需要将之前的操作都记录下来,然后在发生错误时才可以回滚。

      数据库事务未提交时,会将事务修改数据的镜像(即修改前的旧版本)存放到undo日志里,当事务回滚时,或者数据库奔溃时,可以利用undo日志,即旧版本数据,撤销未提交事务对数据库产生的影响。

每次写入数据或者修改数据之前都会把修改前的信息记录到undo log

undo log 有什么作用?

  undo log 记录事务修改之前版本的数据信息,因此假如由于系统错误或者rollback操作而回滚的话可以根据undo log的信息来进行回滚到没被修改前的状态。

  undo log是用来回滚数据的,用于保障未提交事务不会对数据库的ACID特性产生影响

undo log 工作步骤

      1).开始事务

      2).记录数据行数据快照到undo log

      3).更新数据(此时在缓存中操作)

      4).undo log写到磁盘

      5).将数据写到磁盘

      6).提交事务

结论:

      (1)、每条数据变更(insert/update/delete)操作都伴随一条undo log的生成,并且回滚日志必须先于数据持久化到磁盘上

      (2)、所谓的回滚就是根据回滚日志做逆向操作,比如delete的逆向操作为insertinsert的逆向操作为deleteupdate的逆向为update等。

      undo log中,当保存的版本多起来后,就会形成一条链表,这就是版本链,它表示当前最新记录数据与旧数据之间的关系。通过undo log与当前最新数据形成的版本链,可以找到任一版本的数据。如下图,模拟三个不同id的事务先后执行一些操作后,select1时形成的版本链。

undo log 回滚日志中,事务在insert新记录产生的insert undo log,当事务提交之后可以直接丢弃;事务在进行 update 或者 delete 的时候产生的update undo log,在快照读的时候还是需要的,所以不能直接删除,只有当系统没有比这个log更早的read-view了的时候才能删除。

      定期唤醒purge线程管理比现在最早的活动事务还早的undo log 遍历undo日志,构造索引记录,查找并删除。

功能: 回收局促索引/二级索引上的删除项。不足:为了能够删除二级索引记录,undo中必须记录完整索引项

ps:所以长事务会产生很多老的视图导致undo log无法删除 大量占用存储空间。

4ReadView可见性

read view: 一致性视图,是MySQL秒级创建视图的必要条件,比如一个事务在进行简单的select 操作(快照读)的时候会创建一个 read view 读取的只是当前事务的可见版本不用加锁

通过跟踪mysql源码,可以在判断该条记录可见性,总会涉及到一个非常重要的类ReadViewRead View是事务开启时当前所有事务的一个集合,这个类中存储了当前Read View最大事务ID最小事务IDReadView类保存在include文件夹下read0types.h头文件中,从源码中可以看到ReadView类中私有成员变量的定义信息:

…….

可以看到read0types.h头文件中ReadView类中定义的私有成员变量,下面对它各个字段进行解读:

ReadView类的成员变量

意义

trx_id_t m_low_limit_id

读取的内容应该看不到trx id> =此值的任何事务。 相当于max_id。

trx_id_t m_up_limit_id

读取结果应查看所有严格 < 此值的trx id。 相当于min_id。

trx_id_t m_creator_trx_id

创建当前视图的事务id。相当于alive_id。

ids_t      m_ids

当前活跃事务(即未提交的事务)的数量。

node_t     m_view_list

事务系统中的一致性视图链表

......

......

分析:

      因为逆序排列,所以不要对于命名中的lowup字样有单纯字面上的理解!

      m_low_limit_id意思,根据源码注释以及上下文的解读,此值的意义为能看到当前行版本的高水位标识,>= low_limit_id皆不能看见;

      m_up_limit_id的意思为能看到当前行版本的低水位标识,< m_up_limit_id皆能看见;

      在可见性的算法上,最核心的算法被封装成一个函数changesvisible(),它是判断可见性算法的核心,根据查询的ReadView即可判断可以看见哪个版本的数据。changesvisible()函数作为成员函数被封装在include文件夹下read0types.h头文件的ReadView类中,可见其重要性,它能够对不同隔离界别下的ReadView的判断。

分析:

从第一个if分支可以看到,如果ID小于Read View中最小的, 则这条记录是可以看到,即id<= m_up_limit_id。说明这条记录是在select这个事务开始之前就结束的;

从第二个if分支可以看到,如果比Read View中最大的还要大,则说明这条记录是在事务开始之后进行修改的,所以此条记录不应查看到;

ifelse if分支中,判断是否在Read View中, 如果在说明在创建Read View 此条记录还处于活跃状态则不应该查询到,否则说明创建Read View是此条记录已经是不活跃状态则可以查询到。

画出该程序的流程图,对于该函数对于可见性的算法一目了然。

对于不可见的记录都是通过row_vers_build_for_consistent_read()函数查询undo构建的老版本记录,直到记录可见。这个函数在row文件夹下row0sel.cc文件中可以看到,省略不重要的代码,可以看到这个循环只有在符合可见性的条件才会break,如果不符合就会回溯到上一个版本:

MVCC类中,其实也会有一个链表,这个链表将每次生成的ReadView对象建立联系,形成一个ReadView链。

include文件夹下read0read.h头文件中,对MVCC类进行了定义,并且在最后定义了一个ReadView链的成员变量,将生成的ReadView链接起来。

……

进一步查看链表的结构,可以看到链表中只有三个变量,分别链表中节点的个数、头指针和尾指针。

5、隔离性与可见性

不同的事务隔离级别,可见性的实现也不一样。但是在InnoDB存储引擎中,MVCC只能在RC或者RR隔离级别下使用。通过对不同隔离级别下的产生的ReadView研究,可以发现两种隔离级别下ReadView的产生是不同的。

隔离级别

可见性比较规则

Read Commited

事务内的每个查询语句都会重新创建Read View,这样就会产生不可重复读现象发生。

Repeatable Read

事务内开始时创建Read View , 在事务结束这段时间内 每一次查询都不会重新重建Read View , 从而实现了可重复读。

可以这样理解,再RR隔离级别下,事务开始后只在第一次创建后才会生成每次进行,不管中间有多少的操作语句,之后就不会再生成新的的ReadView了;

RC隔离级别下,事务开始后,创建ReadView,不仅如此,之后的查询语句都会产生新的ReadView,这样就会出现不能读取重复数据的问题。

6、总结

1)、实现了非阻塞的读操作(OLTP应用),写操作也只锁定必要的行,是个行级锁 select不会加锁,读和写操作性能好,提高了数据库的并发处理能力;缺点:需要额外的存储空间

2)、innodbmvcc是每次事务都有递增的版本号,通过在每行记录的后面添加隐藏字段,存储操作它事务的版本号,实现MVCC;(在底层的是使用事务id、回滚指针、undo log和可见性算法实现的)

3)、undo log将各个版本的数据形成一个版本链,通过可见性比较规则来查询相应版本的数据;

4)、通过保存数据在某个时间点的快照实现的,也就是一致性视图read view);

5)、mvcc只在RRRC两个隔离级别下工作;用户可以查看当前数据的前一个或者前几个历史版本。保证了ACID中的I-隔离性。

相关文章:

  • smb文件夹共享设置
  • Linux学习之路 -- 线程 -- 条件变量与生产消费模型
  • 【含文档】基于Springboot+微信小程序 的高校二手商品交易平台(含源码+数据库+lw)
  • 物联网系统中OLED屏主流驱动方案详解
  • 构建高效房屋租赁系统:Spring Boot应用
  • Springboot中基于注解实现公共字段自动填充
  • 9.23作业
  • 搭建rust开发环境
  • C语言第三周课
  • Threejs绘制圆锥体
  • 【STM32开发环境搭建】-4-在STM32CubeMX中新增Keil(MDK-ARM) 5的工程目录(包含指定路径的C和H文件)
  • 通信工程学习:什么是OFDM正交频分复用
  • LLaMa-Factory入门教程
  • 【Lunix】常用命令
  • 2024重生之回溯数据结构与算法系列学习(9)【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丢脸好嘛?】
  • css系列之关于字体的事
  • javascript数组去重/查找/插入/删除
  • Linux链接文件
  • SpiderData 2019年2月23日 DApp数据排行榜
  • vue2.0开发聊天程序(四) 完整体验一次Vue开发(下)
  • 程序员最讨厌的9句话,你可有补充?
  • 大主子表关联的性能优化方法
  • 分布式事物理论与实践
  • 工作中总结前端开发流程--vue项目
  • 和 || 运算
  • 机器学习 vs. 深度学习
  • 技术发展面试
  • 紧急通知:《观止-微软》请在经管柜购买!
  • 理清楚Vue的结构
  • 排序算法之--选择排序
  • 浅谈Kotlin实战篇之自定义View图片圆角简单应用(一)
  • 学习Vue.js的五个小例子
  • 一些基于React、Vue、Node.js、MongoDB技术栈的实践项目
  • 3月27日云栖精选夜读 | 从 “城市大脑”实践,瞭望未来城市源起 ...
  • LevelDB 入门 —— 全面了解 LevelDB 的功能特性
  • 阿里云服务器购买完整流程
  • 湖北分布式智能数据采集方法有哪些?
  • ​configparser --- 配置文件解析器​
  • ​Kaggle X光肺炎检测比赛第二名方案解析 | CVPR 2020 Workshop
  • ​linux启动进程的方式
  • #!/usr/bin/python与#!/usr/bin/env python的区别
  • #C++ 智能指针 std::unique_ptr 、std::shared_ptr 和 std::weak_ptr
  • #QT 笔记一
  • $GOPATH/go.mod exists but should not goland
  • (14)Hive调优——合并小文件
  • (2022版)一套教程搞定k8s安装到实战 | RBAC
  • (C语言)深入理解指针2之野指针与传值与传址与assert断言
  • (SERIES12)DM性能优化
  • (动手学习深度学习)第13章 计算机视觉---图像增广与微调
  • (二)Pytorch快速搭建神经网络模型实现气温预测回归(代码+详细注解)
  • (附源码)springboot社区居家养老互助服务管理平台 毕业设计 062027
  • (附源码)小程序儿童艺术培训机构教育管理小程序 毕业设计 201740
  • (四)七种元启发算法(DBO、LO、SWO、COA、LSO、KOA、GRO)求解无人机路径规划MATLAB
  • (微服务实战)预付卡平台支付交易系统卡充值业务流程设计
  • (一)spring cloud微服务分布式云架构 - Spring Cloud简介