当前位置: 首页 > news >正文

MySQL索引(概念篇)

一.为什么要有索引?

二.MySQL 与磁盘交互基本单位

三.建立共识

四.索引的理解

建立测试表

插入多条记录

查看插入结果

为何IO交互要是 Page?

理解单个Page

理解多个Page

页目录

单页情况

多页情况

复盘

InnoDB 在建立索引结构来管理数据的时候,其他数据结构为何不行?

B+ vs B

聚簇索引 VS 非聚簇索引


一.为什么要有索引?

索引:提高数据库的性能,索引是物美价廉的东西了。不用加内存,不用改程序,不用调sql,只要执行正确的 create index ,查询速度就可能提高成百上千倍。但是天下没有免费的午餐,查询速度的提高是以插入、更新、删除的速度为代价的,这些写操作,增加了大量的IO。所以它的价值,在于提高一个海量数据的检索速度。

常见索引分为:

主键索引(primary key)

唯一索引(unique)

普通索引(index)

全文索引(fulltext)--解决中子文索引问题。

先整一个海量表,在查询的时候,看看没有索引时有什么问题?

drop database if exists `user_index`;
create database if not exists `user_index` default character set utf8;
use `user_index`;

-- 产生随机字符串
delimiter $$
create function rand_string(n INT)
returns varchar(255)
DETERMINISTIC
READS SQL DATA
begin
    declare chars_str varchar(100) default 'abcdefghijklmnopqrstuvwxyzABCDEFJHIJKLMNOPQRSTUVWXYZ';
    declare return_str varchar(255) default '';
    declare i int default 0;
    while i < n do
        set return_str = concat(return_str, substring(chars_str, floor(1 + rand() * 52), 1));
        set i = i + 1;
    end while;
    return return_str;
end $$
delimiter ;

-- 产生随机数字
delimiter $$
create function rand_num( )
returns int(5)
DETERMINISTIC
READS SQL DATA
begin
    declare i int default 0;
    set i = floor(10 + rand() * 500);
    return i;
end $$
delimiter ;

-- 创建存储过程,向雇员表添加海量数据
delimiter $$
create procedure insert_emp(in start int(10), in max_num int(10))
begin
    declare i int default 0;
    set autocommit = 0;
    repeat
        set i = i + 1;
        insert into EMP values ((start + i), rand_string(6), 'SALESMAN', 0001, curdate(), 2000, 400, rand_num());
    until i = max_num
    end repeat;
    commit;
end $$
delimiter ;

-- 雇员表
CREATE TABLE `EMP` (
    `empno` int(6) unsigned zerofill NOT NULL COMMENT '雇员编号',
    `ename` varchar(10) DEFAULT NULL COMMENT '雇员姓名',
    `job` varchar(9) DEFAULT NULL COMMENT '雇员职位',
    `mgr` int(4) unsigned zerofill DEFAULT NULL COMMENT '雇员领导编号',
    `hiredate` datetime DEFAULT NULL COMMENT '雇佣时间',
    `sal` decimal(7,2) DEFAULT NULL COMMENT '工资月薪',
    `comm` decimal(7,2) DEFAULT NULL COMMENT '奖金',
    `deptno` int(2) unsigned zerofill DEFAULT NULL COMMENT '部门编号'
);

-- 执行存储过程,添加8000000条记录
call insert_emp(100001, 8000000);

查询员工编号为12306的员工

select * from EMP where empno=12306;

解决方法,创建索引

alter table EMP add index(empno);

 

换一个员工编号,测试看看查询时间

select * from EMP where empno=13579;

二.MySQL 与磁盘交互基本单位

MySQL 作为一款应用软件,可以想象成一种特殊的文件系统。它有着更高的IO场景,所以,为了提高基本的IO效率, MySQL 进行IO的基本单位是 16KB

也就是说,磁盘这个硬件设备的基本单位是 512 字节,而 MySQL InnoDB引擎 使用 16KB 进行IO交互。即, MySQL 和磁盘进行数据交互的基本单位是 16KB 。这个基本数据单元,在 MySQL 这里叫做page

三.建立共识

MySQL 中的数据文件,是以page为单位保存在磁盘当中的。

MySQL CURD 操作,都需要通过计算,找到对应的插入位置,或者找到对应要修改或者查询的数据。

而只要涉及计算,就需要CPU参与,而为了便于CPU参与,一定要能够先将数据移动到内存当中。

所以在特定时间内,数据一定是磁盘中有,内存中也有。后续操作完内存数据之后,以特定的刷新策略,刷新到磁盘。而这时,就涉及到磁盘和内存的数据交互,也就是IO了。而此时IO的基本单位就是Page

为了更好的进行上面的操作, MySQL 服务器在内存中运行的时候,在服务器内部,就申请了被称为 Buffer Pool 的的大内存空间,来进行各种缓存。其实就是很大的内存空间,来和磁盘数据进行IO交互。

为了更高的效率,一定要尽可能的减少系统和磁盘IO的次数

四.索引的理解

建立测试表

create table if not exists user(
id int primary key,
age int not null
);

插入多条记录

mysql> insert into user values(2,17);
mysql> insert into user values(3,59);
mysql> insert into user values(5,40);
mysql> insert into user values(1,30);
mysql> insert into user values(4,39);

查看插入结果

为何IO交互要是 Page?

为何MySQL和磁盘进行IO交互的时候,要采用Page的方案进行交互呢?用多少,加载多少不香吗?

如上面的5条记录,如果MySQL要查找id=2的记录,第一次加载id=1,第二次加载id=2,一次一条记录,那么就需要2IO。如果要找id=5,那么就需要5IO

但,如果这5(或者更多)都被保存在一个Page(16KB,能保存很多记录),那么第一次IO查找id=2的时候,整个Page会被加载到MySQLBuffer Pool中,这里完成了一次IO。但是往后如果在查找id=1,3,4,5等,完全不需要进行IO了,而是直接在内存中进行了。所以,就在单Page里面,大大减少了IO的次数。

你怎么保证,用户一定下次找的数据,就在这个Page里面?我们不能严格保证,但是有很大概率,因为有局部性原理。

往往IO效率低下的最主要矛盾不是IO单次数据量的大小,而是IO的次数。

理解单个Page

MySQL 中要管理很多数据表文件,而要管理好这些文件,就需要 先描述,在组织 ,我们目前可以简单理解成一个个独立文件是有一个或者多个Page构成的

不同的 Page ,在 MySQL 中,都是 16KB ,使用 prev next 构成双向链表

因为有主键的问题, MySQL 会默认按照主键给我们的数据进行排序,从上面的Page内数据记录可以看出,数据是有序且彼此关联的。

为什么数据库在插入数据时要对其进行排序呢?我们按正常顺序插入数据不是也挺好的吗?

插入数据时排序的目的,就是优化查询的效率。

页内部存放数据的模块,实质上也是一个链表的结构,链表的特点也就是增删快,查询修改慢,所以优化查询的效率是必须的。

正是因为有序,在查找的时候,从头到后都是有效查找,没有任何一个查找是浪费的,而且,如果运气好,是可以提前结束查找过程的。

理解多个Page

通过上面的分析,我们知道,上面页模式中,只有一个功能,就是在查询某条数据的时候直接将一

整页的数据加载到内存中,以减少硬盘IO次数,从而提高性能。但是,我们也可以看到,现在的页

模式内部,实际上是采用了链表的结构,前一条数据指向后一条数据,本质上还是通过数据的逐条

比较来取出特定的数据。

如果有1千万条数据,一定需要多个Page来保存1千万条数据,多个Page彼此使用双链表链接起

来,而且每个Page内部的数据也是基于链表的。那么,查找特定一条记录,也一定是线性查找。这效率也太低了。

页目录

单页情况

当前,在一个Page内部,我们引入了目录。比如,我们要查找id=4记录,之前必须线性遍历4次,

才能拿到结果。现在直接通过目录2[3],直接进行定位新的起始位置,提高了效率。现在我们可以再次正式回答上面的问题了,为何通过键值 MySQL 会自动排序?

多页情况

MySQL 中每一页的大小只有 16KB ,单个Page大小固定,所以随着数据量不断增大, 16KB 不可能存下所有的数据,那么必定会有多个页来存储数据。

在单表数据不断被插入的情况下, MySQL 会在容量不足的时候,自动开辟新的Page来保存新的数据,然后通过指针的方式,将所有的Page组织起来

需要注意,上面的图,是理想结构,大家也知道,目前要保证整体有序,那么新插入的数据,不一定会在新Page上面,这里仅仅做演示。

这样,我们就可以通过多个Page遍历,Page内部通过目录来快速定位数据。可是,貌似这样也有效率问题,在Page之间,也是需要 MySQL 遍历的,遍历意味着依旧需要进行大量的IO,将下一个Page加载到内存,进行线性检测。这样就显得我们之前的Page内部的目录,有点杯水车薪了。

那么如何解决呢?解决方案,其实就是我们之前的思路,给Page也带上目录。

使用一个目录项来指向某一页,而这个目录项存放的就是将要指向的页中存放的最小数据的键值。

和页内目录不同的地方在于,这种目录管理的级别是页,而页内目录管理的级别是行。

其中,每个目录项的构成是:键值+指针。图中没有画全。

存在一个目录页来管理页目录,目录页中的数据存放的就是指向的那一页中最小的数据。有数据,就可通过比较,找到该访问那个Page,进而通过指针,找到下一个Page

其实目录页的本质也是页,普通页中存的数据是用户数据,而目录页中存的数据是普通页的地址。

可是,我们每次检索数据的时候,该从哪里开始呢?虽然顶层的目录页少了,但是还要遍历啊?不用担心,可以再加目录页。

这货就是传说中的B+树啊!没错,至此,我们已经给我们的表user构建完了主键索引。

随便找一个id=?我们发现,现在查找的Page数一定减少了,也就意味着IO次数减少了,那么效率也就提高了。

复盘

Page分为目录页和数据页。目录页只放各个下级Page的最小键值。

查找的时候,自顶向下找,只需要加载部分目录页到内存,即可完成算法的整个查找过程,大大减

少了IO次数

InnoDB 在建立索引结构来管理数据的时候,其他数据结构为何不行?

链表?线性遍历

二叉搜索树?退化问题,可能退化成为线性结构

AVL &&红黑树?虽然是平衡或者近似平衡,但是毕竟是二叉结构,相比较多阶B+,意味着树整体

过高,大家都是自顶向下找,层高越低,意味着系统与硬盘更少的IO Page交互。虽然你很秀,但

是有更秀的。

Hash?官方的索引实现方式中, MySQL 是支持HASH的,不过 InnoDB MyISAM 并不支持.Hash根据其算法特征,决定了虽然有时候也很快(O(1)),不过,在面对范围查找就明显不行,另外还有其他差别,有兴趣可以查一下。

B+ vs B

(网上找的图片)

目前这两棵树,对我们最有意义的区别是:

B树节点,既有数据,又有Page指针,而B+,只有叶子节点有数据,其他目录页,只有键值和Page指针

B+叶子节点,全部相连,而B没有

为何选择B+

节点不存储data,这样一个节点就可以存储更多的key。可以使得树更矮,所以IO操作次数更少。

叶子节点相连,更便于进行范围查找

聚簇索引 VS 非聚簇索引

MyISAM 引擎同样使用B+树作为索引结果,叶节点的data域存放的是数据记录的地址。

其中, MyISAM 最大的特点是,将索引Page和数据Page分离,也就是叶子节点没有数据,只有对应数据的地址。

相较于 InnoDB 索引, InnoDB 是将索引和数据放在一起的。

其中, InnoDB 这种用户数据与索引数据在一起索引方案,叫做聚簇索引

当然, MySQL 除了默认会建立主键索引外,我们用户也有可能建立按照其他列信息建立的索引,一般这种索引可以叫做辅助(普通)索引。

对于 MyISAM ,建立辅助(普通)索引和主键索引没有差别,无非就是主键不能重复,而非主键可重复。

InnoDB 的非主键索引中叶子节点并没有数据,而只有对应记录的 key 值。

所以通过辅助(普通)索引,找到目标记录,需要两遍索引:首先检索辅助索引获得主键,然后用主键

到主索引中检索获得记录。这种过程,就叫做回表查询

为何 InnoDB 针对这种辅助(普通)索引的场景,不给叶子节点也附上数据呢?原因就是太浪费空间了。

http://www.dtcms.com/a/109853.html

相关文章:

  • 走向多模态AI之路(二):多模态 AI 如何工作?
  • 0.DJI-PSDK开发准备及资料说明(基于DJI经纬M300RTK和M350RTK无人机上使用)
  • 23种设计模式-行为型模式-责任链
  • sshd -t 命令检查ssh配置文件
  • Zephyr实时操作系统初步介绍
  • shutdown -h now linux关机
  • 供应链管理:计算题 / 倒扣法
  • 【 <二> 丹方改良:Spring 时代的 JavaWeb】之 Spring Boot 中的性能优化:减少启动时间与内存占用
  • LogicFlow获取锚点数据的自定义key并添加的连接的Edge边数据中
  • Linux:进程信号
  • 【编程之路】动态格式化字符串
  • 【堆】《深入剖析优先级队列(堆):数据结构与算法的高效搭档》
  • KUKA机器人查看运行日志的方法
  • Layout Inspector平替跨平台布局分析器のAppium Inspector
  • NineData云原生智能数据管理平台新功能发布|2025年3月版
  • Java学习总结-递归-递归寻找文件绝对路径
  • 全连接RNN反向传播梯度计算
  • RHCSA Linux系统 指令如何使用
  • K8S学习之基础七十四:部署在线书店bookinfo
  • RuoYi-Vue-Plus 安装Minio 实现文件上传
  • 【gdutthesis模板】论文标题太长导致换页问题解决
  • CyclicBarrier、Semaphore、CountDownLatch的区别,适用场景
  • Vue3 Pinia Store使用示例
  • Linux 系统管理综合实训 —— 基于 NAT 模式的多 IP 配置、Nginx 服务部署及存储管理
  • 一周学会Pandas2 Python数据处理与分析-安装Pandas库
  • 在Vue3中格式化后端返回的Java Date类型数据为指定格式
  • 蓝桥杯真题———k倍区间
  • Android开发okhttp添加头部参数
  • 智能建造新范式:装配式建筑 4.0 的数字化进阶
  • SpringBoot集成Redis 灵活使用 TypedTuple 和 DefaultTypedTuple 实现 Redis ZSet 的复杂操作