当前位置: 首页 > news >正文

MySQL分区

一,什么是数据库分区

前段时间写过一篇关于mysql分表的的文章,下面来说一下什么是数据库分区,以mysql为例。mysql数据库中的数据是以文件的形势存在磁盘上的,默认放在/mysql/data 下面(可以通过my.cnf中的datadir来查看),一张表主要对应着三个文件,一个是frm存放表结构的,一个是myd存放表数据的,一个是myi 存表索引的。如果一张表的数据量太大的话,那么myd,myi就会变的很大,查找数据就会变的很慢,这个时候我们可以利用mysql的分区功能,在物理上将这一张表对应的三个文件,分割成许多个小块,这样呢,我们查找一条数据时,就不用全部查找了,只要知道这条数据在哪一块,然后在那一块找就行了。如果表的数据太大,可能一个磁盘放不下,这个时候,我们可以把数据分配到不同的磁盘里面去。
分区的二种方式

1,横向分区

什么是横向分区呢?就是横着来分区了,举例来说明一下,假如有100W条数据,分成十 份,前10W条数据放到第一个分区,第二个10W条数据放到第二个分区,依此类推。也就是把表分成了十分,根用merge来分表,有点像哦。取出一条数据 的时候,这条数据包含了表结构中的所有字段,也就是说横向分区,并没有改变表的结构。

2,纵向分区

什么是纵向分区呢?就是竖来分区了,举例来说明,在设计用户表的时候,开始的时候没有考 虑好,而把个人的所有信息都放到了一张表里面去,这样这个表里面就会有比较大的字段,如个人简介,而这些简介呢,也许不会有好多人去看,所以等到有人要看 的时候,在去查找,分表的时候,可以把这样的大字段,分开来。

感觉数据库的分区好像是切苹果,到底是横着切呢,还是竖着切,根据个人喜好了,mysql提供的分区属于第一种,横向分区,并且细分成很多种方式。下面将举例说明一下。

二,mysql的分区

我觉着吧,mysql的分区只有一种方式,只不过运用不同的算法,规则将数据分配到不同的区块中而已。

1,mysql5.1及以上支持分区功能

安装安装的时候,我们就可以查看一下


  1. [root@BlackGhost mysql-5.1.50]# ./configure --help |grep -A 3 Partition   
  2.  === Partition Support ===   
  3.  Plugin Name:      partition   
  4.  Description:      MySQL Partitioning Support   
  5.  Supports build:   static  
  6.  Configurations:   max, max-no-ndb  

查看一下,如果发现有上面这个东西,说明他是支持分区的,默认是打开的。如果你已经安装过了mysql的话


  1. mysql> show variables like "%part%";   
  2. +-------------------+-------+   
  3. | Variable_name     | Value |   
  4. +-------------------+-------+   
  5. | have_partitioning | YES   |   
  6. +-------------------+-------+   
  7. 1 row in set (0.00 sec)  

查看一下变量,如果支持的话,会有上面的提示的。

2,range分区

按照RANGE分区的表是通过如下一种方式进行分区的,每个分区包含那些分区表达式的值位于一个给定的连续区间内的行


  1. //创建range分区表   
  2. mysql> CREATE TABLE IF NOT EXISTS `user` (   
  3.  ->   `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '用户ID',   
  4.  ->   `name` varchar(50) NOT NULL DEFAULT '' COMMENT '名称',   
  5.  ->   `sex` int(1) NOT NULL DEFAULT '0' COMMENT '0为男,1为女',   
  6.  ->   PRIMARY KEY (`id`)   
  7.  -> ) ENGINE=MyISAM  DEFAULT CHARSET=utf8 AUTO_INCREMENT=1   
  8.  -> PARTITION BY RANGE (id) (   
  9.  ->     PARTITION p0 VALUES LESS THAN (3),   
  10.  ->     PARTITION p1 VALUES LESS THAN (6),   
  11.  ->     PARTITION p2 VALUES LESS THAN (9),   
  12.  ->     PARTITION p3 VALUES LESS THAN (12),   
  13.  ->     PARTITION p4 VALUES LESS THAN MAXVALUE   
  14.  -> );   
  15. Query OK, 0 rows affected (0.13 sec)   
  16.   
  17. //插入一些数据   
  18. mysql> INSERT INTO `test`.`user` (`name` ,`sex`)VALUES ('tank', '0')   
  19.  -> ,('zhang',1),('ying',1),('张',1),('映',0),('test1',1),('tank2',1)   
  20.  -> ,('tank1',1),('test2',1),('test3',1),('test4',1),('test5',1),('tank3',1)   
  21.  -> ,('tank4',1),('tank5',1),('tank6',1),('tank7',1),('tank8',1),('tank9',1)   
  22.  -> ,('tank10',1),('tank11',1),('tank12',1),('tank13',1),('tank21',1),('tank42',1);   
  23. Query OK, 25 rows affected (0.05 sec)   
  24. Records: 25  Duplicates: 0  Warnings: 0   
  25.   
  26. //到存放数据库表文件的地方看一下,my.cnf里面有配置,datadir后面就是   
  27. [root@BlackGhost test]# ls |grep user |xargs du -sh   
  28. 4.0K    user#P#p0.MYD   
  29. 4.0K    user#P#p0.MYI   
  30. 4.0K    user#P#p1.MYD   
  31. 4.0K    user#P#p1.MYI   
  32. 4.0K    user#P#p2.MYD   
  33. 4.0K    user#P#p2.MYI   
  34. 4.0K    user#P#p3.MYD   
  35. 4.0K    user#P#p3.MYI   
  36. 4.0K    user#P#p4.MYD   
  37. 4.0K    user#P#p4.MYI   
  38. 12K    user.frm   
  39. 4.0K    user.par   
  40.   
  41. //取出数据   
  42. mysql> select count(id) as count from user;   
  43. +-------+   
  44. | count |   
  45. +-------+   
  46. |    25 |   
  47. +-------+   
  48. 1 row in set (0.00 sec)   
  49.   
  50. //删除第四个分区   
  51. mysql> alter table user drop partition p4;   
  52. Query OK, 0 rows affected (0.11 sec)   
  53. Records: 0  Duplicates: 0  Warnings: 0   
  54.   
  55. /**存放在分区里面的数据丢失了,第四个分区里面有14条数据,剩下的3个分区  
  56. 只有11条数据,但是统计出来的文件大小都是4.0K,从这儿我们可以看出分区的  
  57. 最小区块是4K  
  58. */  
  59. mysql> select count(id) as count from user;   
  60. +-------+   
  61. | count |   
  62. +-------+   
  63. |    11 |   
  64. +-------+   
  65. 1 row in set (0.00 sec)   
  66.   
  67. //第四个区块已删除   
  68. [root@BlackGhost test]# ls |grep user |xargs du -sh   
  69. 4.0K    user#P#p0.MYD   
  70. 4.0K    user#P#p0.MYI   
  71. 4.0K    user#P#p1.MYD   
  72. 4.0K    user#P#p1.MYI   
  73. 4.0K    user#P#p2.MYD   
  74. 4.0K    user#P#p2.MYI   
  75. 4.0K    user#P#p3.MYD   
  76. 4.0K    user#P#p3.MYI   
  77. 12K    user.frm   
  78. 4.0K    user.par   
  79.   
  80. /*可以对现有表进行分区,并且会按规则自动的将表中的数据分配相应的分区  
  81. 中,这样就比较好了,可以省去很多事情,看下面的操作*/  
  82. mysql> alter table aa partition by RANGE(id)   
  83.  -> (PARTITION p1 VALUES less than (1),   
  84.  -> PARTITION p2 VALUES less than (5),   
  85.  -> PARTITION p3 VALUES less than MAXVALUE);   
  86. Query OK, 15 rows affected (0.21 sec)   //对15数据进行分区   
  87. Records: 15  Duplicates: 0  Warnings: 0   
  88.   
  89. //总共有15条   
  90. mysql> select count(*) from aa;   
  91. +----------+   
  92. | count(*) |   
  93. +----------+   
  94. |       15 |   
  95. +----------+   
  96. 1 row in set (0.00 sec)   
  97.   
  98. //删除一个分区   
  99. mysql> alter table aa drop partition p2;   
  100. Query OK, 0 rows affected (0.30 sec)   
  101. Records: 0  Duplicates: 0  Warnings: 0   
  102.   
  103. //只有11条了,说明对现有的表分区成功了   
  104. mysql> select count(*) from aa;   
  105. +----------+   
  106. | count(*) |   
  107. +----------+   
  108. |       11 |   
  109. +----------+   
  110. 1 row in set (0.00 sec)  

3,list分区

LIST分区中每个分区的定义和选择是基于某列的值从属于一个值列表集中的一个值,而RANGE分 区是从属于一个连续区间值的集合。


  1. //这种方式失败   
  2. mysql> CREATE TABLE IF NOT EXISTS `list_part` (   
  3.  ->   `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '用户ID',   
  4.  ->   `province_id` int(2) NOT NULL DEFAULT 0 COMMENT '省',   
  5.  ->   `name` varchar(50) NOT NULL DEFAULT '' COMMENT '名称',   
  6.  ->   `sex` int(1) NOT NULL DEFAULT '0' COMMENT '0为男,1为女',   
  7.  ->   PRIMARY KEY (`id`)   
  8.  -> ) ENGINE=INNODB  DEFAULT CHARSET=utf8 AUTO_INCREMENT=1   
  9.  -> PARTITION BY LIST (province_id) (   
  10.  ->     PARTITION p0 VALUES IN (1,2,3,4,5,6,7,8),   
  11.  ->     PARTITION p1 VALUES IN (9,10,11,12,16,21),   
  12.  ->     PARTITION p2 VALUES IN (13,14,15,19),   
  13.  ->     PARTITION p3 VALUES IN (17,18,20,22,23,24)   
  14.  -> );   
  15. ERROR 1503 (HY000): A PRIMARY KEY must include all columns in the table's partitioning function  
  16.  
  17. //这种方式成功  
  18. mysql> CREATE TABLE IF NOT EXISTS `list_part` (  
  19.  ->   `id` int(11) NOT NULL  COMMENT '用户ID',  
  20.  ->   `province_id` int(2) NOT NULL DEFAULT 0 COMMENT '省',  
  21.  ->   `name` varchar(50) NOT NULL DEFAULT '' COMMENT '名称',  
  22.  ->   `sex` int(1) NOT NULL DEFAULT '0' COMMENT '0为男,1为女'   
  23.  -> ) ENGINE=INNODB  DEFAULT CHARSET=utf8   
  24.  -> PARTITION BY LIST (province_id) (   
  25.  ->     PARTITION p0 VALUES IN (1,2,3,4,5,6,7,8),   
  26.  ->     PARTITION p1 VALUES IN (9,10,11,12,16,21),   
  27.  ->     PARTITION p2 VALUES IN (13,14,15,19),   
  28.  ->     PARTITION p3 VALUES IN (17,18,20,22,23,24)   
  29.  -> );   
  30. Query OK, 0 rows affected (0.33 sec)  

上面的这个创建list分区时,如果有主銉的话,分区时主键必须在其中,不然就会报错。如果我不用主键,分区就创建成功了,一般情况下,一个张表肯定会有一个主键,这算是一个分区的局限性吧。

如果对数据进行测试,请参考range分区的测试来操作

4,hash分区

HASH分区主要用来确保数据在预先确定数目的分区中平均分布,你所要做的只是基于将要被哈希的列值指定一个列值或表达式,以 及指定被分区的表将要被分割成的分区数量。


  1. mysql> CREATE TABLE IF NOT EXISTS `hash_part` (   
  2.  ->   `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '评论ID',   
  3.  ->   `comment` varchar(1000) NOT NULL DEFAULT '' COMMENT '评论',   
  4.  ->   `ip` varchar(25) NOT NULL DEFAULT '' COMMENT '来源IP',   
  5.  ->   PRIMARY KEY (`id`)   
  6.  -> ) ENGINE=INNODB  DEFAULT CHARSET=utf8 AUTO_INCREMENT=1   
  7.  -> PARTITION BY HASH(id)   
  8.  -> PARTITIONS 3;   
  9. Query OK, 0 rows affected (0.06 sec)  

测试请参考range分区的操作

5,key分区

按照KEY进行分区类似于按照HASH分区,除了HASH分区使用的用 户定义的表达式,而KEY分区的 哈希函数是由MySQL 服务器提供。


  1. mysql> CREATE TABLE IF NOT EXISTS `key_part` (   
  2.  ->   `news_id` int(11) NOT NULL  COMMENT '新闻ID',   
  3.  ->   `content` varchar(1000) NOT NULL DEFAULT '' COMMENT '新闻内容',   
  4.  ->   `u_id` varchar(25) NOT NULL DEFAULT '' COMMENT '来源IP',   
  5.  ->   `create_time` DATE NOT NULL DEFAULT '0000-00-00 00:00:00' COMMENT '时间'  
  6.  -> ) ENGINE=INNODB  DEFAULT CHARSET=utf8   
  7.  -> PARTITION BY LINEAR HASH(YEAR(create_time))   
  8.  -> PARTITIONS 3;   
  9. Query OK, 0 rows affected (0.07 sec)  

测试请参考range分区的操作

6,子分区

子分区是分区表中每个分区的再次分割,子分区既可以使用HASH希分区,也可以使用KEY分区。这 也被称为复合分区(composite partitioning)。

1,如果一个分区中创建了子分区,其他分区也要有子分区

2,如果创建了了分区,每个分区中的子分区数必有相同

3,同一分区内的子分区,名字不相同,不同分区内的子分区名子可以相同(5.1.50不适用)


  1. mysql> CREATE TABLE IF NOT EXISTS `sub_part` (   
  2.  ->   `news_id` int(11) NOT NULL  COMMENT '新闻ID',   
  3.  ->   `content` varchar(1000) NOT NULL DEFAULT '' COMMENT '新闻内容',   
  4.  ->   `u_id`  int(11) NOT NULL DEFAULT 0s COMMENT '来源IP',   
  5.  ->   `create_time` DATE NOT NULL DEFAULT '0000-00-00 00:00:00' COMMENT '时间'  
  6.  -> ) ENGINE=INNODB  DEFAULT CHARSET=utf8   
  7.  -> PARTITION BY RANGE(YEAR(create_time))   
  8.  -> SUBPARTITION BY HASH(TO_DAYS(create_time))(   
  9.  -> PARTITION p0 VALUES LESS THAN (1990)(SUBPARTITION s0,SUBPARTITION s1,SUBPARTITION s2),   
  10.  -> PARTITION p1 VALUES LESS THAN (2000)(SUBPARTITION s3,SUBPARTITION s4,SUBPARTITION good),   
  11.  -> PARTITION p2 VALUES LESS THAN MAXVALUE(SUBPARTITION tank0,SUBPARTITION tank1,SUBPARTITION tank3)   
  12.  -> );   
  13. Query OK, 0 rows affected (0.07 sec)  

官方网站说不同分区内的子分区可以有相同的名字,但是mysql5.1.50却不行会提示以下错误

ERROR 1517 (HY000): Duplicate partition name s1

三,分区管理

1,删除分区

  1. mysql> alter table user drop partition p4;  

2,新增分区


  1. //range添加新分区   
  2. mysql> alter table user add partition(partition p4 values less than MAXVALUE);   
  3. Query OK, 0 rows affected (0.06 sec)   
  4. Records: 0  Duplicates: 0  Warnings: 0   
  5.   
  6. //list添加新分区   
  7. mysql> alter table list_part add partition(partition p4 values in (25,26,28));   
  8. Query OK, 0 rows affected (0.01 sec)   
  9. Records: 0  Duplicates: 0  Warnings: 0   
  10.   
  11. //hash重新分区   
  12. mysql> alter table hash_part add partition partitions 4;   
  13. Query OK, 0 rows affected (0.12 sec)   
  14. Records: 0  Duplicates: 0  Warnings: 0   
  15.   
  16. //key重新分区   
  17. mysql> alter table key_part add partition partitions 4;   
  18. Query OK, 1 row affected (0.06 sec)    //有数据也会被重新分配   
  19. Records: 1  Duplicates: 0  Warnings: 0   
  20.   
  21. //子分区添加新分区,虽然我没有指定子分区,但是系统会给子分区命名的   
  22. mysql> alter table sub1_part add partition(partition p3 values less than MAXVALUE);   
  23. Query OK, 0 rows affected (0.02 sec)   
  24. Records: 0  Duplicates: 0  Warnings: 0   
  25.   
  26. mysql> show create table sub1_part\G;   
  27. *************************** 1. row ***************************   
  28.  Table: sub1_part   
  29. Create Table: CREATE TABLE `sub1_part` (   
  30.  `news_id` int(11) NOT NULL COMMENT '新闻ID',   
  31.  `content` varchar(1000) NOT NULL DEFAULT '' COMMENT '新闻内容',   
  32.  `u_id` varchar(25) NOT NULL DEFAULT '' COMMENT '来源IP',   
  33.  `create_time` date NOT NULL DEFAULT '0000-00-00' COMMENT '时间'  
  34. ) ENGINE=InnoDB DEFAULT CHARSET=utf8   
  35. !50100 PARTITION BY RANGE (YEAR(create_time))   
  36. SUBPARTITION BY HASH (TO_DAYS(create_time))   
  37. (PARTITION p0 VALUES LESS THAN (1990)   
  38.  (SUBPARTITION s0 ENGINE = InnoDB,   
  39.  SUBPARTITION s1 ENGINE = InnoDB,   
  40.  SUBPARTITION s2 ENGINE = InnoDB),   
  41.  PARTITION p1 VALUES LESS THAN (2000)   
  42.  (SUBPARTITION s3 ENGINE = InnoDB,   
  43.  SUBPARTITION s4 ENGINE = InnoDB,   
  44.  SUBPARTITION good ENGINE = InnoDB),   
  45.  PARTITION p2 VALUES LESS THAN (3000)   
  46.  (SUBPARTITION tank0 ENGINE = InnoDB,   
  47.  SUBPARTITION tank1 ENGINE = InnoDB,   
  48.  SUBPARTITION tank3 ENGINE = InnoDB),   
  49.  PARTITION p3 VALUES LESS THAN MAXVALUE   
  50.  (SUBPARTITION p3sp0 ENGINE = InnoDB,    //子分区的名子是自动生成的   
  51.  SUBPARTITION p3sp1 ENGINE = InnoDB,   
  52.  SUBPARTITION p3sp2 ENGINE = InnoDB))   
  53. 1 row in set (0.00 sec)  

3,重新分区


  1. //range重新分区   
  2. mysql> ALTER TABLE user REORGANIZE PARTITION p0,p1,p2,p3,p4 INTO (PARTITION p0 VALUES LESS THAN MAXVALUE);   
  3. Query OK, 11 rows affected (0.08 sec)   
  4. Records: 11  Duplicates: 0  Warnings: 0   
  5.   
  6. //list重新分区   
  7. mysql> ALTER TABLE list_part REORGANIZE PARTITION p0,p1,p2,p3,p4 INTO (PARTITION p0 VALUES in (1,2,3,4,5));   
  8. Query OK, 0 rows affected (0.28 sec)   
  9. Records: 0  Duplicates: 0  Warnings: 0   
  10.   
  11. //hash和key分区不能用REORGANIZE,官方网站说的很清楚   
  12. mysql> ALTER TABLE key_part REORGANIZE PARTITION COALESCE PARTITION 9;   
  13. ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'PARTITION 9' at line 1  

四,分区优点

1,分区可以分在多个磁盘,存储更大一点

2,根据查找条件,也就是where后面的条件,查找只查找相应的分区不用全部查找了

3,进行大数据搜索时可以进行并行处理。

4,跨多个磁盘来分散数据查询,来获得更大的查询吞吐量

 

http://cache.baidu.com/c?m=9d78d513d99c0aee1bb3837e7c409024470fd1307a80c7150e96c008d53f1d1a1a3af4bb567e435b84d13b275fa0131aacb22173441e3de7c595dd5dddcc912c2e9f27432141d95c5a984db8cc32609a7c8d0ab7f24cfafbb661d5f583cedc5453c85705708bf08b580317c868f31731e5a2934a1e42&p=8b2a921484df13e70fbd9b7d0a44&user=baidu&fm=sc&query=mysql+Duplicate+partition+name&qid=e6a90f0f0b8980ee&p1=3
 

 

 

 

转载于:https://www.cnblogs.com/diyunpeng/archive/2011/09/07/2169969.html

相关文章:

  • 学习.NET Framework相关经验总结概览
  • (转)nsfocus-绿盟科技笔试题目
  • JQuery上传插件Uploadify出现HTTP Error错误的解决办法
  • 如何清除局域网访问计算机的用户密码
  • htmlParser for delphi
  • ASP.NET显示农历时间
  • 多映射通用集合类(C#实现)--支持一键多值存储
  • 在 MonoTouch 中使用 Newtonsoft.Json
  • ubuntu札记之一个没有技术含量的虚拟终端的问题
  • ruby文件操作大全
  • MySQL管理员指南之--MySQL用户管理
  • Object-c 一些代码规范
  • t-sql导出EXCEL语句--待测试
  • 冷月枫林
  • PHP 计算程序运行的时间
  • 《微软的软件测试之道》成书始末、出版宣告、补充致谢名单及相关信息
  • 【399天】跃迁之路——程序员高效学习方法论探索系列(实验阶段156-2018.03.11)...
  • 【前端学习】-粗谈选择器
  • C# 免费离线人脸识别 2.0 Demo
  • gulp 教程
  • JavaScript实现分页效果
  • JS笔记四:作用域、变量(函数)提升
  • react 代码优化(一) ——事件处理
  • vue自定义指令实现v-tap插件
  • 从零开始的无人驾驶 1
  • 回顾 Swift 多平台移植进度 #2
  • 看完九篇字体系列的文章,你还觉得我是在说字体?
  • 山寨一个 Promise
  • 再次简单明了总结flex布局,一看就懂...
  • 在electron中实现跨域请求,无需更改服务器端设置
  • 中文输入法与React文本输入框的问题与解决方案
  • media数据库操作,可以进行增删改查,实现回收站,隐私照片功能 SharedPreferences存储地址:
  • TPG领衔财团投资轻奢珠宝品牌APM Monaco
  • 智能情侣枕Pillow Talk,倾听彼此的心跳
  • # 手柄编程_北通阿修罗3动手评:一款兼具功能、操控性的电竞手柄
  • #微信小程序(布局、渲染层基础知识)
  • (MATLAB)第五章-矩阵运算
  • (TOJ2804)Even? Odd?
  • (仿QQ聊天消息列表加载)wp7 listbox 列表项逐一加载的一种实现方式,以及加入渐显动画...
  • (教学思路 C#之类三)方法参数类型(ref、out、parmas)
  • (十) 初识 Docker file
  • (一)ClickHouse 中的 `MaterializedMySQL` 数据库引擎的使用方法、设置、特性和限制。
  • (转)从零实现3D图像引擎:(8)参数化直线与3D平面函数库
  • ./configure,make,make install的作用(转)
  • .aanva
  • .java 指数平滑_转载:二次指数平滑法求预测值的Java代码
  • .NET Core 成都线下面基会拉开序幕
  • .NET delegate 委托 、 Event 事件
  • .net Signalr 使用笔记
  • .net 获取url的方法
  • .NET/C# 推荐一个我设计的缓存类型(适合缓存反射等耗性能的操作,附用法)
  • /etc/X11/xorg.conf 文件被误改后进不了图形化界面
  • @hook扩展分析
  • [ element-ui:table ] 设置table中某些行数据禁止被选中,通过selectable 定义方法解决
  • [ MSF使用实例 ] 利用永恒之蓝(MS17-010)漏洞导致windows靶机蓝屏并获取靶机权限