欢迎来到 齐齐哈尔市某某装饰设计客服中心
全国咨询热线:020-123456789
联系我们

地址:联系地址联系地址联系地址

电话:020-123456789

传真:020-123456789

邮箱:admin@aa.com

新闻中心
分库分表索引设计:二级索引、全局索引的最佳设计实践
  来源:齐齐哈尔市某某装饰设计客服中心  更新时间:2024-05-04 12:23:30

分库分表索引设计:二级索引、全局索引的最佳设计实践

主键选择

对主键来说,分库分表要保证在所有分片中都唯一,索引设计设计实践它本质上就是索局索一个全局唯一的索引 。如果用大部分同学喜欢的引全引自增作为主键 ,就会发现存在很大的最佳问题 。

因为自增并不能在插入前就获得值 ,分库分表而是索引设计设计实践要通过填 NULL 值,然后再通过函数 last_insert_id()获得自增的索局索值  。所以 ,引全引如果在每个分片上通过自增去实现主键,最佳可能会出现同样的分库分表自增值存在于不同的分片上  。

比如 ,索引设计设计实践对于电商的索局索订单表 orders ,其表结构如下(分片键是引全引o_custkey ,表的最佳主键是o_orderkey):

CREATE TABLE `orders` (n `O_ORDERKEY` int NOT NULL auto_increment,n `O_CUSTKEY` int NOT NULL,n `O_ORDERSTATUS` char(1) NOT NULL,n `O_TOTALPRICE` decimal(15,2) NOT NULL,n `O_ORDERDATE` date NOT NULL,n `O_ORDERPRIORITY` char(15) NOT NULL,n `O_CLERK` char(15) NOT NULL,n `O_SHIPPRIORITY` int NOT NULL,n `O_COMMENT` varchar(79) NOT NULL,n PRIMARY KEY (`O_ORDERKEY`),n KEY (`O_CUSTKEY`)n ......n) ENGINE=InnoDBn

如果把 o_orderkey 设计成上图所示的自增,那么很可能 o_orderkey 同为 1 的记录在不同的分片出现,如下图所示 :

分库分表索引设计
:二级索引、全局索引的最佳设计实践


所以 ,在分布式数据库架构下 ,尽量不要用自增作为表的主键  :自增性能很差 、安全性不高、不适用于分布式架构。

讲到这儿 ,我们已经说明白了“自增主键”的所有问题,那么该如何设计主键呢?依然还是用全局唯一的键作为主键 ,比如 MySQL 自动生成的有序 UUID;业务生成的全局唯一键(比如发号器);或者是开源的 UUID 生成算法 ,比如雪花算法(但是存在时间回溯的问题)。

总之,用有序的全局唯一替代自增 ,是这个时代数据库主键的主流设计标准 ,如果你还停留在用自增做主键  ,或许代表你已经落后于时代发展了。

索引设计

通过分片键可以把 SQL 查询路由到指定的分片,但是在现实的生产环境中,业务还要通过其他的索引访问表。

还是以前面的表 orders 为例 ,如果业务还要根据 o_orderkey 字段进行查询,比如查询订单 ID 为 1 的订单详情:

SELECT * FROM orders WHERE o_orderkey = 1n

我们可以看到,由于分片规则不是分片键,所以需要查询 4 个分片才能得到最终的结果 ,如果下面有 1000 个分片  ,那么就需要执行 1000 次这样的 SQL ,这时性能就比较差了。

但是,我们知道 o_orderkey 是主键 ,应该只有一条返回记录 ,也就是说,o_orderkey 只存在于一个分片中 。这时 ,可以有以下两种设计 :

  • 同一份数据 ,表 orders 根据 o_orderkey 为分片键 ,再做一个分库分表的实现;
  • 在索引中额外添加分片键的信息 。

这两种设计的本质都是通过冗余实现空间换时间的效果  ,否则就需要扫描所有的分片,当分片数据非常多,效率就会变得极差。

而第一种做法通过对表进行冗余 ,对于 o_orderkey 的查询 ,只需要在 o_orderkey = 1的分片中直接查询就行 ,效率最高,但是设计的缺点又在于冗余数据量太大。

所以 ,改进的做法之一是实现一个索引表 ,表中只包含 o_orderkey 和分片键 o_custkey,如:

CREATE TABLE idx_orderkey_custkey (n o_orderkey INTn o_custkey INT,n PRIMARY KEY (o_orderkey)n)n

如果这张索引表很大,也可以将其分库分表 ,但是它的分片键是 o_orderkey,如果这时再根据字段 o_orderkey 进行查询 ,可以进行类似二级索引的回表实现 :先通过查询索引表得到记录 o_orderkey = 1 对应的分片键 o_custkey 的值,接着再根据 o_custkey 进行查询,最终定位到想要的数据 ,如:

SELECT * FROM orders WHERE o_orderkey = 1nn=>nn# step 1nSELECT o_custkey FROM idx_orderkey_custkey nWHERE o_orderkey = 1nn# step 2nSELECT * FROM orders nWHERE o_custkey = ? AND o_orderkey = 1n

这个例子是将一条 SQL 语句拆分成 2 条 SQL 语句 ,但是拆分后的 2 条 SQL 都可以通过分片键进行查询,这样能保证只需要在单个分片中完成查询操作。不论有多少个分片 ,也只需要查询 2个分片的信息 ,这样 SQL 的查询性能可以得到极大的提升。

通过索引表的方式,虽然存储上较冗余全表容量小了很多,但是要根据另一个分片键进行数据的存储 ,依然显得不够优雅 。

因此,最优的设计  ,不是创建一个索引表,而是将分片键的信息保存在想要查询的列中  ,这样通过查询的列就能直接知道所在的分片信息。

如果我们将订单表 orders 的主键设计为一个字符串,这个字符串中最后一部分包含分片键的信息 ,如:

o_orderkey = string(o_orderkey + o_custkey)n

那么这时如果根据 o_orderkey 进行查询:

SELECT * FROM OrdersnWHERE o_orderkey = '1000-1';n

由于字段 o_orderkey 的设计中直接包含了分片键信息 ,所以我们可以直接知道这个订单在分片1 中 ,直接查询分片 1 就行 。

同样地 ,在插入时,由于可以知道插入时 o_custkey 对应的值 ,所以只要在业务层做一次字符的拼接 ,然后再插入数据库就行了 。

这样的实现方式较冗余表和索引表的设计来说 ,效率更高,查询可以提前知道数据对应的分片信息 ,只需 1 次查询就能获取想要的结果。

这样实现的缺点是 ,主键值会变大一些,存储也会相应变大 。但只要主键值是有序的,插入的性能就不会变差。而通过在主键值中保存分片信息 ,却可以大大提升后续的查询效率,这样空间换时间的设计 ,总体上看是非常值得的。

当然  ,这里我们谈的设计都是针对于唯一索引的设计 ,如果是非唯一的二级索引查询,那么非常可惜  ,依然需要扫描所有的分片才能得到最终的结果,如 :

SELECT * FROM OrdersnWHERE o_orderate >= ? o_orderdate < ?n

因此 ,再次提醒你,分布式数据库架构设计的要求是业务的绝大部分请求能够根据分片键定位到 1 个分片上。

如果业务大部分请求都需要扫描所有分片信息才能获得最终结果,那么就不适合进行分布式架构的改造或设计 。

最后 ,我们再来回顾下淘宝用户订单表的设计 :

分库分表索引设计:二级索引、全局索引的最佳设计实践

上图是我的淘宝订单信息,可以看到,订单号的最后 6 位都是 308113 ,所以可以大概率推测出 :

  • 淘宝订单表的分片键是用户 ID;
  • 淘宝订单表,订单表的主键包含用户 ID  ,也就是分片信息。这样通过订单号进行查询 ,可以获得分片信息,从而查询 1 个分片就能得到最终的结果。

全局表

在分布式数据库中 ,有时会有一些无法提供分片键的表 ,但这些表又非常小 ,一般用于保存一些全局信息  ,平时更新也较少 ,绝大多数场景仅用于查询操作。

例如 tpch 库中的表 nation,用于存储国家信息,但是在我们前面的 SQL 关联查询中,又经常会使用到这张表 ,对于这种全局表,可以在每个分片中存储 ,这样就不用跨分片地进行查询了。如下面的设计 :

分库分表索引设计	
:二级索引
、全局索引的最佳设计实践


唯一索引

最后我们来谈谈唯一索引的设计,与主键一样 ,如果只是通过数据库表本身唯一约束创建的索引,则无法保证在所有分片中都是唯一的  。

所以 ,在分布式数据库中 ,唯一索引一样要通过类似主键的 UUID 的机制实现 ,用全局唯一去替代局部唯一,但实际上 ,即便是单机的 MySQL 数据库架构 ,我们也推荐使用全局唯一的设计。因为你不知道,什么时候,你的业务就会升级到全局唯一的要求了 。

总结

今天介绍了非常重要的分布式数据库索引设计,内容非常干货 ,是分布式架构设计的重中之重,建议反复阅读  ,抓住本文的重点 ,总结来说:

  • 分布式数据库主键设计使用有序 UUID ,全局唯一;
  • 分布式数据库唯一索引设计使用 UUID 的全局唯一设计,避免局部索引导致的唯一问题;
  • 分布式数据库唯一索引若不是分片键,则可以在设计时保存分片信息,这样查询直接路由到一个分片即可;
  • 对于分布式数据库中的全局表,可以采用冗余机制 ,在每个分片上进行保存。这样能避免查询时跨分片的查询 。

转自:拉钩教育


友情链接《英雄联盟》打到大师段位到底需要什么?梦幻西游的摇钱树树苗怎么种怎么浇水暗黑破坏神3switch版设置中文 游戏怎么设置中文DNF角色怎么恢复 DNF角色恢复方法银行柜台收到“神秘纸条”,员工紧急拦截数十万元巨款_北京时间逐渐消失的原生大作系列,你是否会感到惋惜?摩尔庄园黑森林密码表大全:黑森林密码表一览[多图]遗忘征服者在哪换, 魔兽世界遗忘征服者在哪换闪电作文雪鹰领主手游世界首领大全 头目掉落大全这些道具可以增加性趣 这些“性道具”你知道怎么用吗?安卓手游单机游戏排行榜前十名2021 好玩的单机游戏推荐王者荣耀全新副本“日之塔”是什么 BOSS关卡详解南宁地铁站口,出现一张神秘的小纸条……英雄联盟手游白名单资格怎么申请 白名单资格申请教程DNF角色怎么恢复 DNF角色恢复方法TBC怀旧服血精灵快速升级指南 升级路线规划详解与兽共舞-巫妖王之怒猎人职业前瞻DNF:史诗之路选哪套决定了吗?没有的话看这里!《DNF》剑魂五种武器选择流派简析采石场炸山石块横飞 村民反映微波站屋顶被飞石砸中【英雄无敌小游戏大全】暴走英雄坛琅嬛福地熊猫人攻略大全 熊猫人信物、藏宝阁神器奖励攻略雪鹰领主手游世界首领大全 头目掉落大全家中常备五宝之“仙人掌”英雄联盟手游劫出装详情 劫最佳出装分享阿克希亚洛奇英雄传刷雷龙副本前提条件一览 杖娘如何守住火力输出前三甲问道手游社区在哪里买,问道怎样进社区啊英雄联盟手游内测资格怎么获得 内测资格获得方法详解魔兽世界7.35防战天赋加点 wow7.3.5防战团本天赋加点攻略0氪金变态手游平台大全 0氪变态手游app前十盘点英雄联盟波比皮肤价格表有哪些?DNF100级混沌魔灵怎么加点 100级混沌魔灵加点连招攻略英雄联盟手游大家还记得狸女士吗?刺客流阿狸玩法登场!《DNF》忍者怎么加点 忍者加点分享85版本奇遇任务刷图欢乐惊喜多阴阳师残局得胜缘结神怎么过-残局得胜缘结神通关攻略德拉诺宠物攻略:要塞每日对战 缝合二世抖音上面用计算机解锁手机,抖音生命计算器
联系我们

地址:联系地址联系地址联系地址

电话:020-123456789

传真:020-123456789

邮箱:admin@aa.com

0.1828

Copyright © 2024 Powered by 齐齐哈尔市某某装饰设计客服中心   sitemap