Doris分区与分桶（八）

2023-11-22 15:52
文章标签 doris 分区 分桶

本文主要是介绍Doris分区与分桶（八），希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

接上篇----------Doris 建表示例

Doris 支持两层的数据划分。第一层是 Partition，支持 Range 和 List 的划分方式。第二层是 Bucket（Tablet），仅支持 Hash 的划分方式。

也可以仅使用一层分区。使用一层分区时，只支持 Bucket 划分。

Partition

  • Partition 列可以指定一列或多列。分区类必须为 KEY 列。

  • 不论分区列是什么类型，在写分区值时，都需要加双引号。

  • 分区数量理论上没有上限。

  • 当不使用 Partition 建表时，系统会自动生成一个和表名同名的，全值范围的Partition。该 Partition 对用户不可见，并且不可删改。

Range 分区

分区列通常为时间列，以方便的管理新旧数据。不可添加范围重叠的分区。 Partition 指定范围的方式

VALUES LESS THAN (...) 仅指定上界，系统会将前一个分区的上界作为该分区的下界，生成一个左闭右开的区间。分区的删除不会改变已存在分区的范围。删除分区可能出现空洞。

VALUES [...) 指定同时指定上下界，生成一个左闭右开的区间。

通过 VALUES [...) 同时指定上下界比较容易理解。这里举例说明，当使用 VALUES LESS THAN (...) 语句进行分区的增删操作时，分区范围的变化情况：

（1）如上 expamle_range_tbl 示例，当建表完成后，会自动生成如下 3 个分区：

p201701: [MIN_VALUE, 2017-02-01)
p201702: [2017-02-01, 2017-03-01)
p201703: [2017-03-01, 2017-04-01)

（2）增加一个分区 p201705 VALUES LESS THAN ("2017-06-01")，分区结果如下：

p201701: [MIN_VALUE, 2017-02-01)
p201702: [2017-02-01, 2017-03-01)
p201703: [2017-03-01, 2017-04-01)
p201705: [2017-04-01, 2017-06-01)

（3）此时删除分区 p201703，则分区结果如下：

p201701: [MIN_VALUE, 2017-02-01)
p201702: [2017-02-01, 2017-03-01)
p201705: [2017-04-01, 2017-06-01)

注意到 p201702 和 p201705 的分区范围并没有发生变化，而这两个分区之间，出现了一个空洞：[2017-03-01, 2017-04-01)。即如果导入的数据范围在这个空洞范围内，是无法导入的。

（4）继续删除分区 p201702，分区结果如下：

p201701: [MIN_VALUE, 2017-02-01)
p201705: [2017-04-01, 2017-06-01)

空洞范围变为：[2017-02-01, 2017-04-01)

（5）现在增加一个分区 p201702new VALUES LESS THAN ("2017-03-01")，分区结果如下：

p201701: [MIN_VALUE, 2017-02-01)
p201702new: [2017-02-01, 2017-03-01)
p201705: [2017-04-01, 2017-06-01)

可以看到空洞范围缩小为：[2017-03-01, 2017-04-01)

（6）现在删除分区 p201701，并添加分区 p201612 VALUES LESS THAN ("2017-01-01")，分区结果如下：

p201612: [MIN_VALUE, 2017-01-01)
p201702new: [2017-02-01, 2017-03-01)
p201705: [2017-04-01, 2017-06-01)

即出现了一个新的空洞：[2017-01-01, 2017-02-01)

List 分区

分 区 列支 持 BOOLEAN, TINYINT, SMALLINT, INT, BIGINT, LARGEINT, DATE, DATETIME, CHAR, VARCHAR 数据类型，分区值为枚举值。只有当数据为目标分区枚举值

其中之一时，才可以命中分区。不可添加范围重叠的分区。

Partition 支持通过 VALUES IN (...) 来指定每个分区包含的枚举值。下面通过示例说明，进行分区的增删操作时，分区的变化。

（1）如上 example_list_tbl 示例，当建表完成后，会自动生成如下 3 个分区：

p_cn: ("Beijing", "Shanghai", "Hong Kong")
p_usa: ("New York", "San Francisco")
p_jp: ("Tokyo")

（2）增加一个分区 p_uk VALUES IN ("London")，分区结果如下：

p_cn: ("Beijing", "Shanghai", "Hong Kong")
p_usa: ("New York", "San Francisco")
p_jp: ("Tokyo")
p_uk: ("London")

（3）删除分区 p_jp，分区结果如下：

p_cn: ("Beijing", "Shanghai", "Hong Kong")
p_usa: ("New York", "San Francisco")
p_uk: ("London")

Bucket

（1）如果使用了 Partition，则 DISTRIBUTED ... 语句描述的是数据在各个分区内的划分规则。如果不使用 Partition，则描述的是对整个表的数据的划分规则。

（2）分桶列可以是多列，但必须为 Key 列。分桶列可以和 Partition 列相同或不同。

（3）分桶列的选择，是在 查询吞吐 和 查询并发 之间的一种权衡：

  • ① 如果选择多个分桶列，则数据分布更均匀。如果一个查询条件不包含所有分桶列的等值条件，那么该查询会触发所有分桶同时扫描，这样查询的吞吐会增加，单个查询的延迟随之降低。这个方式适合大吞吐低并发的查询场景。

  • ② 如果仅选择一个或少数分桶列，则对应的点查询可以仅触发一个分桶扫描。此时，当多个点查询并发时，这些查询有较大的概率分别触发不同的分桶扫描，各个查询之间的 IO 影响较小（尤其当不同桶分布在不同磁盘上时），所以这种方式适合高并发的点查询场景。

（4）分桶的数量理论上没有上限。

使用复合分区的场景

以下场景推荐使用复合分区

（1）有时间维度或类似带有有序值的维度，可以以这类维度列作为分区列。分区粒度可以根据导入频次、分区数据量等进行评估。

（2）历史数据删除需求：如有删除历史数据的需求（比如仅保留最近 N 天的数据）。使用复合分区，可以通过删除历史分区来达到目的。也可以通过在指定分区内发送 DELETE 语句进行数据删除。

（3）解决数据倾斜问题：每个分区可以单独指定分桶数量。如按天分区，当每天的数据量差异很大时，可以通过指定分区的分桶数，合理划分不同分区的数据,分桶列建议选择区分度大的列。

多列分区

Doris 支持指定多列作为分区列，示例如下：

1）Range 分区
PARTITION BY RANGE(`date`, `id`)
(PARTITION `p201701_1000` VALUES LESS THAN ("2017-02-01", "1000"),PARTITION `p201702_2000` VALUES LESS THAN ("2017-03-01", "2000"),PARTITION `p201703_all` VALUES LESS THAN ("2017-04-01")
)

指定 date(DATE 类型) 和 id(INT 类型) 作为分区列。以上示例最终得到的分区如下：

p201701_1000: [(MIN_VALUE, MIN_VALUE), ("2017-02-01", "1000") )
p201702_2000: [("2017-02-01", "1000"), ("2017-03-01", "2000") )
p201703_all: [("2017-03-01", "2000"), ("2017-04-01", MIN_VALUE))

注意，最后一个分区用户缺省只指定了 date 列的分区值，所以 id 列的分区值会默认填充 MIN_VALUE。当用户插入数据时，分区列值会按照顺序依次比较，最终得到对应的分区。举例如下：

数据 --> 分区
2017-01-01, 200 --> p201701_1000
2017-01-01, 2000 --> p201701_1000
2017-02-01, 100 --> p201701_1000
2017-02-01, 2000 --> p201702_2000
2017-02-15, 5000 --> p201702_2000
2017-03-01, 2000 --> p201703_all
2017-03-10, 1 --> p201703_all
2017-04-01, 1000 --> 无法导入
2017-05-01, 1000 --> 无法导入
2）List 分区
PARTITION BY LIST(`id`, `city`)
(PARTITION `p1_city` VALUES IN (("1", "Beijing"), ("1", "Shanghai")),PARTITION `p2_city` VALUES IN (("2", "Beijing"), ("2", "Shanghai")),PARTITION `p3_city` VALUES IN (("3", "Beijing"), ("3", "Shanghai"))
)

指定 id(INT 类型) 和 city(VARCHAR 类型) 作为分区列。最终得到的分区如下：

p1_city: [("1", "Beijing"), ("1", "Shanghai")]
p2_city: [("2", "Beijing"), ("2", "Shanghai")]
p3_city: [("3", "Beijing"), ("3", "Shanghai")]

当用户插入数据时，分区列值会按照顺序依次比较，最终得到对应的分区。举例如下：

数据 ---> 分区
1, Beijing ---> p1_city
1, Shanghai ---> p1_city
2, Shanghai ---> p2_city
3, Beijing ---> p3_city
1, Tianjin ---> 无法导入
4, Beijing ---> 无法导入

接下篇----------Doris的PROPERTIES与ENGINE

这篇关于Doris分区与分桶（八）的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/411253。

相关文章

为什么要做Redis分区和分片

为什么要做Redis分区和分片

Redis分区（Partitioning）和分片（Sharding）是将数据分布在多个Redis实例或多个节点上的做法。这种技术用于提高性能、可扩展性和可用性。以下是执行Redis分区和分片的主要原因： 1. **提高吞吐量**：    - 通过将数据分散到多个节点，可以并行处理更多的操作，从而提高整体吞吐量。 2. **内存限制**：    - 单个Redis实例的内存是有限的。分区允许数据
阅读更多...
spring boot 使用profile来分区配置

spring boot 使用profile来分区配置

很多时候，我们项目在开发环境和生成环境的环境配置是不一样的，例如，数据库配置，在开发的时候，我们一般用测试数据库，而在生产环境的时候，我们是用正式的数据，这时候，我们可以利用profile在不同的环境下配置用不同的配置文件或者不同的配置 spring boot允许你通过命名约定按照一定的格式(application-{profile}.properties)来定义多个配置文件，然后通过在ap
阅读更多...
CHKDSK 无法供 RAW 驱动器使用----分区变成RAW格式

CHKDSK 无法供 RAW 驱动器使用----分区变成RAW格式

方法一： 花了一天时间后终于找到可恢复文件的工具： 用DiskGenius恢复分区及文件的方法 http://www.diskgenius.cn/function/recovery.asp 方法一对应vsdn
阅读更多...
Linux安装时至少划分哪两个分区才能正常安装使用

Linux安装时至少划分哪两个分区才能正常安装使用

根（boot）分区和SWAP分区
阅读更多...
计算质数通过分区(Partition)提高Spark的运行性能

计算质数通过分区(Partition)提高Spark的运行性能

在Sortable公司，很多数据处理的工作都是使用Spark完成的。在使用Spark的过程中他们发现了一个能够提高Spark job性能的一个技巧，也就是修改数据的分区数，本文将举个例子并详细地介绍如何做到的。 查找质数 　　比如我们需要从2到2000000之间寻找所有的质数。我们很自然地会想到先找到所有的非质数，剩下的所有数字就是我们要找的质数。 　　我们首先遍历2到2000000之间的每个数
阅读更多...
警惕！最新17本期刊（含2本Top）被“镇压”，无影响因子无分区，这是被踢了吗？

警惕！最新17本期刊（含2本Top）被“镇压”，无影响因子无分区，这是被踢了吗？

本周投稿推荐 SSCI • 中科院2区，6.0-7.0（录用友好） EI • 各领域沾边均可（2天录用） CNKI • 7天录用-检索（急录友好） SCI&EI • 4区生物医学类，0.5-1.0（录用率99%） • 1区工程类，6.0-7.0（进展超顺） • IEEE(TOP)，7.5-8.0（实力强刊） 本期解析 1、2023JCR于昨天已经正式发布，其中有17本期
阅读更多...
【性能优化】表分区实践最佳案例

【性能优化】表分区实践最佳案例

背景 随着数字化建设的持续深入，企业的业务规模迎来了高速发展，其数据规模也呈现爆炸式增长，如果继续使用传统解决方案，将所有数据存储在一个表中，对数据的查询和维护效率将是一个巨大的挑战，在这个背景下，表分区技术应运而生。 分区的其核心思想是将数据按照某个特定的标准分成多个物理块，每个物理块即为一个分区，从而使数据的存储和管理更加高效，可帮助我们我们实现稳定的存储增长、高性能和易维护。 优势
阅读更多...
如何恢复未格式化分区数据？看这里！

如何恢复未格式化分区数据？看这里！

什么是未格式化分区？ 未格式化或RAW文件系统的分区无法被Windows操作系统识别和挂载，因此，Windows会提示你进行格式化以创建新的文件系统。注意，不要进行格式化。通常，文件系统变为未格式化或RAW会出现以下常见错误消息。 使用驱动器X：之前需要将其格式化。是否要将其格式化？无法访问X：。文件或目录损坏且无法读取。无法访问X：。参数错误。该卷不包含可识别的文件系统。请确定所有请
阅读更多...
划分交换分区

划分交换分区

交换分区大小一般为真实物理内存的1.5-2倍。 1、新磁盘划分swap 直接用fdisk分出一个主分区mkswap /dev/sdb2 #用swap分区专用的格式化命令mkswapswapon /dev/sdb2 #用swapon命令将准备好的swap分区挂载到系统中信息写入/etc/fstab 2、在已有分区上划分一份空间给swap cd /var/dd if=/dev
阅读更多...
Oracle自动创建分区

Oracle自动创建分区

一、需要分区的表 create table PARTITION_TABLE_INFO (   table_name VARCHAR2(500),   comments   VARCHAR2(500),   enable     VARCHAR2(500) default 'Y' ) /comment on table PARTITION_TABLE_INFOis '分区维护表'/com
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2