云计算之大数据（下）
目录
一、Hologres
1.1 产品定义
1.2 产品架构
1.3 Hologres基本概念
1.4 最佳实践 - Hologres分区表
1.5 最佳实践 - 分区字段设置
1.6 最佳实践 - 设置字段类型
1.7 最佳实践 - 存储属性设置
1.8 最佳实践 - 分布键设置
1.9 最佳实践 - 聚簇键设置
1.10 最佳实践 - 分段键设置
1.11 最佳实践 - 数据生命周期管理
1.12 最佳实践总结
二、Flink
2.1 产品定义
2.2 Flink架构
2.3 技术架构
2.4 功能架构
2.5 Flink任务自动调优
2.6 最佳实践 - Flink+Hologress实时数仓
2.7 最佳实践 - Flink任务反压
2.8 最佳实践 - Flink任务数据正确性问题处理
2.8.1 场景一：去重
2.8.2 场景二：filter
2.8.3 场景三：结果表主键Update结果不符合预期
2.8.4 场景四：维表JOIN
总结
一、Hologres
1.1 产品定义
阿里云Hologres是一款实时数仓产品，它融合了OLAP和OLTP的能力，能够支持用户进行实时的分析处理。
1.2 产品架构
- Frontend：认证、解析、优化
- Worker Node：计算资源
- HOS：轻量级调度框架
- Shard：数据分片
- Cache：分层精细化缓存
- Resource：容器资源管理
- Store：元数据管理
1.3 Hologres基本概念
| 名词 | 定义 |
| 实例 | 在Hologres中，实例（Instance）是您使用和管理数据库存储服务的实体，一个实例可以看作是多个数据库的合集，您对数据库的操作都是在该实例下完成。 |
| 数据库 | 一个模式的合集，用户所有的操作，包括表、函数等都是在数据库里完成。系统会在用户完成实例申请后默认创建一个“postgres”的数据库，该DB仅用于运维管理，实际业务需要新建DB |
| SCHEMA | schema为数据库对象的集合，类似一个文件系统中的目录，实例内的对象如表、函数等都存放于各个schema下，创建数据库成功后，会默认创建一个名叫public的schema |
| 表 | 表是数据存储单元，分为内部表和外部表 |
| 内部表 | 指数据存储在Hologres中的表，表中的数据类型可以是Hologres支持的任意一种类型。 |
| 外部表 | 指在Hologres不存储数据只做字段映射的表，外部数据表都是只读的，因此在外部表不能够执行DML操作，也不能创建索引 |
| 分区表 | 被分割的表称为分区表，表通过明确列出每个分区中出现的键值进行分区，可以理解为分类，通过分类把不同类型的数据放在不同目录。 |
1.4 最佳实践 - Hologres分区表
- 父表按分区键（Partition Key）的值划分为不同的子表，子表对外可见。
- 分区表在使用时，需要提前创建子表。
- 分区表的不同分区子表采用不同的文件存储，查询时带上分区条件，指定所需查询的分区，避免全表扫描，快速定位存储文件，提高处理效率。通常将事实表按照日期划分为不同的分区表。
1.5 最佳实践 - 分区字段设置
使用建议：
- 单表的数据总量较⼤（超过1亿条）时，就需要考虑使用分区表
- 子表下的数据量要适中，通常在3亿~ 10亿条记录之间
- 整个集群的子表总数控制在10万个以内
- 如果您需要经常对某日数据进行整体替换，执行truncate操作，建议使用分区表
使用说明：
- 分区表的创建依然兼容Postgres语法，分区表方便用户管理数据，并能通过分区裁剪加快数据的查找。
- 不能向父表插入任何数据。
- 只有 TEXT/VARCHAR/INT 类型才能作为分区键。如果按天/小时分区要把日期存为TEXT格式。
- partition by 类型仅支持 list，切分 partition list 只能有一个值。
- 分区父表和子表必须要在同一个Schema。
- 若是表有主键，分区键必须是主键的一个子集。
- 分区表的数据不会自动删除，需要用户自己管理生命周期。
- 分区表太小，查询加速效果不明显，可以选择较大粒度的分区。
1.6 最佳实践 - 设置字段类型
- 尽量选用存储空间小的类型。
- 优先使用INT类型，而不是BIGINT类型。
- DECIMAL的精度尽量小。
- Group By的列不建议使用Float类型。
- 优先使用TEXT，而不是VARCHAR(n)和CHAR(n)，n的取值尽量小。
- 日期类型使用TIMESTAMPTZ、DATE，避免使用TEXT。
- 使用一致的数据类型。
- 进行多表关联时，不同列尽量使用相同的数据类型。避免Hologres将不同类型的列进行隐示类型转换，造成额外的开销。
- UNION或Group By等操作使用DECIMAL类型。
- UNION或Group By等操作暂不支持DOUBLE PRECISION和FLOAT数据类型，需要使用DECIMAL类型。
1.7 最佳实践 - 存储属性设置
- 在Hologres中表默认为列存（column store）形式。列存对于OLAP场景较为友好，适合各种复杂查询、数据关联、扫描、过滤、统计。
- 行存对于key-value场景比较友好，适合基于primary key的点查和扫描scan。
- 列存会默认创建更多的索引，包括对字符串类型创建bitmap索引，这些索引可以显著加速查询过滤和统计，因此列比较多的表，会占用更多的存储空间，您可以通过关闭这些默认创建的索引，释放空间。
- 行存默认仅对主键创建索引，仅支持主键的快速查询，因此使用的存储空间更少，但使用场景也受到限制。
- 从HologresV1.1版本开始支持行列共存的格式。行列共存是同时具备了上述的能力，即支持高效点查也支持OLAP分析，