当前位置：首页 > news >正文

Hive中的数据类型和存储格式总结

news 来源：原创 2024/9/20 7:47:27

1.数据类型

Hive 支持多种数据类型，分为原始数据类型和复杂数据类型两类。以下是 Hive 支持的数据类型：

原始数据类型：

1.整数类型：

                tinyint: 1字节有符号整数
                smallint: 2字节有符号整数
                int: 4字节有符号整数
                bigint: 8字节有符号整数
                float: 4字节单精度浮点数
                double: 8字节双精度浮点数
                decimal: 高精度数字类型，可以指定精度和标度，例如 decimal(10,2)

字节（Byte）：计算机中最基本的存储单元之一，1字节占8位（bit），数据范围：负数范围: -128 到 -1，正数范围: 0 到 127

2.字符串类型：

                string: 可变长度字符串
                varchar: 具有最大长度限制的可变长度字符串，例如 varchar(255)
                char: 固定长度字符串，例如 char(10)

3.日期/时间类型：

                timestamp: 包含日期和时间的时间戳，精确到纳秒
                date: 仅包含日期部分，不包含时间部分
                interval: 时间间隔，用于表示两个日期或时间之间的差值

4.Boolean类型：

boolean: 布尔值，取值为 true 或 false

5.二进制类型：

binary: 任意长度的字节数组

复杂数据类型：

1.数组类型

array<T>: 包含多个相同类型元素的有序列表，例如 array<int>

2.映射类型

map<K, V>: 键值对的无序集合，其中键和值可以是任意数据类型，例如 map<string, int>

3.结构类型

struct<col1: type1, col2: type2, ...>: 包含多个字段的记录，每个字段可以是不同的数据类型，例如 struct<name: string, age: int>

CREATE TABLE example_table (tinyint_col tinyint,smallint_col smallint,int_col int,bigint_col bigint,float_col float,double_col double,decimal_col decimal(10, 2),string_col string,varchar_col varchar(255),char_col char(10),timestamp_col timestamp,date_col date,boolean_col boolean,binary_col binary,array_col array<int>,map_col map<string, int>,struct_col struct<name: string, age: int>,union_col uniontype<int, string>
);

2.Hive的文件存储格式

hive的存储格式分为两大类：

一类纯文本文件：textfile，不压缩，也是hive的默认存储格式

一类是二进制文件存储：

sequencefile：会压缩，不能使用load方式加载数据

orcfile：会压缩，不能使用load方式加载数据

parquet：会压缩，不能使用load方式加载数据

rcfile：会压缩，不能使用load方式加载数据，是orcfile的低配

textfile和sequencefile的存储格式都是基于行存储的;orc和parquet是基于列式存储的，rcfile是行列混合存储。

在创建表格的时候可以使用stored as parquet指定表格的存储格式，例:

create table if not exists stocks_parquet (
track_time string,
url string,
session_id string,
referer string,
ip string,
end_user_id string,
city_id string
)
stored as parquet;

修改hive的默认存储格式：

<property><name>hive.default.fileformat</name><value>TextFile</value><description>Expects one of [textfile, sequencefile, rcfile, orc].Default file format for CREATE TABLE statement. Users can explicitly override it by CREATE TABLE ... STORED AS [FORMAT]</description>
</property>
也可以使用set方式修改：
set hive.default.fileformat=TextFile