Hive教程（04）- Hive数据类型

01 引言

在前面的教程，已经初步了解了Hive的数据模型，有兴趣的同学可以参阅：

• 《Hive教程（01）- 初识Hive》
• 《Hive教程（02）- Hive安装》
• 《Hive教程（03）- Hive数据模型》

上一节写了hive数据模型，其实就是告诉我们使用hive可以把数据存放到hdfs的哪几种目录（表、分区、桶）。

既然知道了存储的目的地，那么我们总得知道要存的数据有什么特性，就是本文要将的hive数据类型。

02 hive数据类型 2.1 基础类型

HQL 的基本类型和 Java 的基本类型很接近，分类如下：

类型描述示例BOOLENtrue/falseTRUETINYINT1字节的有符号整数，范围：-128~1271YSMALLINT2字节的有符号整数，范围：-32768~327671SINT4字节的带符号整数1BIGINT8字节带符号整数1LFLOAT4字节单精度浮点数1.0DOUBLE8字节单精度浮点数1DEICIMAL任意精度的带符号小数1STRING字符串，变长“a”VARCHAR变长字符串“a”CHAR固定长度字符串“a”BINARY字节数组TIMESTAMP时间戳，纳秒精读1.22327E+11DATE日期‘2022-02-21’ 2.1.1 整型

在使用整数字面量时，默认情况下为 INT，如果要声明为其他类型，通过后缀来标识。

2.1.2 浮点型

2.1.3 文本型

STRING存储变长的文本，对长度没有限制，理论上为2GB。

2.1.4 布尔及二进制

• BOOLEAN：表示二元的true或 false；
• BINARY：用于存储变长的二进制数据。

2.1.5 时间类型

TIMESTAMP 存储纳秒级别的时间戳，同时Hive提供了一些内置函数用于在 TIMESTAMP与Unix时间戳（秒）和字符串之间做转换，如下：

cast(date as date)
cast(timestamp as date)
cast(string as date)
cast(date as string)

2.2 复杂类型 类型描述示例ARRAY有序的同类型集合array(1,2)MAPkey-value,key必须为原始类型，value可以为任意类型map(‘a’,‘1’,‘b’)STRUCT字段集合，类型可以不同struct(‘a’,1,1.0)，name_stract(‘col1’,‘1’,‘col2’,1.0)UNION在有限值范围内的一个值create_union(1,‘a’,63) 2.2.1 STRUCT

文件里的数据分隔符要和建表指定的一致，举例：

① 创建表：

CREATE TABLE IF NOT EXISTS person_1 (id int,info struct)  

ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' 

COLLECTION ITEMS TERMINATED BY ':' 

STORED AS TEXTFILE;

② 创建一个文本文件test_struct.txt:

1,'dd':'jp'
2,'ee':'cn'
3,'gg':'jp'
4,'ff':'cn'
5,'tt':'jp'

③ 导入数据：

LOAD DATA LOCAL INPATH '/data/test_struct.txt' OVERWRITE INTO TABLE person_1;

④ 查询数据：

hive> select * from person_1;
OK
1   {"name":"'dd'","country":"'jp'"}
2   {"name":"'ee'","country":"'cn'"}
3   {"name":"'gg'","country":"'jp'"}
4   {"name":"'ff'","country":"'cn'"}
5   {"name":"'tt'","country":"'jp'"}
Time taken: 0.046 seconds, Fetched: 5 row(s)
hive> select id,info.name,info.country from person_1 where info.name='dd';
OK
1   dd  jp
Time taken: 1.166 seconds, Fetched: 1 row(s)

2.2.2 ARRAY

ARRAY 表示一组相同数据类型的集合，下标从零开始，可以用下标访问：

CREATE TABLE IF NOT EXISTS array_1 (id int,name array)
ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' 
COLLECTION ITEMS TERMINATED BY ':' 
STORED AS TEXTFILE;

//导入数据
LOAD DATA LOCAL INPATH '/data/test_array.txt' OVERWRITE INTO TABLE array_1;

//查询数据
hive> select * from array_1;
OK
1   ["dd","jp"]
2   ["ee","cn"]
3   ["gg","jp"]
4   ["ff","cn"]
5   ["tt","jp"]
Time taken: 0.041 seconds, Fetched: 5 row(s)
hive> select id,name[0],name[1] from array_1 where name[1]='cn';
OK
2   ee  cn
4   ff  cn
Time taken: 1.124 seconds, Fetched: 2 row(s)

2.2.3 MAP

MAP 是一组键值对的组合，可以通过KEY 访问 VALUE，键值之间同样要在创建表时指定分隔符：

CREATE TABLE IF NOT EXISTS map_1 (id int,name map)
ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' 
COLLECTION ITEMS TERMINATED BY ':' 
MAP KEYS TERMINATED BY ':'
STORED AS TEXTFILE;

//加载数据
LOAD DATA LOCAL INPATH '/data/test_map.txt' OVERWRITE INTO TABLE map_1;

//查询数据
hive> select * from map_1;
OK
1   {"name":"dd","country":"jp"}
2   {"name":"ee","country":"cn"}
3   {"name":"gg","country":"jp"}
4   {"name":"ff","country":"cn"}
5   {"name":"tt","country":"jp"}
Time taken: 0.038 seconds, Fetched: 5 row(s)
select id,info['name'],info['country'] from map_1 where info['country']='cn';
OK
2   ee  cn
4   ff  cn
Time taken: 1.088 seconds, Fetched: 2 row(s)

2.2.4 UNION

Hive 除了支持 STRUCT、ARRAY、MAP 这些原生集合类型，还支持集合的组合，不支持集合里再组合多个集合。

举例：MAP 嵌套 ARRAY，手动设置集合格式的数据非常麻烦，建议采用INSERT INTO SELECT形式构造数据再插入UNION 表

//创建DUAL表，插入一条记录，用于生成数据
create table dual(d string);
insert into dual values('X');

//创建UNION表
CREATE TABLE IF NOT EXISTS uniontype_1 
(
id int,
info map
)
ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' 
COLLECTION ITEMS TERMINATED BY '-'
MAP KEYS TERMINATED BY ':'
STORED AS TEXTFILE;

//插入数据
insert overwrite table uniontype_1
select 1 as id,map('english',array(99,21,33)) as info from dual
union all
select 2 as id,map('english',array(44,33,76)) as info from dual
union all
select 3 as id,map('english',array(76,88,66)) as info from dual;

//查询数据
hive> select * from uniontype_1;
OK
3   {"german":[76,88,66]}
2   {"chinese":[44,33,76]}
1   {"english":[99,21,33]}
Time taken: 0.033 seconds, Fetched: 3 row(s)
hive> select * from uniontype_1 where info['english'][2]>30;
OK
1   {"english":[99,21,33]}
Time taken: 1.08 seconds, Fetched: 1 row(s)

2.3 类型转换 2.3.1 隐式转换

Hive的类型层次中，可以根据需要进行隐式的类型转换，例如 TINYINT 与 INT相加，则会将TINYINT 转化成INT 然后INT做加法。隐式转换的规则大致可以归纳如下：

• 任意数值类型都可以转换成更宽的数据类型（不会导致精度丢失）或者文本类型;
• 所有的文本类型都可以隐式地转换成另一种文本类型。也可以被转换成 DOUBLE 或者 DECIMAL，转换失败时抛出异常;
• BOOLEAN 不能做任何的类型转换;
• 时间戳和日期可以隐式地转换成文本类型。

2.3.1 显式转换

同时，可以使用 CAST 进行显式的类型转换，例如：

CAST('1' as INT)

如果转换失败，CAST返回NULL。

03 文末

本文主要讲的是hive的数据类型，结合上一篇博客 《Hive教程（03）- Hive数据模型》，就是存放数据到数据库中共有几种类型，本文完！