Day04 Hive基础使用
文章目录
- Day04 Hive基础使用
- 一、Hive常用交互命令
- 二、Hive常见属性配置
- 三、参数配置方式
- 四、Hive数据类型
- 1、基本数据类型
- 2. 集合数据类型
- 五、案例实操
- 六、类型转化
一、Hive常用交互命令
- 命令
hive -help可以查看hive全部的交互命令
(1) “-e”不进入hive的交互窗口执行sql语句
(2) “-f”执行脚本中sql语句
a> 创建一个空文件并写入正确命令
b> hive -f 文件名 - Hive的其他命令操作
(1) 退出hive窗口：
hive(default)>exit;
hive(default)>quit;
在新版的hive中没区别了，在以前的版本是有的：
exit:先隐性提交数据，再退出；
quit:不提交数据，退出；
(2) 在hive cli命令窗口中如何查看hdfs文件系统
hive(default)>dfs -ls /;
(3) 查看在hive中输入的所有历史命令
a> 进入到当前用户的根目录/root或/home/tedu
b> 查看. hivehistory文件
cat .hivehistory二、Hive常见属性配置
- hive窗口打印当前库和表头
在hive-site.xml中加入如下两个配置:
<property>
<name>hive.cli.print.header</name>
<value>true</value>
</property>
<property>
<name>hive.cli.print.current.db</name>
<value>true</value>
</property>可以让hive普通客户端，在输入命令前方显示库名，表格中显示头部
- Hive运行日志信息配置
① Hive的log默认存放在/tmp/tedu/hive.log目录下（当前用户名下）
② 修改hive的log存放日志到/opt/module/hive/logs
③ 修改/opt/module/hive/conf/hive-log4j2.properties.template文件名称为hive-log4j2.properties
④ 在hive-log4j.properties文件中修改log存放位置
property.hive.log.dir=/opt/module/hive/logs三、参数配置方式
- 查看当前所有的配置信息
hive>set;- 参数的配置三种方式
（1）配置文件方式
默认配置文件：hive-default.xml
用户自定义配置文件：hive-site.xml
注意：用户自定义配置会覆盖默认配置。另外，Hive也会读入Hadoop的配置，因为Hive是作为Hadoop的客户端启动的，Hive的配置会覆盖Hadoop的配置。配置文件的设定对本机启动的所有Hive进程都有效。
（2）命令行参数方式
启动Hive时，可以在命令行添加-hiveconf param=value来设定参数。
例如：
[tgm@hadoop101 hive]$ bin/hive -hiveconf mapred.reduce.tasks=3;
注意：仅对本次hive启动有效
查看参数设置：
hive (default)> set mapred.reduce.tasks;
（3）参数声明方式
可以在HQL中使用SET关键字设定参数
例如：
hive (default)> set mapred.reduce.tasks=100;
注意：仅对本次hive启动有效。
四、Hive数据类型
1、基本数据类型
Hive数据类型 | Java数据类型 | 长度 | 例子 |
TINYINT | byte | 1byte有符号整数 | 20 |
SMALINT | short | 2byte有符号整数 | 20 |
INT | int | 4byte有符号整数 | 20 |
BIGINT | long | 8byte有符号整数 | 20 |
BOOLEAN | boolean | 布尔类型，true或者false | TRUE FALSE |
FLOAT | float | 单精度浮点数 | 3.14159 |
DOUBLE | double | 双精度浮点数 | 3.14159 |
STRING | string | 字符系列。可以指定字符集。可以使用单引号或者双引号。 | ‘now is the time’ “for all good men” |
TIMESTAMP | 时间类型 | ||
BINARY | 字节数组 |
对于Hive的String类型相当于数据库的varchar类型，该类型是一个可变的字符串，不过它不能声明其中最多能存储多少个字符，理论上它可以存储2GB的字符数。
2. 集合数据类型
数据类型 | 描述 | 语法示例 |
STRUCT | 和c语言中的struct类似，都可以通过“点”符号访问元素内容。例如，如果某个列的数据类型是STRUCT{first STRING, last STRING},那么第1个元素可以通过字段.first来引用。 | struct() 例如struct<street:string, city:string> |
MAP | MAP是一组键-值对元组集合，使用数组表示法可以访问数据。例如，如果某个列的数据类型是MAP，其中键->值对是’first’->’John’和’last’->’Doe’，那么可以通过字段名[‘last’]获取最后一个元素 | map() 例如map<string, int> |
ARRAY | 数组是一组具有相同类型和名称的变量的集合。这些变量称为数组的元素，每个数组元素都有一个编号，编号从零开始。例如，数组值为[‘John’, ‘Doe’]，那么第2个元素可以通过数组名[1]进行引用。 | Array() 例如array |
Hive有三种复杂数据类型ARRAY、MAP 和 STRUCT。ARRAY和MAP与Java中的Array和Map类似，而STRUCT与C语言中的Struct类似，它封装了一个命名字段集合，复杂数据类型允许任意层次的嵌套。
五、案例实操
- 假设某表有如下一行，我们用JSON格式来表示其数据结构。在Hive下访问的格式为
{
"name": "songsong",
"friends": ["bingbing" , "lili"] , //列表Array,
"children": { //键值Map,
"xiao song": 19 ,
"xiaoxiao song": 18
}
"address": { //结构Struct,
"street": "hui long guan" ,
"city": "beijing"
}
}- 基于上述数据结构，我们在Hive里创建对应的表，并导入数据。
- 创建本地测试文件test.txt
vim test.txt- 添加内容
songsong,bingbing_lili,xiao song:18_xiaoxiao song:19,hui long guan_beijing
yangyang,caicai_susu,xiao yang:18_xiaoxiao yang:19,chao yang_beijing注意：MAP，STRUCT和ARRAY里的元素间关系都可以用同一个字符表示，这里用“_”。
- Hive上创建测试表test
create table test(
name string,
friends array<string>,
children map<string, int>,
address struct<street:string, city:string>
)
row format delimited fields terminated by ','
collection items terminated by '_'
map keys terminated by ':'
lines terminated by '\n';字段解释：
row format delimited fields terminated by ‘,’ – 列分隔符
collection items terminated by ‘_’ – STRUCT的分隔符(数据分割符号)
map keys terminated by ‘:’ – MAP中的key与value的分隔符
lines terminated by ‘\n’; – 行分隔符
- 导入文本数据到测试表
load data local inpath '/opt/module/hive/datas/test.txt' into table test;- 访问三种集合列里的数据，以下分别是ARRAY，MAP，STRUCT的访问方式
select friends[1],children['xiao song'],address.city from test
where name="songsong";六、类型转化
Hive的原子数据类型是可以进行隐式转换的，类似于Java的类型转换，例如某表达式使用INT类型，TINYINT会自动转换为INT类型，但是Hive不会进行反向转化，例如，某表达式使用TINYINT类型，INT不会自动转换为TINYINT类型，它会返回错误，除非使用CAST操作。
- 隐式类型转换规则如下
- 任何整数类型都可以隐式地转换为一个范围更广的类型，如TINYINT可以转换成INT，INT可以转换成BIGINT。
- 所有整数类型、FLOAT和STRING类型都可以隐式地转换成DOUBLE。
- TINYINT、SMALLINT、INT都可以转换为FLOAT。
- BOOLEAN类型不可以转换为任何其它的类型。
- 可以使用CAST操作显示进行数据类型转换
例如CAST(‘1’ AS INT)将把字符串’1’ 转换成整数1；如果强制类型转换失败，如执行CAST(‘X’ AS INT)，表达式返回空值 NULL。
