目录
一、分区和分桶的概念
分区：
分桶：
二、分区实现
1、创建分区
按年创建分区t1：
按年月创建分区t2：
2、向分区添加数据
向年分区t1中添加数据
向年月分区t2添加数据
3、效果如下
年分区：
年月分区：
三、分桶的实现
1、分桶之前要执行命令hive.enforce.bucketing=true;
2、要使用关键字clustered by 指定分区依据的列名，还要指定分为多少桶
3、向桶中插入数据：
4、查看桶信息：
5、查看分桶数据，要指定关键字tablesample
一、分区和分桶的概念
分区：
是指按照数据表的某列或某些列分为多个区，区从形式上可以理解为文件夹，比如我们要收集某个大型网站的日志数据，一个网站每天的日志数据存在同一张表上，由于每天会生成大量的日志，导致数据表的内容巨大，在查询时进行全表扫描耗费的资源非常多。那其实这个情况下，我们可以按照日期对数据表进行分区，不同日期的数据存放在不同的分区，在查询时只要指定分区字段的值就可以直接从该分区查找。
分桶：
分桶是相对分区进行更细粒度的划分。分桶将整个数据内容安装某列属性值得hash值进行区分，如要安装name属性分为3个桶，就是对name属性值的hash值对3取摸，按照取模结果对数据分桶。如取模结果为0的数据记录存放到一个文件，取模为1的数据存放到一个文件，取模为2的数据存放到一个文件。
假设我们有一张地域姓名表并按城市分区。那么很有可能，北京分区的人数会远远大于其他分区，该分区的数据I/O吞吐效率将成为查询的瓶颈。如果我们对表中的姓名做分桶，将姓名按哈希值分发到桶中，每个桶将分配到大致均匀的人数。
分桶解决的是数据倾斜的问题
二、分区实现
1、创建分区
按年创建分区t1：
hive (default)> create table t1(id int,dname string,loc string) partitioned by
> (year string);
按年月创建分区t2：
hive (default)> create table t2(id int,dname string,loc string) partitioned by
> (year string,month string);
注意：表的类型需要和添加数据的类型对应，而partitioned by后的分区类型不能与表中存在的类型重复
2、向分区添加数据
向年分区t1中添加数据
hive (default)> load data local inpath '/root/Desktop/20191102' overwrite into
> table t1 partition ( year='2019');
向年月分区t2添加数据
hive (default)> load data local inpath '/root/Desktop/20191102' overwrite into
> table t2 partition ( year='2019',month='11');
3、效果如下
年分区：
年月分区：
三、分桶的实现
1、分桶之前要执行命令hive.enforce.bucketing=true;
hive (default)> set hive.enforce.bucketing=true;
2、要使用关键字clustered by 指定分区依据的列名，还要指定分为多少桶
hive (default)> create table b1(id int,dname string,loc string) clustered by(dname) into 3
> buckets row format delimited fields terminated by '\t';
3、向桶中插入数据：
准备好的dept表
hive (default)> insert overwrite table b1 select * from dept;
4、查看桶信息：
5、查看分桶数据，要指定关键字tablesample
hive (default)> select * from b1 tablesample(bucket 1 out of 3 on id);
备注:模为0
备注:模为1
备注:模为2
