1：数据的压缩说明

  • 压缩模式评价
  • 可使用以下三种标准对压缩方式进行评价
  • 1、压缩比：压缩比越高，压缩后文件越小，所以压缩比越高越好
  • 2、压缩时间：越快越好
  • 3、已经压缩的格式文件是否可以再分割：可以分割的格式允许单一文件由多个Mapper程序处理，可以更好的并行化
  • 常见压缩格式

压缩方式

压缩比

压缩速度

解压缩速度

是否可分割

gzip

13.4%

21 MB/s

118 MB/s

否

bzip2

13.2%

2.4MB/s

9.5MB/s

是

lzo

20.5%

135 MB/s

410 MB/s

否

snappy

22.2%

172 MB/s

409 MB/s

否

  • Hadoop编/解码器方式

压缩格式

对应的编码/解码器

DEFLATE

org.apache.hadoop.io.compress.DefaultCodec

Gzip

org.apache.hadoop.io.compress.GzipCodec

BZip2

org.apache.hadoop.io.compress.BZip2Codec

LZO

com.hadoop.compress.lzo.LzopCodec

Snappy

org.apache.hadoop.io.compress.SnappyCodec

  • 压缩性能的比较

压缩算法

原始文件大小

压缩文件大小

压缩速度

解压速度

gzip

8.3GB

1.8GB

17.5MB/s

58MB/s

bzip2

8.3GB

1.1GB

2.4MB/s

9.5MB/s

LZO

8.3GB

2.9GB

49.3MB/s

74.6MB/s

2：压缩配置参数

  • 要在Hadoop中启用压缩，可以配置如下参数（mapred-site.xml文件中）：

参数

默认值

阶段

建议

io.compression.codecs （在core-site.xml中配置）

org.apache.hadoop.io.compress.DefaultCodec, org.apache.hadoop.io.compress.GzipCodec, org.apache.hadoop.io.compress.BZip2Codec, org.apache.hadoop.io.compress.Lz4Codec

输入压缩

Hadoop使用文件扩展名判断是否支持某种编解码器

mapreduce.map.output.compress

true

mapper输出

这个参数设为true启用压缩

mapreduce.map.output.compress.codec

org.apache.hadoop.io.compress.DefaultCodec

mapper输出

使用LZO、LZ4或snappy编解码器在此阶段压缩数据

mapreduce.output.fileoutputformat.compress

true

reducer输出

这个参数设为true启用压缩

mapreduce.output.fileoutputformat.compress.codec

org.apache.hadoop.io.compress. DefaultCodec

reducer输出

使用标准工具或者编解码器，如gzip和bzip2

mapreduce.output.fileoutputformat.compress.type

NONE|RECORD

reducer输出

SequenceFile输出使用的压缩类型：NONE和BLOCK

3：开启Map输出阶段压缩

  • 开启map输出阶段压缩可以减少job中map和Reduce task间数据传输量。具体配置如下：

案例实操：

1）hql语句可能被转换成多个job，如job1的结果作为job2的输入...开启job间结果数据的压缩功能；默认false
hive (default)>set hive.exec.compress.intermediate=true;

2）开启mapreduce中map输出压缩功能；默认false
hive (default)>set mapreduce.map.output.compress=true;

3）设置mapreduce中map输出数据的压缩方式；默认DefaultCodec
hive (default)>set mapreduce.map.output.compress.codec= org.apache.hadoop.io.compress.SnappyCodec;

4）执行查询语句
hive (default)>select count(1) from score;

4：开启Reduce输出阶段压缩

  • 当Hive将输出写入到表中时，输出内容同样可以进行压缩。属性hive.exec.compress.output控制着这个功能。用户可能需要保持默认设置文件中的默认值false，这样默认的输出就是非压缩的纯文本文件了。用户可以通过在查询语句或执行脚本中设置这个值为true，来开启输出结果压缩功能。

案例实操：

1）开启hive最终输出数据的压缩功能；默认false
hive (default)>set hive.exec.compress.output=true;

2）开启mapreduce最终输出数据压缩；默认false
hive (default)>set mapreduce.output.fileoutputformat.compress=true;

3）设置mapreduce最终数据输出压缩方式；默认DefaultCodec
hive (default)> set mapreduce.output.fileoutputformat.compress.codec = org.apache.hadoop.io.compress.SnappyCodec;

4）设置mapreduce最终数据输出压缩为块压缩；默认RECORD
hive (default)>set mapreduce.output.fileoutputformat.compress.type=BLOCK;

5）测试一下输出结果是否是压缩文件
insert overwrite local directory '/install/hivedatas/snappy' 
select * from score distribute by s_id sort by s_id desc;