Bootstrap

HDFS数据归档

一.数据文件归档

1.数据归档命令:

hadoop archive -archiveName gd3_fr_husbandry.har -p /user/hive/warehouse/ods.db/gd3_fr_husbandry -r 3   /tmp/gd3_fr_husbandry

参数说明:

-p :可以递归

-r :归档的副本数

2.归档数据查看

3.归档数据还原

hadoop fs -cp har:/tmp/gd3_fr_husbandry/gd3_fr_husbandry.har/* /tmp/gd3_fr_husbandry

 4.数据查询

 

 

二.数仓表分区表归档

1.开启归档

set hive.archive.enabled=true;

2.开始归档

alter table gd3_fr_husbandry archive partition(day_id='2014-10-01');

查看归档之后的目录为一个文件

3.解压归档文件

alter table gd3_fr_husbandry unarchive partition(day_id='2014-10-01');

 

注意:

1.归档的表必须是内部表,不能是外表表,目前不支持

2.归档之后的数据可以解压归档也可以不解压归档,两者都可以通过hive进行查询。区别:解压之后可以提高计算的并发,不解压归档可能计算性能会慢,对于分区小文件而言可以不进行解压

三.不足之处

1、archive文件本占用与原文件相同的硬盘空间;

2、archive文件不支持压缩;

3、archive一旦创建就不能进行修改;

4、archive虽然解决了namenode的空间问题,但是,在执行mapreduce时,会把多个小文件交给同一个map去split,这可能会降低mapreduce的效率,另外创建HAR和解压HAR依赖MapReduce,查询文件时耗很高。

注意:归档命令执行完成后,其原始文件仍旧还在,需要手动删除才能真正做到释放小文件在NN中对应存储的block信息。另外,由于小文件的内容被打包写入到了数据文件中,因此磁盘空间并没有因此减少,相反还增加了索引文件(但索引文件长度一般都比不大)。

总结:

目前数仓内部有的是内部表,有的是外部表,现有的外部表使用数据文件归档, 内部表使用分区表归档

 

 

 

;