把hdfs上的多个目录下的文件合并为一个文件

 

 

hdfs dfs -cat /folderpath/folder* | hdfs dfs -copyFromLocal - /newfolderpath/file

这样可以把文件hdfs上 /folderpath目录下的/folder开头的文件,还不合并到/newfolderpath目录下的file一个文件中 注意/folder*必须是文件,而不能是文件夹,如果是文件夹,可以/folder*/*

 

注意: copyFromLocal 后面的横杆不能少

 

实例:

 

hdfs dfs -cat /user/hive/warehouse/ee.db/ee_ubtevent/dt=2017-08-28/*/* | hdfs dfs -copyFromLocal - /tmp/yz/ee_ubtevent_20170828

您可以选择一种方式赞助本站