熟悉常用的HDFS操作

标签：www.   文件相关   bsp   命名   tar   tps   log   l命令   用户目录   

1. 编程实现以下指定功能，并利用Hadoop提供的Shell命令完成相同任务：
   1. 在本地Linux文件系统的“/home/hadoop/”目录下创建一个文件txt，里面可以随意输入一些单词
   2. 在本地查看文件位置（ls）
   3. 在本地显示文件内容

   4.   cd /usr/local/hadoop
          touch hzh.txt
          //此处编辑hzh.txt
          cat hzh.txt

   5. 使用命令把本地文件系统中的“txt”上传到HDFS中的当前用户目录的input目录下。

   6.  ./sbin/start-dfs.sh
          ./bin/hdfs dfs -mkdir -p /user/hadoop
          ./bin/hdfs dfs -mkdir input
          ./bin/hdfs dfs -put ./hzh.txt input

       

   7. 查看hdfs中的文件(-ls)

   8. //hdfs中的文件（夹）
          ./bin/hdfs dfs -ls
          //hdfs 中input的所有文件（夹）
          ./bin/hdfs dfs -ls input

       

   9. 显示hdfs中该的文件内容

   10.   ./bin/hdfs dfs -cat input/hzh.txt

        

   11. 删除本地的txt文件并查看目录

   12. ./bin/hdfs dfs -rm -ls input/hzh.txt

        

   13. 从hdfs中将txt下载地本地原来的位置。

   14. ./bin/hdfs dfs -get input/hzh.txt ~/hzh.txt

• 向HDFS中上传任意文本文件，如果指定的文件在HDFS中已经存在，由用户指定是追加到原有文件末尾还是覆盖原有的文件；

•  cd bin/
      $ if $(./hdfs dfs -test -e input/hzh.txt); 
      then $(./hdfs dfs -appendToFile ~/hzh.txt input/hzh.txt); 
      else $(./hdfs dfs -copyFromLocal ~/hzh.txt input/hzh.txt);
      fi 

   

• 从HDFS中下载指定文件，如果本地文件与要下载的文件名称相同，则自动对下载的文件重命名；

•  if $(./hdfs dfs -test -e input/hzh.txt);
      then $(./hdfs dfs -copyToLocal input/hzh.txt ~/hzh.txt); 
      else $(./hdfs dfs -copyToLocal input/hzh.txt ~/hzh2.txt); 
      fi

• 将HDFS中指定文件的内容输出到终端中；

• ./hdfs dfs -cat  input/hzh.txt

• 显示HDFS中指定的文件的读写权限、大小、创建时间、路径等信息；

• ./hdfs dfs -ls  input/hzh.txt

• 给定HDFS中某一个目录，输出该目录下的所有文件的读写权限、大小、创建时间、路径等信息，如果该文件是目录，则递归输出该目录下所有文件相关信息；

•  ./hdfs dfs -ls -R /user

• 提供一个HDFS内的文件的路径，对该文件进行创建和删除操作。如果文件所在目录不存在，则自动创建目录；
• 

   //x创建
      if $(./hdfs dfs -test -d dir1/dir2);
      then $(./hdfs dfs -touchz dir1/dir2/filename); 
      else $(./hdfs dfs -mkdir -p dir1/dir2 && hdfs dfs -touchz dir1/dir2/filename); 
      fi
      
           //s删除
      ./hdfs dfs -rm dir1/dir2/filename

  
• 提供一个HDFS的目录的路径，对该目录进行创建和删除操作。创建目录时，如果目录文件所在目录不存在则自动创建相应目录；删除目录时，由用户指定当该目录不为空时是否还删除该目录；

•   ./hdfs dfs mkdir -p dir0/dir1
      ./hdfs dfs rmdir dir0
      ./hdfs dfs -rm -r dir0

• 向HDFS中指定的文件追加内容，由用户指定内容追加到原有文件的开头或结尾；

•  ./hdfs dfs -appendToFile ~/hzh.txt input/hzh.txt 

• 删除HDFS中指定的文件；

• ./hdfs dfs -rm targetFile

• 删除HDFS中指定的目录，由用户指定目录中如果存在文件时是否删除目录；

•   ./hdfs dfs -rmdir dir

• 在HDFS中，将文件从源路径移动到目的路径。

• ./hdfs dfs -mv input/hzh.txt input/hzh2.txt

熟悉常用的HDFS操作

标签：www.   文件相关   bsp   命名   tar   tps   log   l命令   用户目录   

原文地址：https://www.cnblogs.com/huangzemian123/p/9147838.html