Hadoop入门学习

标签：分布   读取   项目   hive   传统   mapred   添加内容   file   专用   

自己学习Hadoop时，整理的资料，方便以后查看，希望能帮到大家，有什么问题欢迎大家指出

一、Hadoop是什么？其核心又是什么？

• Hadoop历史

        雏形开始于2002年的Apache的Nutch，Nutch是一个开源Java 实现的搜索引擎。它提供了我们运行自己的搜索引擎所需的全部工具。包括全文搜索和Web爬虫。

        随后在2003年Google发表了一篇技术学术论文谷歌文件系统（GFS）。GFS也就是google File System，google公司为了存储海量搜索数据而设计的专用文件系统。

        2004年Nutch创始人Doug Cutting基于Google的GFS论文实现了分布式文件存储系统名为NDFS。

        2004年Google又发表了一篇技术学术论文MapReduce。MapReduce是一种编程模型，用于大规模数据集（大于1TB）的并行分析运算。

        2005年Doug Cutting又基于MapReduce，在Nutch搜索引擎实现了该功能。

        2006年，Yahoo雇用了Doug Cutting，Doug Cutting将NDFS和MapReduce升级命名为Hadoop，Yahoo开建了一个独立的团队给Goug Cutting专门研究发展Hadoop。

        不得不说Google和Yahoo对Hadoop的贡献功不可没。

• Hadoop核心

        Hadoop的核心就是HDFS和MapReduce，而两者只是理论基础，不是具体可使用的高级应用，Hadoop旗下有很多经典子项目，比如HBase、Hive等，这些都是基于HDFS和MapReduce发展出来的。要想了解Hadoop，就必须知道HDFS和MapReduce是什么。

• HDFS

HDFS（Hadoop Distributed File System，Hadoop分布式文件系统），它是一个高度容错性的系统，适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问，适合那些有着超大数据集（large data set）的应用程序。

HDFS的设计特点是：

1、大数据文件，非常适合上T级别的大文件或者一堆大数据文件的存储，如果文件只有几个G甚至更小就没啥意思了。

2、文件分块存储，HDFS会将一个完整的大文件平均分块存储到不同计算器上，它的意义在于读取文件时可以同时从多个主机取不同区块的文件，多主机读取比单主机读取效率要高得多得都。

3、流式数据访问，一次写入多次读写，这种模式跟传统文件不同，它不支持动态改变文件内容，而是要求让文件一次写入就不做变化，要变化也只能在文件末添加内容。

4、廉价硬件，HDFS可以应用在普通PC机上，这种机制能够让给一些公司用几十台廉价的计算机就可以撑起一个大数据集群。

5、硬件故障，HDFS认为所有计算机都可能会出问题，为了防止某个主机失效读取不到该主机的块文件，它将同一个文件块副本分配到其它某几个主机上，如果其中一台主机失效，可以迅速找另一块副本取文件。

HDFS的关键元素：

Block：将一个文件进行分块，通常是64M。

NameNode：保存整个文件系统的目录信息、文件信息及分块信息，这是由唯一一台主机专门保存，当然这台主机如果出错，NameNode就失效了。在Hadoop2.*开始支持activity-standy模式----如果主NameNode失效，启动备用主机运行NameNode。

DataNode：分布在廉价的计算机上，用于存储Block块文件。

• MapReduce

通俗说MapReduce是一套从海量·源数据提取分析元素最后返回结果集的编程模型，将文件分布式存储到硬盘是第一步，而从海量数据中提取分析我们需要的内容就是MapReduce做的事了。

下面以一个计算海量数据最大值为例：一个银行有上亿储户，银行希望找到存储金额最高的金额是多少，按照传统的计算方式，我们会这样：

Java代码  

1. Long moneys[] ...  
2. Long max = 0L;  
3. for(int i=0;i<moneys.length;i++){  
4.   if(moneys[i]>max){  
5.     max = moneys[i];  
6.   }  
7. }  

 如果计算的数组长度少的话，这样实现是不会有问题的，还是面对海量数据的时候就会有问题。

MapReduce会这样做：首先数字是分布存储在不同块中的，以某几个块为一个Map，计算出Map中最大的值，然后将每个Map中的最大值做Reduce操作，Reduce再取最大值给用户。

        MapReduce的基本原理就是：将大的数据分析分成小块逐个分析，最后再将提取出来的数据汇总分析，最终获得我们想要的内容。当然怎么分块分析，怎么做Reduce操作非常复杂，Hadoop已经提供了数据分析的实现，我们只需要编写简单的需求命令即可达成我们想要的数据。

 二、hdfs常用命令行

（1）查看帮助
hdfs dfs -help

（2）查看当前目录信息
hdfs dfs -ls /

（3）上传文件
hdfs dfs -put /本地路径 /hdfs路径

（4）剪切文件
hdfs dfs -moveFromLocal a.txt /aa.txt

（5）下载文件到本地
hdfs dfs -get /hdfs路径 /本地路径

（6）合并下载
hdfs dfs -getmerge /hdfs路径文件夹 /合并后的文件

（7）创建文件夹
hdfs dfs -mkdir /hello

（8）创建多级文件夹
hdfs dfs -mkdir -p /hello/world

（9）移动hdfs文件
hdfs dfs -mv /hdfs路径 /hdfs路径

（10）复制hdfs文件
hdfs dfs -cp /hdfs路径 /hdfs路径

（11）删除hdfs文件
hdfs dfs -rm /aa.txt

（12）删除hdfs文件夹
hdfs dfs -rm -r /hello

（13）查看hdfs中的文件
hdfs dfs -cat /文件

hdfs dfs -text /文件

hdfs dfs -tail -f /文件

（14）查看文件夹中有多少个文件
hdfs dfs -count /文件夹

（15）查看hdfs的总空间
hdfs dfs -df /
hdfs dfs -df -h /

（16）修改副本数
hdfs dfs -setrep 1 /a.txt

Hadoop入门学习

标签：分布   读取   项目   hive   传统   mapred   添加内容   file   专用   

原文地址：https://www.cnblogs.com/mollyhappy/p/12981367.html