1、软件环境 RHEL6 角色 jdk-8u45hadoop-2.8.1.tar.gz ? sshxx.xx.xx.xx ip地址 NN hadoop1xx.xx.xx.xx ip地址 DN hadoop2xx.xx.xx.xx ip地址 DN hadoop3xx.xx.xx.xx ip地址 DN hadoop4xx.xx.xx.xx ip地址 DN hadoop5本次涉及伪分布式部署只是要主
分类:
其他好文 时间:
2018-05-17 15:24:11
阅读次数:
154
1.hadoop的广义和狭义的理解狭义:Hadoop软件(HDFS、MapReduce、Yarn)广义:以hadoop为主的生态圈2.hadoop三大组件是什么?分别是做什么?HDFS:分布式文件管理系统存储MapReduce:执行引擎计算Yarn:资源(memorycpu)和作业调度平台资源3.hdfs伪分布式部署时我们需要配置当前用户对当前机器的无密码信任关系,那么你们会配置吗?root和其他
分类:
其他好文 时间:
2018-05-17 15:18:24
阅读次数:
185
1、软件环境 RHEL6 角色 jdk-8u45hadoop-2.8.1.tar.gz ? sshxx.xx.xx.xx ip地址 NN hadoop1xx.xx.xx.xx ip地址 DN hadoop2xx.xx.xx.xx ip地址 DN hadoop3xx.xx.xx.xx ip地址 DN hadoop4xx.xx.xx.xx ip地址 DN hadoop5本次涉及伪分布式部署只是要主机h
分类:
其他好文 时间:
2018-05-17 13:44:05
阅读次数:
278
环境要求:java、ssh1.上传并解压tar包[root@hadoop000software]#rz#上传hadoop-2.8.1.tar.gz[root@hadoop000software]#tar-xzvfhadoop-2.8.1.tar.gz2.配置环境变量[root@hadoop000software]#vi/etc/profileexportHADOOP_HOME=/opt/softw
分类:
其他好文 时间:
2018-05-17 11:56:45
阅读次数:
154
1、软件环境 RHEL6 jdk-8u45hadoop-2.8.1.tar.gz sshxx.xx.xx.xx ip地址 hadoop1xx.xx.xx.xx ip地址 hadoop2xx.xx.xx.xx ip地址 hadoop3xx.xx.xx.xx ip地址 hadoop4xx.xx.xx.xx ip地址 hadoop5本次部署只涉及伪分布式部署只是要主机hadoop1 ? 2.伪分布式
分类:
其他好文 时间:
2018-05-16 10:55:21
阅读次数:
129
1、软件环境RHEL6jdk-8u45hadoop-2.8.1.tar.gzsshxx.xx.xx.xxip地址hadoop1xx.xx.xx.xxip地址hadoop2xx.xx.xx.xxip地址hadoop3xx.xx.xx.xxip地址hadoop4xx.xx.xx.xxip地址hadoop5本次部署只涉及伪分布式部署只是要主机hadoop12.伪分布式部署伪分布式部署文档参考官方网站ha
分类:
其他好文 时间:
2018-05-15 18:30:51
阅读次数:
145
------------------------------软件版本-------------------------------------- RHEL6.8 hadoop2.8.1 apache-maven-3.3.9? ? ?findbugs-1.3.9 protobuf-2.5.0.tar.gz jdk-8u45 ------------------------------软件版本--
分类:
其他好文 时间:
2018-05-15 17:34:10
阅读次数:
161
运行在单节点的YARN您可以通过设置几个参数,另外运行ResourceManager的守护进程和NodeManager守护进程以伪分布式模式在YARN上运行MapReducejob。以下是运行步骤。(1)配置etc/hadoop/mapred-site.xml:<configuration><property><name>mapreduce.framework.
分类:
Web程序 时间:
2018-05-10 15:47:10
阅读次数:
199
(一)、HDFS shell操作 1.2查看文件系统的根目录 1.3.将刚刚创建的文件拷贝到文件系统的根目录下: 1.4.查看文件内容: 1.5创建目录 1.6递归创建目录 1.7查看递归目录 1.8复制文件 1.9从系统中拿出文件 2.0删除文件 2.1删除目录 以上就是最为常用的一些操作命令了, ...
分类:
其他好文 时间:
2018-05-09 19:41:10
阅读次数:
204
一、HDFS伪分布式环境搭建 Hadoop的三种运行模式(启动模式) -格式化文件系统 -格式化文件系统 HDFS公开了文件系统名称空间,允许用户将数据存储在文件中,就好比我们平时使用操作系统中的文件系统一样,用户无需关心底层是如何存储数据的。而在底层,一个文件会被分成一个或多个数据块,这些数据库块 ...
分类:
其他好文 时间:
2018-05-09 19:25:57
阅读次数:
203