1、集群部署介绍 1.1 Hadoop简介 Hadoop是Apache软件基金会旗下的一个开源分布式计算平台。以Hadoop分布式文件系统(HDFS,Hadoop Distributed Filesystem)和MapReduce(Google MapReduce的开源实现)为核心的Hadoop为用 ...
分类:
其他好文 时间:
2016-06-27 10:19:17
阅读次数:
179
Hadoop 安装好之后,开始安装 Spark。环境:ubuntu16.04,hadoop 2.7.2选择spark1.6.1,基于hadoop2.6的预编译版本。官网:http://spark.apache.org/downloads.html检查:md5sum spark-1.6.1-bin-h... ...
分类:
其他好文 时间:
2016-06-23 15:49:13
阅读次数:
177
安装Hadoop教程 目录 第一步、 配置Vmware NAT网络... 2 一、 Vmware网络模式介绍... 2 二、 NAT模式配置... 2 第二步、 安装Linux操作系统... 3 三、 Vmware上安装Linux系统... 3 四、 设置网络... 5 五、 修改Hostname.... ...
分类:
其他好文 时间:
2016-06-21 20:22:08
阅读次数:
283
【1】搭建HA高可用hadoop-2.3(规划+环境准备)【2】搭建HA高可用hadoop-2.3(安装zookeeper)【3】搭建HA高可用hadoop-2.3(部署配置hadoop--cdh5.1.0)【4】搭建HA高可用hadoop-2.3(部署配置HBase)部署配置habase(1)安装habasemaster1、slave1、slave2、slave3#cd/opt
#tar..
分类:
其他好文 时间:
2016-06-16 18:23:45
阅读次数:
241
一安装JDK1.下载JDK目前最新JDK:JavaSEDevelopmentKit8u91http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html2.解压安装我们把JDK安装到这个路径:/usr/lib/jvm如果没有这个目录(第一次当然没有),我们就新建一个目录1cd/usr/lib2sudomk..
分类:
其他好文 时间:
2016-05-28 23:24:02
阅读次数:
295
因为打算学习简单的Hadoop相关知识所以,打算尝试安装伪分布式模式,在有一定了解之后再打算学习完全分布式的相关知识。 首先 在vmware虚拟机中 安装了Linux操作系统(CentOS 64位) 安装过程为以下几个步骤: 一、配置host文件 二、建立hadoop运行账号 三、配置ssh免秘钥登 ...
分类:
其他好文 时间:
2016-05-24 06:54:54
阅读次数:
120
准备工作 操作系统 CentOS 7 软件环境 关闭防火墙 设置HostName 安装环境 安装JDK 配置java环境变量 验证java 待输出以上内容时说明java已安装配置成功。 安装Hadoop 下载Hadoop 2.6.4 安装Hadoop 2.6.4 配置Hadoop环境变量 验证Had ...
分类:
其他好文 时间:
2016-05-21 10:12:05
阅读次数:
218
主机启动: jps查看启动项。 查看分节点,slave1 : 查看分节点,slave2: 过了一分钟在查看分节点信息: 发现分节点 NodeManager已经关闭。 查看日志发现以下问题: 日志报错信息: ...
分类:
其他好文 时间:
2016-05-16 21:26:45
阅读次数:
173
配置IP地址: 设置IP地址网关,如下为master机器设置,slave1与slave2按照同样方法配置。 配置完成,重启网卡service network restart , 查看ip ifconfig 三台虚拟机,master,slave1,slave2 hosts映射: 修改 :vim /et ...
分类:
其他好文 时间:
2016-05-13 17:00:00
阅读次数:
317
Hadoop搭建过程
一、安装准备
虚拟机:CentOS-6.5-x86_64-bin-DVD1.iso
Java:jdk-7u79-linux-x64.gz
Hadoop:hadoop-2.6.0
安装过程为先在一台虚拟机中配置好时钟、安好jdk、安装并配置好hadoop再进行克隆操作,之后再在master和slave上分别进行其它配置。
二、安装过程
1、安装虚拟机
下载好的压...
分类:
其他好文 时间:
2016-05-12 18:04:52
阅读次数:
139