#########安装hadoop2.6.0完全分布式集群#########文件及系统版本:####hadoop-2.6.0Javaversion1.8.0_77centos64位####预备####在/home/hadoop/下:mkdirCloud把java和hadoop安装包放在/home/hadoop/Cloud下####配置静态ip####master192.168.116.100slave1192.168.116.110slav..
分类:
编程语言 时间:
2017-02-09 16:32:08
阅读次数:
234
总体思路,准备主从服务器,配置主服务器可以无密码SSH登录从服务器,解压安装JDK,解压安装Hadoop,配置hdfs、mapreduce等主从关系。 1、环境,3台CentOS7,64位,Hadoop2.7.3需要64位Linux,CentOS7 Minimal的ISO文件只有600M,操作系统十 ...
分类:
其他好文 时间:
2017-01-16 17:55:45
阅读次数:
248
在前一篇文章中,我们已经搭建好了Hadoop的群集,接下来,我们就是需要基于这个Hadoop群集,搭建Spark的群集。由于前面已经做了大量的工作,所以接下来搭建Spark会简单很多。 首先打开三个虚拟机,现在我们需要安装Scala,因为Spark是基于Scala开发的,所以需要安装Scala。在U ...
分类:
系统相关 时间:
2016-12-20 23:46:57
阅读次数:
317
原文 http://www.powerxing.com/install-hadoop/ 当开始着手实践 Hadoop 时,安装 Hadoop 往往会成为新手的一道门槛。尽管安装其实很简单,书上有写到,官方网站也有 Hadoop 安装配置教程,但由于对 Linux 环境不熟悉,书上跟官网上简略的安装步 ...
分类:
系统相关 时间:
2016-12-03 21:16:34
阅读次数:
409
记一次完全独立完成的统计分析系统的搭建过程,主要用到了PHP+Hadoop+Hive+Thrift+Mysql实现 安装 Hadoop安装: http://www.powerxing.com/install-hadoop/Hadoop集群配置: http://www.powerxing.com/in ...
分类:
Web程序 时间:
2016-11-23 16:36:45
阅读次数:
489
3.1上传hadoop安装包 3.2解压hadoop安装包 mkdir /cloud #解压到/cloud/目录下 tar -zxvf hadoop-2.2.0.tar.gz -C /cloud/ 3.3修改配置文件(5个) 第一个:hadoop-env.sh #在27行修改 export JAVA ...
分类:
其他好文 时间:
2016-11-19 03:24:15
阅读次数:
181
安装真实集群,而不是但节点或者伪分布式,以3个节点为例,node1为NameNode和SecondNameNode,node2和node3为DataNode。 1、3台机器的配置必须要一模一样,只需要在node1上配置好之后,scp到node2和node3上就行了; 2、安装ssh免密码登录,和常规 ...
分类:
其他好文 时间:
2016-10-25 16:32:27
阅读次数:
159
环境: Ubuntu16.04 机器: 192.168.1.105 namenode 192.168.1.102 datanode1 0、配置节点信息 sudo gedit /etc/hosts #加入下面的信息 192.168.1.105 namenode 192.168.1.102 datano ...
分类:
其他好文 时间:
2016-10-15 22:02:53
阅读次数:
261
环境: CentOS7 hadoop2.6.4两个节点:master、slave1 HBase1.1.6 过程: hadoop安装目录:/usr/hadoop-2.6.4 master节点,hadoop用户登录。在hadoop目录下新建thirdparty目录: 目录结构: 把hbase1.1.6解 ...
分类:
其他好文 时间:
2016-10-13 02:33:47
阅读次数:
138
我们都安装完Hadoop之后,按照一些案例先要跑一个WourdCount程序,来测试Hadoop安装是否成功。在终端中用命令创建一个文件夹,简单的向两个文件中各写入一段话,然后运行Hadoop,WourdCount自带WourdCount程序指令,就可以输出写入的那句话各个不同单词的个数。但是这不是 ...
分类:
其他好文 时间:
2016-09-27 17:47:13
阅读次数:
173