Hadoop 默认模式为单机(非分布式模式),无需进行其他配置即可运行。非分布式即单 Java 进程,方便进行调试。 1、创建用户 1.1创建hadoop用户组和用户 一般我们不会经常使用root用户运行hadoop,所以需要创建一个平常运行和管理hadoop的用户; 有2种方式,选择任意一种即可 ...
分类:
其他好文 时间:
2017-09-02 16:54:23
阅读次数:
335
1、安装hive 在安装hive前,请确保已经安装好了hadoop,如未安装,请参考centoos 安装hadoop集群进行安装; 1.1、下载,解压 下载hive2.1.1:http://mirror.bit.edu.cn/apache/hive/hive-2.1.1/apache-hive-2. ...
分类:
编程语言 时间:
2017-08-17 22:49:57
阅读次数:
382
先上传hadoop的安装包到服务器上去/home/hpc/ 注意:hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop 伪分布式需要修改5个配置文件 4.1配置hadoop--配置文件目录 /etc/hadoop/ 第一个文件:hadoop-env.sh vi hadoop-e ...
分类:
其他好文 时间:
2017-08-09 22:23:03
阅读次数:
231
下载Hadoop安装包 wget http://apache.fayea.com/hadoop/common/hadoop-2.7.2/hadoop-2.7.2.tar.gz java安装 wget -c --header "Cookie: oraclelicense=accept-secureba ...
分类:
数据库 时间:
2017-08-01 14:34:12
阅读次数:
186
hbase 单节点配置startvim /etc/profileexport JAVA_HOME=/home/jdk7export HBASE_HOME=/home/hbaseexport PATH=$PATH:$HBASE_HOME/bin:$JAVA_HOME/bin source /etc/p ...
分类:
其他好文 时间:
2017-08-01 09:49:20
阅读次数:
134
首先先不看理论,搭建起环境之后再看; 搭建伪分布式是为了模拟环境,调试方便。 电脑是win10,用的虚拟机VMware Workstation 12 Pro,跑的Linux系统是centos6.5 ,装的hadoop2.6.0,jdk1.8; 1.准备工作 准备工作:把JDK和Hadoop安装包上传 ...
分类:
其他好文 时间:
2017-07-30 12:44:51
阅读次数:
201
1)配置jdk。2)配置ssh。3)配置Hadoop相关文件。配置jdk下载jdk1.8.XXXXXXX.tar.gz解压tar-zxvfjdk1.8.XXXXXX.tar.gzvim/etc/profileexportJAVA_HOME=exportPATH=exportCLASS_PATH=source/etc/profile配置ssh免密码登陆(此处略)ssh-keygen-trsa-P‘‘配置hadoopmapreduce-sit..
分类:
其他好文 时间:
2017-07-26 17:55:28
阅读次数:
150
hadoop的核心 Hadoop的核心就是HDFS和MapReduce,而两者只是理论基础,不是具体可使用的高级应用,Hadoop旗下有很多经典子项目,比如HBase、Hive等,这些都是基于HDFS和MapReduce发展出来的。要想了解Hadoop,就必须知道HDFS和MapReduce是什么。 ...
分类:
其他好文 时间:
2017-07-24 23:42:45
阅读次数:
329
1、安装java sudo apt-get install default-jre sudo apt-get install default-jdk 2、添加环境变量 export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-i386 3、运行hadoop ./bin ...
分类:
其他好文 时间:
2017-07-18 21:32:27
阅读次数:
134
1.检查JDK版本2.时间同步3.设置免密码登录#生成密钥(node1,node2,node3,node4)
ssh-keygen-tdsa-P‘‘-f~/.ssh/id_dsa
cd~/.ssh/
ls
#说明
##id_ds私钥
##is_dsa.pub公钥
#将公钥文件追加到本地的认证文件中(node1,node2,node3,node4)
cat~/.ssh/id_dsa.pub>>~/.ssh/author..
分类:
其他好文 时间:
2017-07-09 19:39:57
阅读次数:
253