说明: 任务:搭建Hadoop伪分布式版本。 目的:快速搭建一个学习环境,跳过这一环境,快速进入状态,使用Hadoop一些组件做些任务 没有选择2.7,觉得bug比较多,不稳定。 选择伪分布式简单快速 环境: Win 7 64 8G 内存 ,4核 VM 12,1 虚拟机 3G 内存 ubuntu 4 ...
分类:
其他好文 时间:
2016-10-23 14:52:26
阅读次数:
193
1.准备环境 虚拟机(redhat enterprise linux 6.5) jdk-8u92-linux-x64.tar.gz hadoop-0.20.2.tar.gz 2.关闭虚拟机的防火墙,selinux,配置SSH免密码登录 [root@sishen ~]# vim /etc/syscon... ...
分类:
其他好文 时间:
2016-10-09 14:17:50
阅读次数:
243
Hadoop伪分布式环境搭建: 自动部署脚本: 运行脚本: ...
分类:
其他好文 时间:
2016-09-01 12:49:59
阅读次数:
188
1、本地连接远端用户没有权限 2、执行时提示,保存三分数据,但是只有一个节点是活的 问题1解决办法:在hdfs-site.xml文件中添加一下配置(是否在HDFS中开启权限检查) <property><name>dfs.permissions.enabled</name><value>false</ ...
分类:
其他好文 时间:
2016-08-25 20:29:00
阅读次数:
120
一、环境搭建 1. 《OD大数据实战》Hadoop伪分布式环境搭建 2. 《OD大数据实战》Hive环境搭建 3. 《OD大数据实战》Flume入门实例 4. 《OD大数据实战》Kafka入门实例 5. 《OD大数据实战》Oozie环境搭建 6. 7. 《OD大数据实战》HBase环境搭建 二、 ...
分类:
其他好文 时间:
2016-08-17 10:32:16
阅读次数:
1109
前期准备1、创建hadoop相关目录(便于管理)2、给/opt/*目录赋予hadoop用户及所有组权限sudochrown-Rhadoop:hadoop/opt/*3、JDK安装与配置配置HDFS/YARN/MAMREDUCE1、解压hadooptar-zxfhadoop-2.5.0.tar.gz-C/opt/modules/
(删除doc下的帮助文档,节省空间)
rm-rf/opt/modules/..
分类:
其他好文 时间:
2016-08-14 02:07:11
阅读次数:
189
一、搭建hadoop环境 《OD大数据实战》hadoop伪分布式环境搭建 二、hive环境搭建 1. 准备安装文件 下载地址: http://archive.cloudera.com/cdh5/cdh/5/ hive-0.13.1-cdh5.3.6.tar.gz 2. 解压 3. 修改配置 1)修改 ...
分类:
其他好文 时间:
2016-08-01 21:00:51
阅读次数:
194
一、安装并配置Linux 8. 使用当前root用户创建文件夹,并给/opt/下的所有文件夹及文件赋予775权限,修改用户组为当前用户 最终效果如下: 二、安装并配置JDK 1. 安装文件 jdk-7u67-linux-x64.tar.gz 2. 解压 3. 配置jdk 1)使用sudo配置/etc ...
分类:
其他好文 时间:
2016-08-01 17:23:08
阅读次数:
206
一、准备:1、修改主机名vi/etc/sysconfig/network内容如下:NETWORKING=yesHOSTNAME=myHadoop2、修改主机名和IP的映射关系vi/etc/hosts192.168.127.150 myHadoop3、关闭防火墙3.1、查看防火墙状态serviceiptablesstatus3.2、关闭防火墙serviceiptablesstop3.3、查看防火墙开机..
分类:
其他好文 时间:
2016-07-19 11:32:43
阅读次数:
155