当开始着手实践 Hadoop 时,安装 Hadoop 往往会成为新手的一道门槛。尽管安装其实很简单,书上有写到,官方网站也有 Hadoop 安装配置教程,但由于对 Linux 环境不熟悉,书上跟官网上简略的安装步骤新手往往 Hold 不住。加上网上不少教程也甚是坑,导致新手折腾老几天愣是没装好,很是 ...
分类:
系统相关 时间:
2016-08-22 21:18:05
阅读次数:
278
简介 随着云时代的到来,大数据(big data)也越来越受大家的关注,比如互联网行业日常生成的运营、用户行为数据,随着时间及访问量的增长这一规模日益庞大,单位可达日TB或PB级别。如何在如此庞大的数据中挖掘出对我们有用的信息?目前业界主流存储与分析平台是Hadoop为主的开源生态圈,MapRedu ...
分类:
其他好文 时间:
2016-08-22 17:50:32
阅读次数:
203
HIVE的安装配置 首先需要hadoop的支持,启动好hadoop 下载:从apache官网下载新版本hive,要注意和hadoop版本的匹配。 支持: 需要对应版本jdk的支持 需要安装并运行hadoop 安装: 将下载好的hive安装包上传到linux中。 解压:tar -zxvf apache ...
分类:
其他好文 时间:
2016-08-21 00:47:55
阅读次数:
141
前提条件: 1、一台配置好hadoop环境的虚拟机。hadoop环境搭建教程:稍后补充 2、存在hadoop账户。不存在的可以新建hadoop账户安装配置hadoop。 安装教程: 一、Mysql安装 1、安装mysql命令:Yum install mysql-server -y (-y参数作用为所 ...
分类:
其他好文 时间:
2016-08-20 13:10:14
阅读次数:
122
hadoop搭建与eclipse开发环境设置(转) 1. Windows下eclipse开发环境配置 1.1 安装开发hadoop插件 将hadoop安装包hadoop\contrib\eclipse-plugin\hadoop-0.20.2-eclipse-plugin.jar拷贝到eclipse ...
分类:
系统相关 时间:
2016-08-11 19:15:03
阅读次数:
249
1、安装JDK1.6或更高版本 官网下载JDK,安装时注意,最好不要安装到带有空格的路径名下,例如:Programe Files,否则在配置Hadoop的配置文件时会找不到JDK(按相关说法,配置文件中的路径加引号即可解决,但我没测试成功)。 2、安装Cygwin Cygwin是Windows平台下 ...
一、系统及软件环境 1、操作系统 CentOS release 6.5 (Final) 内核版本:2.6.32-431.el6.x86_64 master.fansik.com:192.168.83.118 node1.fansik.com:192.168.83.119 node2.fansik.c ...
分类:
其他好文 时间:
2016-08-02 16:42:33
阅读次数:
195
一.系统环境
Windows7、Ecplise 4.4.0,Hadoop2.7.2
Hadoop安装教程请看:Hadoop2.7.2安装教程
二.安装步骤
1.安装hadoop插件
下载hadoop-eclipse-plugin-2.7.2.jar(点击下载),并且拷贝到eclipse根目录下/dropins下
2.启动myeclipse,打开Perspective:
【Window...
转自:http://www.iteblog.com/archives/992 Hadoop经常用于处理大量的数据,如果期间的输出数据、中间数据能压缩存储,对系统的I/O性能会有提升。综合考虑压缩、解压速度、是否支持split,目前lzo是最好的选择。LZO(LZO是Lempel-Ziv-Oberhu ...
分类:
其他好文 时间:
2016-07-11 14:06:21
阅读次数:
214
摘自:http://www.powerxing.com/install-hadoop-cluster/ 本教程讲述如何配置 Hadoop 集群,默认读者已经掌握了 Hadoop 的单机伪分布式配置,否则请先查看Hadoop安装教程_单机/伪分布式配置 或 CentOS安装Hadoop_单机/伪分布式 ...
分类:
系统相关 时间:
2016-06-28 12:29:06
阅读次数:
297