一、调用hadoop api实现文件的上传、下载、删除、创建目录和显示功能
(1)添加必要的hadoop jar包。
A、首先将Hadoop1.1.2.tar.gz解压到某一个磁盘下。
B、右键选择工程,选择build path...., build configure path;
C、将hadoop1.1.2文件夹下的jar包添加进去;
还有lib文件夹下的所有jar包(注意:...
分类:
其他好文 时间:
2014-08-18 16:25:42
阅读次数:
376
一、前置条件(1)Linux可以用作开发平台及产品平台。2、安装jdk 1.6或以上$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys二、基本准备[plain] vie...
分类:
其他好文 时间:
2014-08-17 19:54:02
阅读次数:
359
一、前置条件
1、操作系统准备
(1)Linux可以用作开发平台及产品平台。
(2)win32只可用作开发平台,且需要cygwin的支持。
2、安装jdk 1.6或以上
3、安装ssh,并配置免密码登录。(root用户)
$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/auth...
分类:
其他好文 时间:
2014-08-17 11:48:42
阅读次数:
214
hadoop版本为hadoop1.2.1eclipse版本为eclipse-standard-kepler-SR2-win32-x86_64WordCount.java为hadoop-1.2.1\src\examples\org\apache\hadoop\examples\WordCount.ja...
测试环境介绍:Hadoop1.0.3升级到Hadoop2.4.1当前老环境(三副本环境):Namenode192.168.1.10Datanode192.168.1.11(SecondNamenode)Datanode192.168.1.12Datanode192.168.1.13由于Hadoop2.4.1支持HA集群,所有需要在增加一台Namenode机器新环境规划如下:Namenode192.168.1...
分类:
其他好文 时间:
2014-08-12 17:35:54
阅读次数:
299
目标:配置一个hadoop1.2.1测试环境用的JDK是:jdk-7u65-linux-x64.gz选的hadoop是:hadoop-1.2.1.tar.gz均来源Apache和oracle网站主机规划:Linux版本:Centos6.5x64位/boot:用来存放与Linux系统启动有关的程序,比如启动引导装载程序等,建议大小为100MB。/usr:用来存放Linu..
分类:
系统相关 时间:
2014-08-12 10:30:54
阅读次数:
436
在/usr目录下建立hadoop文件夹,赋予hadoop用户权限(master)[hadoop@masterusr]$sudomkdirhadoop
[hadoop@masterusr]$ls-al
total156
drwxr-xr-x.2rootroot4096Jul3100:17hadoop
[hadoop@masterusr]$sudochown-Rhadoop:hadoophadoop
[hadoop@masterusr]$ls-al
total156
drwxr-xr..
分类:
其他好文 时间:
2014-08-12 10:29:54
阅读次数:
245
格式化节点,只需一次[hadoop@masterconf]$hadoopnamenode-format
Warning:$HADOOP_HOMEisdeprecated.
14/07/3101:41:39INFOnamenode.NameNode:STARTUP_MSG:
/************************************************************
STARTUP_MSG:StartingNameNode
STARTUP_MSG:host=m..
分类:
其他好文 时间:
2014-08-12 10:29:45
阅读次数:
285
1、安装JDK1.6或更高版本 官网下载JDK,安装时注意,最好不要安装到带有空格的路径名下,例如:Programe Files,否则在配置Hadoop的配置文件时会找不到JDK(按相关说法,配置文件中的路径加引号即可解决,但我没测试成功)。2、安装Cygwin Cygwin是Windows平台.....
1 安装环境 Hadoop1.2.1 分布式集群环境下安装(192.168.1.53-56) Mahout 0.9 2 安装介质 下载地址:http://archive.apache.org/dist/mahout/0.9/ 文件名(二进制):mahout-distribution-0.9...
分类:
其他好文 时间:
2014-08-03 20:33:45
阅读次数:
190