来自：http://blog.csdn.net/macyang/article/details/7880671所谓的推测执行，就是当所有task都开始运行之后，Job Tracker会统计所有任务的平均进度，如果某个task所在的task node机器配置比较低或者CPU load很高（原因很多），...
分类：
其他好文 时间：
2014-07-09 21:05:18
阅读次数：
248
第一步：编译java文件 javac -classpath hadoop-core*.jar:lib/commons-cli-1.2.jar -d playground/classes/ playground/src/WordCount.java第二步：生成jar包 jar -cvf p...
分类：
其他好文 时间：
2014-07-06 18:41:56
阅读次数：
199
sqoop是一个把关系型数据库数据抽向hadoop的工具。同时，也支持将hive、pig等查询的结果导入关系型数据库中存储。由于，笔者部署的hadoop版本是2.2.0，所以sqoop的版本是：sqoop-1.99.3-bin-hadoop2001、下载sqoop wget http://mirro...
分类：
其他好文 时间：
2014-07-06 15:37:41
阅读次数：
138
1. 安装这里以安装hadoop-0.20.2为例先安装java,参考这个去着下载hadoop解压tar -xzf hadoop-0.20.22. 配置修改环境变量vim ~/.bashrcexport HADOOP_HOME=/home/rte/hadoop-0.20.2 #这里为实际hado.....
分类：
其他好文 时间：
2014-07-06 15:12:24
阅读次数：
255
SSH无密安装与配置具体配置步骤：◎在root根目录下创建.ssh目录（必须root用户登录）cd/root&mkdir.sshchmod700.ssh&cd.ssh◎创建密码为空的RSA密钥对：ssh-keygen-trsa-P""◎在提示的对称密钥名称中输入id_rsa将公钥添加至authori...
分类：
其他好文 时间：
2014-07-06 13:08:10
阅读次数：
280
问题
最近在学习Hadoop(2.2.0),打算写一个MapReduce的小程序在Ubuntu 64位的环境下测试一把，一切环境配置完毕后，执行的过程中，控制台输出下面的内容：
WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java clas...
分类：
其他好文 时间：
2014-07-06 00:46:04
阅读次数：
434
需要进一步学习hadoop、需要看看内部源码实现，因此需要将hadoop源码导入都eclipse中，简单总结一下，具体步骤如下：
首先确保已经安装了git、maven3、protobuf2.5、如果没有安装需要提前安装一下
1、下载hadoop源码
git clone git://git.apache.org/hadoop-common.git
2、进入hadoop-common目录，...
分类：
系统相关 时间：
2014-07-05 23:37:02
阅读次数：
288
自己编译hadoop：x64 1.安装依赖包 sudo apt-get install g++ autoconf automake libtool cmake zlib1g-dev pkg-config libssl-dev openssh-server maven openssh-client 2...
分类：
其他好文 时间：
2014-07-05 17:11:43
阅读次数：
229
Linux的命令后面会有命令选项，有的选项还有选项值。选项的前面有短横线“-”，命令、选项、选项值之间使用空格隔开。有的命令没有选项，会有参数。选项是命令内置的功能，参数是用户提供的符合命令格式的内容。1.1.1. 命令提示符在桌面上点击鼠标右键，在弹出菜单中选择“Open in Terminal”...
分类：
系统相关 时间：
2014-07-05 11:18:23
阅读次数：
293
在现在的“大数据”、“云平台”这些前沿技术的背景下，衍生了很多平台型技术点，Nosql、Hadoop、Storm等层出不穷。这些华丽的技术后面其实处处都离不开“分布式”这个虽然提出了很久，但是大数据、云计算带火了的技术。以致于开个玩笑说，如果不懂一些“分布式"下的技术和原理的，会有点不好意思说自己是后端开发 -- (玩笑而已!! ^_^)。...
分类：
其他好文 时间：
2014-07-04 08:44:53
阅读次数：
216
