Hadoop2.0是对Hadoop1.0全面升级，诞生了通用的计算框架YARN，很多计算框架或者应用程序不再基于传统的操作系统开发，而是基于YARN这个云操作系统。典型的代表是DAG计算框架Tez，当然还有一些其他知名的自运行的计算集群系统也在YARN上有开源版本，比如Storm-on-yarn，S...
分类：
其他好文 时间：
2014-06-03 13:09:44
阅读次数：
336
Eclipse开发过程连接Hadoop集群环境，需要安装Hadoop插件。Hadoop源码包中有Eclipse插件源代码，需要自己动手编译。环境：Hadoop
1.2.1 & EclipseKepler & Windows 7 & JAVA
71、生成插件源码解压Hadoop安装包，找到src\co...
分类：
系统相关 时间：
2014-05-28 00:39:47
阅读次数：
542
hadoop安装计大体上按这个做就好了http://blog.csdn.net/hitwengqi/article/details/8008203需要修改hadoop-env.shexport
JAVA_HOME=/usr/lib/jvm/java-6-openjdk-amd64export PAT...
分类：
其他好文 时间：
2014-05-24 11:17:22
阅读次数：
210
Hadoop 运行环境准备运行环境部署结构介绍Linux
CentOS6.5安装（Hadoop环境配置）Linux
常用远程管理工具介绍SSH免密码登录配置Hadoop安装及配置Hadoop验证-WordCount执行Hadoop开发工具准备Hadoop Eclipse
Plugin配置安装及验证H...
分类：
其他好文 时间：
2014-05-23 02:41:15
阅读次数：
211
A机器ssh登录B机器无需输入密码；当应用有服务器很多的时候输入密码很浪费时间
在Hadoop安装时要求免密码登录；一、创建在用户的home目录下创建 .ssh文件夹mkdir .ssh可以隐藏文件夹或文件内容ls -a二、
生成证书证书分为：dsa和rsassh-keygen -t rsa -P ...
分类：
系统相关 时间：
2014-05-21 06:01:09
阅读次数：
505
单词计数是最简单也是最能体现MapReduce思想的程序之一，可以称为MapReduce版"Hello
World"，该程序的完整代码可以在Hadoop安装包的"src/examples"目录下找到。单词计数主要完成功能是：统计一系列文本文件中每个单词出现的次数，如下图所示。现在我们以"hadoop...
分类：
其他好文 时间：
2014-05-10 01:54:48
阅读次数：
445
根据当初 hadoop 安装目录下 conf 目录的 core-site.xml
的设置，找到该目录：进入该目录在 data 和 name 文件夹下均有 current 文件夹 ，和 current 文件夹下有 VERSION
文件主要要做的是使这两个文件中的 namespaceID 相同接下来就是...
分类：
其他好文 时间：
2014-05-09 05:15:30
阅读次数：
305
