Hadoop 新 MapReduce 框架 Yarn 详解
分类：
其他好文 时间：
2014-11-05 22:39:25
阅读次数：
293
MapReduce has undergone a complete overhaul in hadoop-0.23 and we now have, what we call, MapReduce 2.0 (MRv2) or YARN.
The fundamental idea of MRv2 is to split up the two major functionalities of th...
分类：
其他好文 时间：
2014-11-04 00:15:00
阅读次数：
209
Spark版本：spark-1.1.0-bin-hadoop2.4 (下载：http://spark.apache.org/downloads.html)服务器环境的情况，请参考上篇博文hbase centOS生产环境配置笔记(hbase-r是ResourceManager; hbase-1, hb...
分类：
其他好文 时间：
2014-11-03 16:19:44
阅读次数：
288
Apache Samza is a distributed stream processing framework. It uses Apache
Kafka for messaging, and Apache
Hadoop YARN to provide fault tolerance, processor isolation, security, and resource manage...
分类：
其他好文 时间：
2014-11-02 16:36:31
阅读次数：
255
目的： 使用命令行接口运行Mini集群，用户可以使用一个简单的命令启动或者停止一个单节点的Hadoop集群，不需要设置任何环境变量和管理配置文件。这个CLI Mini集群将会启动Yarn/MapReduce和HDFS。 这个案例适合想要...
分类：
其他好文 时间：
2014-10-31 13:58:20
阅读次数：
257
1. 安装环境介绍如下：
系统：Ubuntu14.04
Hadoop版本：hadoop-2.5.0（点击下载）
Java版本：openjdk-1.7.0_55
Eclipse版本：Release 4.4.0 (点击下载)...
分类：
系统相关 时间：
2014-10-30 21:00:26
阅读次数：
782
本文是根据Hadoop官网安装教程写的Hadoop YARN在单机伪分布式环境下的安装报告，仅供参考。
1. 安装环境如下：
操作系统：Ubuntu14.04
Hadoop版本：hadoop-2.5.0
Java版本：openjdk-1.7.0_55...
分类：
其他好文 时间：
2014-10-29 19:20:57
阅读次数：
286
本篇紧接着概念篇，从宏观角度上看一下Samza实时计算服务的架构是什么样的？
Samza是由以下三层构成：
1. 数据流层（A streaming layer）
2. 执行层（An execution layer）
3. 处理层（A progressing layer）
那Samza是依靠哪些技术完成以上三层的组合呢...
分类：
其他好文 时间：
2014-10-29 17:11:57
阅读次数：
261
发现每次reduce阶段跑到98%，相关的container被杀，报出的log大概...
分类：
其他好文 时间：
2014-10-25 18:49:24
阅读次数：
130
1、NodeManager概述
NodeManager（NM）是YARN中每个节点上的代理，它管理Hadoop集群中单个计算节点，包括与ResourceManger保持通信，监督Container的生命周期管理，监控每个Container的资源使用（内存、CPU等）情况，追踪节点健康状况，管理日志和不同应用程序用到的附属服务。
2、NodeManager分析
2.1、代码分析
接下来将...
分类：
其他好文 时间：
2014-10-23 00:01:39
阅读次数：
291
