[Spark亚太研究院 决战云计算大数据时代 100期公益大讲堂 互动问答]Q1：我想问，hdfs的namenode挂了，怎么处理？ 使用ZooKeeper； 使用Mesos； 使用Yarn；Q2：用python和scala区别大吗？ 就代码的风格而言是不大的； 世界上也有很多人使用python开发...
分类：
其他好文 时间：
2014-07-16 19:09:29
阅读次数：
294
一、概述本文将介绍ResourceManager在Yarn中的功能作用，从更细的粒度分析RM内部组成的各个组件功能和他们相互的交互方式。二、ResourceManager的交互协议与基本职能1、ResourceManager交互协议在整个Yarn框架中主要涉及到7个协议，分别是ApplicationClientProtocol、MRClientP..
分类：
其他好文 时间：
2014-07-15 12:18:57
阅读次数：
1022
yarn.resourcemanager.ha.enabled true yarn.resourcemanager.ha.rm-ids ...
分类：
其他好文 时间：
2014-07-14 19:48:02
阅读次数：
359
Hadoop YARN组件间的主要通信协议简介。...
分类：
其他好文 时间：
2014-07-14 14:04:13
阅读次数：
221
Hadoop YARN ApplicationMaster程序设计概述。...
分类：
其他好文 时间：
2014-07-14 11:27:32
阅读次数：
267
Hadoop MapReduce On YARN的实现 --- MRAppMaster内部组件剖析。...
分类：
移动开发 时间：
2014-07-14 11:26:56
阅读次数：
340
本来不打算写的了，但是真的是闲来无事，整天看美剧也没啥意思。这一章打算讲一下Spark on yarn的实现，1.0.0里面已经是一个stable的版本了，可是1.0.1也出来了，离1.0.0发布才一个月的时间，更新太快了，节奏跟不上啊，这里仍旧是讲1.0.0的代码，所以各位朋友也不要再问我讲的是哪...
分类：
其他好文 时间：
2014-07-13 21:43:15
阅读次数：
381
1 概述
该瞅瞅MapReduce的内部运行原理了，以前只知道个皮毛，再不搞搞，不然怎么死的都不晓得。下文会以2.4版本中的WordCount这个经典例子作为分析的切入点，一步步来看里面到底是个什么情况。
2 为什么要使用MapReduce
Map/Reduce，是一种模式，适合解决并行计算的问题，比如TopN、贝叶斯分类等。注意，是并行计算，而非迭代计算，像涉及到层次聚类的问题就不...
分类：
其他好文 时间：
2014-07-12 21:31:22
阅读次数：
296
