spark的Executor是执行task的容器。和java的executor概念类似。===================start executor runs task============================->CoarseGrainedExecutorBackend::rec...
分类：
其他好文 时间：
2015-01-25 06:27:23
阅读次数：
213
使用信号量来 限制无边界池子与队列public class BoundedExecutor { private final Executor exec; private final Semaphore semaphore; public BoundedExecutor(E...
分类：
其他好文 时间：
2015-01-22 18:00:47
阅读次数：
133
spark内核揭秘-12-AppClient注册Master
一个资源大管家，其职责主要包括两个方面：
* Cluster资源的管理和Cluster的通讯管理
*
* 资源管理
*** Worker资源 RegisterWorker WorkDirCleanup
*** Driver资源 RequestSubmitDriver RequestKillDriver
*** App资源 RegisteredApplication
*** Executor资...
分类：
移动开发 时间：
2015-01-21 22:38:51
阅读次数：
299
spark内核揭秘-13-Worker中Executor启动过程源码分析
spark内核揭秘-13-Worker中Executor启动过程源码分析
spark内核揭秘-13-Worker中Executor启动过程源码分析
spark内核揭秘-13-Worker中Executor启动过程源码分析...
分类：
其他好文 时间：
2015-01-21 22:32:54
阅读次数：
307
SparkContext在获得了一系列的初始化信息后开始创建并启动TaskScheduler实例：
进入createTaskScheduler方法：
spark内核揭秘-05-SparkContext核心源码解析初体验
我们看一下其Standalone的方式：
在上述代码中首先实例化一个TaskSchedulerImpl：
然后构建出了masterUrls：
接着创建出了非常关键的backend：...
分类：
其他好文 时间：
2015-01-19 15:47:44
阅读次数：
169
这篇文章讨论了Java应用中并行处理的多种方法。从自己管理Java线程，到各种更好几的解决方法，Executor服务、ForkJoin 框架以及计算中的Actor模型。Java并发编程的4种风格：Threads，Executors，ForkJoin和Actors我们生活在一个事情并行发生的世界。自然...
分类：
编程语言 时间：
2015-01-15 10:36:35
阅读次数：
289
Docker Container Executor (DCE) 是 Hadoop 2.6.0 包含的一个重要特性：至此，大数据的巨人 Hadoop 也终于可以利用当前虚拟化/云计算领域的宠儿 Docker 的强大能力了。...
分类：
其他好文 时间：
2015-01-12 22:38:33
阅读次数：
394
Shuffle Map Task运算结果的处理这个结果的处理，分为两部分，一个是在Executor端是如何直接处理Task的结果的；还有就是Driver端，如果在接到Task运行结束的消息时，如何对Shuffle Write的结果进行处理，从而在调度下游的Task时，下游的Task可以得到其需要的数据。Executor端的处理在解析BasicShuffle Writer时，我们知道ShuffleM...
分类：
其他好文 时间：
2015-01-12 08:09:30
阅读次数：
205
