AbstractExecutorService对ExecutorService的执行任务类型的方法提供了一个默认实现。这些方法包括submit,invokeAny和InvokeAll。注意的是来自Executor接口的execute方法是未被实现,execute方法是整个体系的核心,所有的任务都是在...
分类:
编程语言 时间:
2014-08-13 18:23:26
阅读次数:
305
concurrent包中Executor接口的主要类的关系图如下:Executor接口非常单一,就是执行一个Runnable的命令。public interface Executor { void execute(Runnable command);}ExecutorService接口扩展了E...
分类:
编程语言 时间:
2014-08-13 17:44:56
阅读次数:
220
源自:http://zjriso.iteye.com/blog/771706 1.了解 TaskExecutor接口 Spring的TaskExecutor接口等同于java.util.concurrent.Executor接口。 实际上,它存在的主要原因是为了在使用线程池的时候,将对Java 5的...
分类:
编程语言 时间:
2014-08-08 15:48:16
阅读次数:
259
Worker所起的作用有以下几个:
1. 接受Master的指令,启动或者杀掉Executor
2. 接受Master的指令,启动或者杀掉Driver
3. 报告Executor/Driver的状态到Master
4. 心跳到Master,心跳超时则Master认为Worker已经挂了不能工作了
5. 向GUI报告Worker的状态...
分类:
其他好文 时间:
2014-08-05 00:50:08
阅读次数:
364
1、构建Spark Application运行环境;在Driver Program中新建SparkContext(包含sparkcontext的程序称为Driver Program);Spark Application运行的表现方式为:在集群上运行着一组独立的executor进程,这些进程由spar...
分类:
其他好文 时间:
2014-08-02 01:34:22
阅读次数:
292
1.7 Spark Web 界面
每一个SparkContext发布一个web界面,默认端口是4040,它显示了应用程序的有用信息。这包括:
Ø 一系列的调度阶段和任务
Ø 对于RDD大小和内存使用的总结
Ø 环境信息
Ø 运行的执行器(executor)的信息
你可以通过浏览器访问http://:4040,当然,你必去先启动SparkContext。比如命令:./bin/sp...
分类:
Web程序 时间:
2014-07-28 16:35:43
阅读次数:
1584
最近工作上需要做一个大数据量的读写操作,为了实现高效率,想到了用多线程实现。在网上查一些资料,发现在JDK1.5之后有了一个非常方便的东东---Executor来实现多线程。从JDK1.5开始,增加了java.util.concurrent包,它的引入大大简化了多线程程序的开发。java.util.concurrent..
分类:
编程语言 时间:
2014-07-28 03:05:41
阅读次数:
320
《Java并发编程实践》一书6.3.5节CompletionService:Executor和BlockingQueue,有这样一段话:
"如果向Executor提交了一组计算任务,并且希望在计算完成后获得结果,那么可以保留与每个任务关联的Future,然后反复使用get方法,同时将参数timeout指定为0,从而通过轮询来判断任务是否完成。这种方法虽然可行,但却有些繁琐。幸运的是,还有一种...
分类:
其他好文 时间:
2014-07-28 00:19:49
阅读次数:
365
Mysql 查询执行过程 大致分为4个阶段吧:
语法分析(sql_parse.cc)
>>sql_resolver.cc # JOIN.prepare
生成逻辑查询plan(sql_optimizer.cc)
>># JOIN.optimize
生成物理查询plan(sql_planner.cc)
run the explain plan(sql_executor.cc...
分类:
数据库 时间:
2014-07-19 23:18:37
阅读次数:
335
在Java5之后,并发线程这块发生了根本的变化,最重要的莫过于新的启动、调度、管理线程的一大堆API了。在Java5以后,通过Executor来启动线程比用Thread的start()更好。在新特征中,可以很容易控制线程的启动、执行和关闭过程,还可以很容易使用线程池的特性。一、创建任务任务就是一个实...
分类:
其他好文 时间:
2014-07-19 17:16:52
阅读次数:
330