标签:blog http io 使用 ar java for 数据 sp
转载请标明出处:http://blog.csdn.net/lmj623565791/article/details/27250059
普通情况下,我们使用Runnable作为主要的任务表示形式,可是Runnable是一种有非常大局限的抽象,run方法中仅仅能记录日志,打印,或者把数据汇总入某个容器(一方面内存消耗大,还有一方面须要控制同步,效率非常大的限制),总之不能返回运行的结果;比方同一时候1000个任务去网络上抓取数据,然后将抓取到的数据进行处理(处理方式不定),我认为最好的方式就是提供回调接口,把处理的方式最为回调传进去;可是如今我们有了更好的方式实现:CompletionService + Callable
Callable的call方法能够返回运行的结果;
CompletionService将Executor(线程池)和BlockingQueue(堵塞队列)结合在一起,同一时候使用Callable作为任务的基本单元,整个过程就是生产者不断把Callable任务放入堵塞对了,Executor作为消费者不断把任务取出来运行,并返回结果;
优势:
a、堵塞队列防止了内存中排队等待的任务过多,造成内存溢出(毕竟一般生产者速度比較快,比方爬虫准备好网址和规则,就去运行了,运行起来(消费者)还是比較慢的)
b、CompletionService能够实现,哪个任务先运行完毕就返回,而不是按顺序返回,这样能够极大的提升效率;
以下看个样例:
package com.zhy.concurrency.completionService; import java.util.Random; import java.util.concurrent.BlockingQueue; import java.util.concurrent.Callable; import java.util.concurrent.CompletionService; import java.util.concurrent.ExecutionException; import java.util.concurrent.ExecutorCompletionService; import java.util.concurrent.ExecutorService; import java.util.concurrent.Executors; import java.util.concurrent.Future; import java.util.concurrent.LinkedBlockingDeque; /** * 将Executor和BlockingQueue功能融合在一起,能够将Callable的任务提交给它来运行, 然后使用take()方法获得已经完毕的结果 * * @author zhy * */ public class CompletionServiceDemo { public static void main(String[] args) throws InterruptedException, ExecutionException { /** * 内部维护11个线程的线程池 */ ExecutorService exec = Executors.newFixedThreadPool(11); /** * 容量为10的堵塞队列 */ final BlockingQueue<Future<Integer>> queue = new LinkedBlockingDeque<Future<Integer>>( 10); //实例化CompletionService final CompletionService<Integer> completionService = new ExecutorCompletionService<Integer>( exec, queue); /** * 模拟瞬间产生10个任务,且每一个任务运行时间不一致 */ for (int i = 0; i < 10; i++) { completionService.submit(new Callable<Integer>() { @Override public Integer call() throws Exception { int ran = new Random().nextInt(1000); Thread.sleep(ran); System.out.println(Thread.currentThread().getName() + " 歇息了 " + ran); return ran; } }); } /** * 马上输出结果 */ for (int i = 0; i < 10; i++) { try { //谁最先运行完毕,直接返回 Future<Integer> f = completionService.take(); System.out.println(f.get()); } catch (InterruptedException e) { e.printStackTrace(); } catch (ExecutionException e) { e.printStackTrace(); } } exec.shutdown(); } }输出结果:
pool-1-thread-4 歇息了 52 52 pool-1-thread-1 歇息了 59 59 pool-1-thread-10 歇息了 215 215 pool-1-thread-9 歇息了 352 352 pool-1-thread-5 歇息了 389 389 pool-1-thread-3 歇息了 589 589 pool-1-thread-2 歇息了 794 794 pool-1-thread-7 歇息了 805 805 pool-1-thread-6 歇息了 909 909 pool-1-thread-8 歇息了 987 987
ExecutorService的invokeAll方法也能批量运行任务,并批量返回结果,可是呢,有个我认为非常致命的缺点,必须等待全部的任务运行完毕后统一返回,一方面内存持有的时间长;还有一方面响应性也有一定的影响,毕竟大家都喜欢看看刷刷的运行结果输出,而不是苦苦的等待;
以下看个样例:
package com.zhy.concurrency.executors; import java.util.ArrayList; import java.util.List; import java.util.Random; import java.util.concurrent.Callable; import java.util.concurrent.ExecutionException; import java.util.concurrent.ExecutorService; import java.util.concurrent.Executors; import java.util.concurrent.Future; public class TestInvokeAll { public static void main(String[] args) throws InterruptedException, ExecutionException { ExecutorService exec = Executors.newFixedThreadPool(10); List<Callable<Integer>> tasks = new ArrayList<Callable<Integer>>(); Callable<Integer> task = null; for (int i = 0; i < 10; i++) { task = new Callable<Integer>() { @Override public Integer call() throws Exception { int ran = new Random().nextInt(1000); Thread.sleep(ran); System.out.println(Thread.currentThread().getName()+" 歇息了 " + ran ); return ran; } }; tasks.add(task); } long s = System.currentTimeMillis(); List<Future<Integer>> results = exec.invokeAll(tasks); System.out.println("运行任务消耗了 :" + (System.currentTimeMillis() - s) +"毫秒"); for (int i = 0; i < results.size(); i++) { try { System.out.println(results.get(i).get()); } catch (Exception e) { e.printStackTrace(); } } exec.shutdown(); } }
pool-1-thread-10 歇息了 1 pool-1-thread-5 歇息了 59 pool-1-thread-6 歇息了 128 pool-1-thread-1 歇息了 146 pool-1-thread-3 歇息了 158 pool-1-thread-7 歇息了 387 pool-1-thread-9 歇息了 486 pool-1-thread-8 歇息了 606 pool-1-thread-4 歇息了 707 pool-1-thread-2 歇息了 817 运行任务消耗了 :819毫秒 146 817 158 707 59 128 387 606 486 1
嗯,对于批量运行任务,且携带返回结果的案例就到这里~假设有疑问或者代码中存在错误请指出~
Java并发专题 带返回结果的批量任务运行 CompletionService ExecutorService.invokeAll
标签:blog http io 使用 ar java for 数据 sp
原文地址:http://www.cnblogs.com/hrhguanli/p/3998865.html