java并发带返回结果的批量任务执行

转载:http://www.it165.net/pro/html/201405/14551.html

 

一般情况下,我们使用Runnable作为基本的任务表示形式,但是Runnable是一种有很大局限的抽象,run方法中只能记录日志,打印,或者把数据汇总入某个容器(一方面内存消耗大,另一方面需要控制同步,效率很大的限制),总之不能返回执行的结果;比如同时1000个任务去网络上抓取数据,然后将抓取到的数据进行处理(处理方式不定),我觉得最好的方式就是提供回调接口,把处理的方式最为回调传进去;但是现在我们有了更好的方式实现:CompletionService + Callable

Callable的call方法可以返回执行的结果;

CompletionService将Executor(线程池)和BlockingQueue(阻塞队列)结合在一起,同时使用Callable作为任务的基本单元,整个过程就是生产者不断把Callable任务放入阻塞对了,Executor作为消费者不断把任务取出来执行,并返回结果;

优势:

a、阻塞队列防止了内存中排队等待的任务过多,造成内存溢出(毕竟一般生产者速度比较快,比如爬虫准备好网址和规则,就去执行了,执行起来(消费者)还是比较慢的)

b、CompletionService可以实现,哪个任务先执行完成就返回,而不是按顺序返回,这样可以极大的提升效率;

1、CompletionService : Executor + BlockingQueue

下面看个例子:

 

01.
package com.zhy.concurrency.completionService;
02.
 
03.
import java.util.Random;
04.
import java.util.concurrent.BlockingQueue;
05.
import java.util.concurrent.Callable;
06.
import java.util.concurrent.CompletionService;
07.
import java.util.concurrent.ExecutionException;
08.
import java.util.concurrent.ExecutorCompletionService;
09.
import java.util.concurrent.ExecutorService;
10.
import java.util.concurrent.Executors;
11.
import java.util.concurrent.Future;
12.
import java.util.concurrent.LinkedBlockingDeque;
13.
 
14.
/**
15.
* 将Executor和BlockingQueue功能融合在一起,可以将Callable的任务提交给它来执行, 然后使用take()方法获得已经完成的结果
16.
*
17.
* @author zhy
18.
*
19.
*/
20.
public class CompletionServiceDemo
21.
{
22.
 
23.
public static void main(String[] args) throws InterruptedException,
24.
ExecutionException
25.
{
26.
/**
27.
* 内部维护11个线程的线程池
28.
*/
29.
ExecutorService exec = Executors.newFixedThreadPool(11);
30.
/**
31.
* 容量为10的阻塞队列
32.
*/
33.
final BlockingQueue<Future<Integer>> queue = new LinkedBlockingDeque<Future<Integer>>(
34.
10);
35.
//实例化CompletionService
36.
final CompletionService<Integer> completionService = new ExecutorCompletionService<Integer>(
37.
exec, queue);
38.
 
39.
/**
40.
* 模拟瞬间产生10个任务,且每个任务执行时间不一致
41.
*/
42.
for (int i = 0; i < 10; i++)
43.
{
44.
completionService.submit(new Callable<Integer>()
45.
{
46.
@Override
47.
public Integer call() throws Exception
48.
{
49.
int ran = new Random().nextInt(1000);
50.
Thread.sleep(ran);
51.
System.out.println(Thread.currentThread().getName()
52.
" 休息了 " + ran);
53.
return ran;
54.
}
55.
});
56.
}
57.
 
58.
/**
59.
* 立即输出结果
60.
*/
61.
for (int i = 0; i < 10; i++)
62.
{
63.
try
64.
{  
65.
//谁最先执行完成,直接返回
66.
Future<Integer> f = completionService.take();
67.
System.out.println(f.get());
68.
catch (InterruptedException e)
69.
{
70.
e.printStackTrace();
71.
catch (ExecutionException e)
72.
{
73.
e.printStackTrace();
74.
}
75.
}
76.
 
77.
exec.shutdown();
78.
 
79.
}
80.
 
81.
}

输出结果:

 

 

view source
print
?
01.
pool-1-thread-4 休息了 52
02.
52
03.
pool-1-thread-1 休息了 59
04.
59
05.
pool-1-thread-10 休息了 215
06.
215
07.
pool-1-thread-9 休息了 352
08.
352
09.
pool-1-thread-5 休息了 389
10.
389
11.
pool-1-thread-3 休息了 589
12.
589
13.
pool-1-thread-2 休息了 794
14.
794
15.
pool-1-thread-7 休息了 805
16.
805
17.
pool-1-thread-6 休息了 909
18.
909
19.
pool-1-thread-8 休息了 987
20.
987

最先执行完成的直接返回,并不需要按任务提交的顺序执行,如果需要写个高并发的程序,且每个任务需要返回执行结果,这是个相当不错的选择!

    原文作者:java 线程池
    原文地址: https://www.cnblogs.com/fanguangdexiaoyuer/p/5864637.html
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞