Java开发笔记(一百零六)Fork+Join框架实现分而治之

前面依次介绍了普通线程池和定时器线程池的用法,这两种线程池有个共同点,就是线程池的内部线程之间并无什么关联,然而某些情况下的各线程间存在着前因后果关系。譬如人口普查工作,大家都知道我国总人口为14亿左右,可是14亿的数目是怎么数出来呢?倘若只有一个人去统计,从小数到老都数不完。好比一个线程老牛破车干不了多少事情,既然如此,不妨多起一些线程呗。于是人口普查工作就由中央分解到各个省份,各省又分派到下面的市县,再由市县分派到更下面的街道或乡镇,每个街道和乡镇统计完本辖区内的人口数量后,分别上报给对应的市县,市县再上报给省里,最后由各省上报中央,这才统计完成全国的人口总数。在人口普查的案例中,这些线程不但存在上下级关系,而且下级线程的任务由上级线程分派而来,同时下级线程的处理结果又要交给上级线程汇总。根据任务流的走向,可将整个处理过程划分成下列三个阶段:
1、第一阶段从主线程开始,从上往下逐级分解任务,此时线程总数逐渐变多,每个分线程都先后收到上级线程分派的任务;
2、第二阶段由最下面的基层线程进行具体的任务操作,此时线程总数是不变的;
3、第三阶段从基层线程开始,从下往上逐级汇总任务结果,此时线程总数逐渐变少,最后主线程会收到汇总完成的最终结果;
以上的第一阶段,概括地说叫做“分而治之”;至于第三阶段,可概括称之为“汇聚归一”。为了实现这种分而治之的业务需求,Java7新增了Fork/Join框架用以对症下药。该框架的Fork操作会按照树状结构不断分出下级线程,其对应的是分而治之的过程;而Join操作则把叶子线程的运算结果逐级合并,其对应的是汇聚归一的过程。在这分分合合的过程当中,悄然浮现出Fork/Join框架专用的线程池工具ForkJoinPool,而它正是从ExecutorService派生出来的一个子类。鉴于分治策略的特殊性质,Fork/Join框架并不使用常见的Runnable任务,而改为使用专门的递归任务RecursiveTask,该任务的fork方法实现了分而治之的Fork操作,join方法实现了汇聚归一的Join操作。
举个简单应用的例子,对于一段连续的数列求和,比如对0到99之间的所有整数求和,通常的做法是写个循环语句依次累加。常规的写法显然只有一个主线程在执行加法运算,无法体现多核CPU的性能优势,故而可以尝试将求和操作分而治之,先把整段数列划分为若干个子数列,再对各个子数列分别求和,最后汇总所有子数列的求和结果。采取RecursiveTask实现这种分派求和任务的话,可参见下面的代码例子,注意递归任务的入口由run方法改成了compute方法:

//定义一个求和的递归任务
public class SumTask extends RecursiveTask<Integer> {
	private static final long serialVersionUID = 1L;
	private static final int THRESHOLD = 20; // 不可再切割的元素个数门槛
	private int src[]; // 待求和的整型数组
	private int start; // 待求和的下标起始值
	private int end; // 待求和的下标终止值

	public SumTask(int[] src, int start, int end) {
		this.src = src;
		this.start = start;
		this.end = end;
	}

	// 对指定区间的数组元素求和
	private Integer subTotal() {
		Integer sum = 0;
		for (int i = start; i < end; i++) { // 求数组在指定区间的元素之和
			sum += src[i];
		}
		// 打印求和日志,包括当前线程的名称、起始数值、终止数值、区间之和
		String desc = String.format("%s ∑(%d~%d)=%d", Thread.currentThread().getName(), start, end, sum);
		System.out.println(desc);
		return sum;
	}

	@Override
	protected Integer compute() {
		if ((end - start) <= THRESHOLD) { // 不可再切割了
			return subTotal(); // 对指定区间的数组元素求和
		} else { // 区间过大,还能继续切割
			int middle = (start + end) / 2; // 计算区间中线的位置
			// 创建左边分区的求和任务
			SumTask left = new SumTask(src, start, middle);
			left.fork(); // 把左边求和任务添加到处理队列中
			// 创建右边分区的求和任务
			SumTask right = new SumTask(src, middle, end);
			right.fork(); // 把右边求和任务添加到处理队列中
			// 左边子任务的求和结果加上右边子任务的求和结果,等于当前任务的求和结果
			int sum = left.join() + right.join();
			// 打印求和日志,包括当前线程的名称、起始数值、终止数值、区间之和
			String desc = String.format("%s ∑(%d~%d)=%d", Thread.currentThread().getName(), start, end, sum);
			System.out.println(desc);
			return sum; // 返回本次任务的求和结果
		}
	}
}

然后外部往上面的求和任务输入待求和的整型数组,并调用任务对象的invoke获取执行结果,即可命令内置的线程池启动求和任务。调用代码示例如下:

	// 测试任务自带的线程池框架
	private static void testInternalTask() {
		// 下面初始化从0到99的整型数组
		int[] arr = new int[100];
		for (int i = 0; i < 100; i++) {
			arr[i] = i + 1;
		}
		// 创建一个求和的递归任务
		SumTask task = new SumTask(arr, 0, arr.length);
		try {
			// 执行同步任务,并返回执行结果。任务的invoke方法使用了内部的ForkJoinPool
			Integer result = task.invoke();
			System.out.println("最终计算结果: " + result);
		} catch (Exception e) {
			e.printStackTrace();
		}
	}

 

运行以上的调用代码,输出下列的线程池日志:

ForkJoinPool.commonPool-worker-3: ∑(0~12)=78
ForkJoinPool.commonPool-worker-0: ∑(75~87)=978
ForkJoinPool.commonPool-worker-2: ∑(50~62)=678
ForkJoinPool.commonPool-worker-0: ∑(87~100)=1222
ForkJoinPool.commonPool-worker-3: ∑(12~25)=247
ForkJoinPool.commonPool-worker-3: ∑(0~25)=325
ForkJoinPool.commonPool-worker-0: ∑(75~100)=2200
ForkJoinPool.commonPool-worker-2: ∑(62~75)=897
ForkJoinPool.commonPool-worker-2: ∑(50~75)=1575
ForkJoinPool.commonPool-worker-1: ∑(37~50)=572
ForkJoinPool.commonPool-worker-3: ∑(25~37)=378
ForkJoinPool.commonPool-worker-3: ∑(25~50)=950
ForkJoinPool.commonPool-worker-1: ∑(0~50)=1275
ForkJoinPool.commonPool-worker-2: ∑(50~100)=3775
main: ∑(0~100)=5050
最终计算结果: 5050

 

从日志可见,Fork/Join框架的默认线程池一共启动了四个线程(正好是设备的CPU个数),同时最后一步的统计工作由主线程来完成。

注意到前述的调用代码并未写明Fork/Join框架的线程池工具ForkJoinPool,这是因为递归任务拥有默认的内置线程池,即使外部不指定线程池对象,递归任务也会使用内置线程池进行线程调度。不过默认的线程池无法设置个性化的参数,所以还是建议在代码中显式指定ForkJoinPool线程池,并调用线程池对象的execute/invoke/submit三个方法之一启动递归任务。有关这三个方法的具体用途说明如下:
execute:异步执行指定任务,且无返回值。
invoke:同步执行指定任务,并等待返回值,返回值就是最终的运算结果。
submit:异步执行指定任务,且返回结果任务对象。之后可择机调用结果任务的get方法获取最终的运算结果。
下面是在外部调用时显式指定线程池的求和代码例子:

	// 测试任务以外的线程池框架
	private static void testPoolTask() {
		// 下面初始化从0到99的整型数组
		int[] arr = new int[100];
		for (int i = 0; i < 100; i++) {
			arr[i] = i + 1;
		}
		// 创建一个求和的递归任务
		SumTask task = new SumTask(arr, 0, arr.length);
		// 创建一个用于分而治之的线程池,并发数量为6
		ForkJoinPool pool = new ForkJoinPool(6);
		// 命令线程池执行求和任务,并返回存放执行结果的任务对象
		ForkJoinTask<Integer> taskResult = pool.submit(task);
		try {
			Integer result = taskResult.get(); // 等待执行完成,并获取求和的结果数值
			System.out.println("最终计算结果: " + result);
		} catch (Exception e) {
			e.printStackTrace();
		}
		pool.shutdown(); // 关闭线程池
	}

 

运行修改后的调用代码,输出下列的线程池日志:

ForkJoinPool-1-worker-1: ∑(0~12)=78
ForkJoinPool-1-worker-3: ∑(62~75)=897
ForkJoinPool-1-worker-5: ∑(12~25)=247
ForkJoinPool-1-worker-5: ∑(87~100)=1222
ForkJoinPool-1-worker-5: ∑(25~37)=378
ForkJoinPool-1-worker-5: ∑(37~50)=572
ForkJoinPool-1-worker-5: ∑(25~50)=950
ForkJoinPool-1-worker-1: ∑(0~25)=325
ForkJoinPool-1-worker-4: ∑(50~62)=678
ForkJoinPool-1-worker-4: ∑(50~75)=1575
ForkJoinPool-1-worker-6: ∑(75~87)=978
ForkJoinPool-1-worker-6: ∑(75~100)=2200
ForkJoinPool-1-worker-2: ∑(0~50)=1275
ForkJoinPool-1-worker-3: ∑(50~100)=3775
ForkJoinPool-1-worker-1: ∑(0~100)=5050
最终计算结果: 5050

 

由日志可见,此时的线程池运行情况与刚才相比有两点不同:其一开启的线程数量变多了,这缘于新的线程池对象设置了并发数量为6;其二最后一步的统计工作仍在线程池内部执行,因而减轻了主线程的负担。结论当然是外部显式指定ForkJoinPool的方式更优。



更多Java技术文章参见《Java开发笔记(序)章节目录

posted @ 2019-06-03 21:28  pinlantu  阅读(288)  评论(0编辑  收藏  举报