码迷,mamicode.com
首页 > 其他好文 > 详细

集合操作最简单的高效并行处理

时间:2020-03-14 00:57:19      阅读:75      评论:0      收藏:0      [点我收藏+]

标签:tle   读取   迭代   示例   取数   方法   des   sam   inter   

集合操作最简单的高效并行处理
并行处理是现代开发中必不可少的部分,凡是资源可以相互独立的,都可以运用并行,这样可以充分利用多核CPU的性能,当然,我们也要注意,一定要无阻塞,写出让线程阻塞的代码是每个开发人员的耻辱
还是通过实际场景来说明吧,有个项目,每天晚上要对所有用户进行等级评定,用户信息存储在数据库的User表上,那么怎么在单进程中能够最高效的处理呢?读出用户信息,一个个的串行执行,自然是最差的方式,
一次读出几十条,设置一个最大并行度,按照这个并行度去并行为每个用户执行评定,等这几十条处理完成,再去读取下一批数据,再接着这样处理,这样的方式,可行,但并不是最优,因为等级计算要花费的时间并不固定,可能这一批中某个用户计算的时间很长,其余用户计算的很快,那么,这一批完成最终需要的时间是那个最长的时间,这样累计下来,还是浪费了不少时间
所以,我现在说的方案才是最高效的方式,设置一个最大并行度,按最大并行度设置任务列表,列表中的每个任务不断从数据源中取数据,能取到,就处理,直到取不到为止,最后,等待任务列表中的任务完成,这样的话,就完全避开了上面那个方案的缺点了,也不会有线程阻塞,能够最高效的处理数据

现在,通过两个类,不多的代码,就可以写出高效的并行处理,话不多说,看代码
ParallelHelper:并行帮助器,ForEach方法,为并行处理方法,传入并行度、数据源、以及要进行的处理动作,
AsyncInteration:异步迭代器,盼星星盼月亮,终于盼到微软出了IAsyncEnumerator,这样我们就能设计出无阻塞数据源了,具体代码自己看吧,我觉得我设计的这个类还是比较精妙的(自吹一把)

对于上面的场景,我们可以新建一个AsyncInteration,传入getDataFun动作,在这动作里面,分批查询用户,然后将该AsyncInteration对象作为数据源传入ForEach方法,就完全实现了高效并行处理了
代码已经上传github,还是在老地方,可以直接运行

https://github.com/rhw1111/SampleCodes

集合操作最简单的高效并行处理

标签:tle   读取   迭代   示例   取数   方法   des   sam   inter   

原文地址:https://www.cnblogs.com/rhwleo/p/12489948.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!