码迷,mamicode.com
首页 > 编程语言 > 详细

python多线程

时间:2016-11-18 23:27:00      阅读:505      评论:0      收藏:0      [点我收藏+]

标签:error   character   实验   统计   target   with   cte   www   运算   

http://blog.csdn.net/pipisorry/article/details/45306973

CPU-bound(计算密集型) 和I/O bound(I/O密集型)

I/O bound 指的是系统的CPU效能相对硬盘/内存的效能要好很多,此时,系统运作,大部分的状况是 CPU 在等 I/O (硬盘/内存) 的读/写,此时 CPU Loading 不高。
CPU bound 指的是系统的 硬盘/内存 效能 相对 CPU 的效能 要好很多,此时,系统运作,大部分的状况是 CPU Loading 100%,CPU 要读/写 I/O (硬盘/内存),I/O在很短的时间就可以完成,而 CPU 还有许多运算要处理,CPU Loading 很高。
计算密集型 (CPU-bound)
在多重程序系统中,大部份时间用来做计算、逻辑判断等CPU动作的程序称之CPU bound。例如一个计算圆周率至小数点一千位以下的程序,在执行的过程当中绝大部份时间用在三角函数和开根号的计算,便是属于CPU bound的程序。
It is because the performance characteristic of most protocol codec implementations is CPU-bound, which is the same with I/O processor threads.
根据以上分析,可以认为通常情况下,大部分程序针对某个特定的性能metric而言都可分为CPU bound 和 I/O bound两类。
CPU bound的程序一般而言CPU占用率相当高。这可能是因为任务本身不太需要访问I/O设备,也可能是因为程序是多线程实现因此屏蔽掉了等待I/O的时间。
而I/O bound的程序一般在达到性能极限时,CPU占用率仍然较低。这可能是因为任务本身需要大量I/O操作,而pipeline做得不是很好,没有充分利用处理器能力;还可能是因为数据局部性不是很好,导致较多page error,结果产生了大量disk I/O的开销。可能性很多。

如何确定是CPU bound 还是 I/O bound

一般用top先看达到性能极限时的CPU占用率,然后用sar,iostat等获得具体的i/o操作或是page error的统计数据,如果还需要更精准的信息,例如确定具体是哪些代码产生了这些开销,则要用到oprofile或vtune了。
通常I/O bound的程序包括web server的静态页面访问,或者是基于数据库的一些应用等。而大量计算型的应用都属于CPU bound吧。

在一个系统里CPU bound的程序和I/O bound的程序一起run会怎么样?

应该是CPU bound的程序对CPU的占用率会非常不公平地接近100%吧。因为I/O bound的程序可能一个时间片还没用完就block了,放弃CPU了。而CPU bound的程序因此而得到了很多调度机会并且每次都能把CPU run完。故在这样的系统里要给I/O bound的程序更高的优先级使其能被调度得更多些。

皮皮Blog



multiprocessing.dummy.Pool

用法示例

from multiprocessing.dummy import Pool
pool=Pool(10)#10代码线程数

def run(num):
    print num**2
num_list=[1,2,3,4,5,6,7,8,9,10]
pool.map(run,num_list) #运行
pool.close()#关闭线程
pool.join()
简单高效

皮皮Blog



[Python中单线程、多线程和多进程的效率对比实验]

[Python几种并发实现方案的性能比较]

[Parallelism and Serialization]


PicklingError:python 进程池3

Pickle issue with LdaMulticore

from:http://blog.csdn.net/pipisorry/article/details/45306973

ref:Python多线程 VS JAVA多线程


python多线程

标签:error   character   实验   统计   target   with   cte   www   运算   

原文地址:http://blog.csdn.net/pipisorry/article/details/45306973

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!