标签:greenlet out gre 步骤 from 之间 线程 加锁 修改
协成(Gevent)
协程,又称微线程,纤程。英文名Coroutine。一句话说明什么是线程:协程是一种用户态的轻量级线程。CPU只认识线程。
协程拥有自己的寄存器上下文和栈。协程调度切换时,将寄存器上下文和栈保存到其他地方,在切回来的时候,恢复先前保存的寄存器上下文和栈。因此:
协程能保留上一次调用时的状态(即所有局部状态的一个特定组合),每次过程重入时,就相当于进入上一次调用的状态,换种说法:进入上一次离开时所处逻辑流的位置。
协程的好处:
1.无需线程上下文切换的开销;
2.无需原子操作锁定及同步的开销;
"原子操作(atomic operation)是不需要synchronized",所谓原子操作是指不会被线程调度机制打断的操作;这种操作一旦开始,就一直运行到结束,中间不会有任何 context switch (切换到另一个线程)。原子操作可以是一个步骤,也可以是多个操作步骤,但是其顺序是不可以被打乱,或者切割掉只执行部分。视作整体是原子性的核心。改变量即可称为简单原子操作。协成是在单线程里面实现的。同一时间只有一个线程。
3.方便切换控制流,简化编程模型;
4.高并发+高扩展性+低成本:一个CPU支持上万的协程都不是问题。所以很适合用于高并发处理。
缺点:
1.无法利用多核资源:协程的本质是个单线程,它不能同时将单个CPU的多个核用上,协程需要和进程配合才能运行在多CPU上.当然我们日常所编写的绝大部分应用都没有这个必要,除非是cpu密集型应用;Ngix只有一个进程,一个进程里面只有一个线程。
2.进行阻塞(Blocking)操作(如IO时)会阻塞掉整个程序;
使用yield实现协程操作例子
import time import queue def consumer(name): print("--->starting eating baozi...") while True: new_baozi = yield print("[%s] is eating baozi %s" % (name, new_baozi)) # time.sleep(1) def producer(): r = con.__next__() r = con2.__next__() n = 0 while n < 5: n += 1 con.send(n) con2.send(n) print("\033[32;1m[producer]\033[0m is making baozi %s" % n) if __name__ == ‘__main__‘: con = consumer("c1") con2 = consumer("c2") p = producer()
看楼上的例子,我问你这算不算做是协程呢?你说,我他妈哪知道呀,你前面说了一堆废话,但是并没告诉我协程的标准形态呀,我腚眼一想,觉得你说也对,那好,我们先给协程一个标准定义,即符合什么条件就能称之为协程:
1.必须在只有一个单线程里实现并发;
2.修改共享数据不需加锁;
3.用户程序自己保存多个控制流的上下文栈;
4.一个协成遇到IO操作自动切换到其它协成。
基于上面这4点定义,我们刚才用yield实现的程并不能算是合格的线程,因为它有一点功能没实现,哪一点呢?
Greenlet
greenlet是一个用C实现的协程模块,相比与python自带的yield,它可以使你在任意函数之间随意切换,而不需把这个函数先声明为generator
from greenlet import greenlet def test1(): print(12) gr2.switch() print(34) gr2.switch() def test2(): print(56) gr1.switch() print(78) gr1 = greenlet(test1) #启动一个协成 gr2 = greenlet(test2) gr1.switch() #切换,手动切换
上面代码执行结果如下:
12 56 34 78
上面代码中,greenlet模块,greenlet类中,主要实现不同方法之间的切换,让程序能上下文进行切换,switch()转换。gr1.switch()。
协成是遇到IO操作进行切换。做事需要花费时间过长,比如从数据库获取数据等等。协成也是串行的,只是在IO操作之间进行切换。来回在IO操作之间切换。
Gevent是自动切换,封装了greenlet,greenlet还是手动切换,通过switch()手动切换。而Gevent就是自动切换。
Gevent
Gevent 是一个第三方库,可以轻松通过gevent实现并发同步或异步编程,在gevent中用到的主要模式是Greenlet, 它是以C扩展模块形式接入Python的轻量级协程。 Greenlet全部运行在主程序操作系统进程的内部,但它们被协作式地调度。
下面我们来看一个协成的实例,如下:
‘‘‘协成:微线程,主要作用是遇到IO操作就切换,程序本身就串行的,主要是在各个IO直接来回切换,节省时间‘‘‘ import gevent def fun(): print("In the function fun!!!\n") #(1) gevent.sleep(2) #IO阻塞,也可以是具体执行一个操作,这里直接等待 print("\033[31mCome back to the function of fun again!\033[0m\n") #(6) def inner(): ‘‘‘定义一个函数,包含IO阻塞‘‘‘ print("Running in the function of inner!!!\n") #(2) gevent.sleep(1) #触发切换,遇到gevent.sleep()触发切换,执行后面代码。 print("\033[32mRunning back to the function of inner\033[0m\n") #(5) def outer(): ‘‘‘定义一个函数,也包含IO阻塞‘‘‘ print("周末去搞基把,带上%s\n" %"alex") #(3) gevent.sleep(0.5) print("不好吧,%s是人妖,不好那口,还是带上配齐把!!!" %"alex") #(4) gevent.joinall([ gevent.spawn(fun), gevent.spawn(inner), gevent.spawn(outer), ])
上面代码执行结果如下:
In the function fun!!! Running in the function of inner!!! 周末去搞基把,带上alex 不好吧,alex是人妖,不好那口,还是带上配齐把!!! Running back to the function of inner Come back to the function of fun again!
上面程序中,使用的是协成,我们可以看出,协成遇到IO操作是阻塞的,协成是在串行情况下实现了多并发或异步的效果,整个程序串行执行的话需要至少花费3.5秒,而使用协成花费:2.0312681198120117,可见如果有IO阻塞,协成能够有效降低程序运行的时间。
gevent.spawn(outer,"alex","wupeiqi"),gevent.spawn()里面加参数的情况,第一个是函数名,后面加引号是参数。让协成等待的方法是gevent.sleep(time),让协成等待,gevent.sleep(),而不是time.sleep(),如果是time.sleep()是不会切换的,gevent.sleep()才会切换。如果是time.sleep(2)秒,是不会切换的,程序将变成串行。执行最长的IO。
如何判断是IO操作,这个很重要,因为我在自己尝试的时候,time.sleep(2)是不算IO操作的。不会发生切换。
上面我们使用gevent.sleep()来判断IO操作切换,使用time.sleep()是不行的,程序还是串行的,如何让程序知道time.sleep()是IO操作呢?要打上一个补丁,from gevent import monkey 并且声明:monkey.patch_all(),这样程序就会自动检测IO操作,程序就变成串行的了,如下所示:
‘‘‘协成:微线程,主要作用是遇到IO操作就切换,程序本身就串行的,主要是在各个IO直接来回切换,节省时间‘‘‘ import gevent,time from gevent import monkey monkey.patch_all() #把当前程序的所有的IO操作给单独的做上标记 def fun(): print("In the function fun!!!\n") time.sleep(2) #IO阻塞,也可以是具体执行一个操作,这里直接等待 print("\033[31mCome back to the function of fun again!\033[0m\n") def inner(): ‘‘‘定义一个函数,包含IO阻塞‘‘‘ print("Running in the function of inner!!!\n") time.sleep(1) print("\033[32mRunning back to the function of inner\033[0m\n") def outer(name,arg): ‘‘‘定义一个函数,也包含IO阻塞‘‘‘ print("周末去搞基把,带上%s\n" %name) time.sleep(0.5) print("不好吧,%s是人妖,不好那口,还是带上%s!!!" %(name,arg)) start_time = time.time() gevent.joinall([ gevent.spawn(fun), gevent.spawn(inner), gevent.spawn(outer,"alex","wupeiqi"), ]) end_time = time.time() print("花费时间:%s" %(end_time -start_time))
上面程序的执行结果如下:
In the function fun!!! Running in the function of inner!!! 周末去搞基把,带上alex 不好吧,alex是人妖,不好那口,还是带上wupeiqi!!! Running back to the function of inner Come back to the function of fun again! 花费时间:2.0013585090637207
可见,打上补丁之后,from gevent import monkey,声明monkey.patch_all()就能让程序自动检测哪些是IO操作,不需要自己注明。
标签:greenlet out gre 步骤 from 之间 线程 加锁 修改
原文地址:http://www.cnblogs.com/gengcx/p/7502813.html