码迷,mamicode.com
首页 > 其他好文 > 详细

day10--协成\异步IO\缓存

时间:2017-09-10 23:48:06      阅读:275      评论:0      收藏:0      [点我收藏+]

标签:greenlet   out   gre   步骤   from   之间   线程   加锁   修改   

   协成(Gevent)

    协程,又称微线程,纤程。英文名Coroutine。一句话说明什么是线程:协程是一种用户态的轻量级线程。CPU只认识线程。

    协程拥有自己的寄存器上下文和栈。协程调度切换时,将寄存器上下文和栈保存到其他地方,在切回来的时候,恢复先前保存的寄存器上下文和栈。因此:

    协程能保留上一次调用时的状态(即所有局部状态的一个特定组合),每次过程重入时,就相当于进入上一次调用的状态,换种说法:进入上一次离开时所处逻辑流的位置。

    协程的好处:

    1.无需线程上下文切换的开销;

    2.无需原子操作锁定及同步的开销;

    "原子操作(atomic operation)是不需要synchronized",所谓原子操作是指不会被线程调度机制打断的操作;这种操作一旦开始,就一直运行到结束,中间不会有任何 context switch (切换到另一个线程)。原子操作可以是一个步骤,也可以是多个操作步骤,但是其顺序是不可以被打乱,或者切割掉只执行部分。视作整体是原子性的核心。改变量即可称为简单原子操作。协成是在单线程里面实现的。同一时间只有一个线程。

    3.方便切换控制流,简化编程模型;

    4.高并发+高扩展性+低成本:一个CPU支持上万的协程都不是问题。所以很适合用于高并发处理。

    缺点:

    1.无法利用多核资源:协程的本质是个单线程,它不能同时将单个CPU的多个核用上,协程需要和进程配合才能运行在多CPU上.当然我们日常所编写的绝大部分应用都没有这个必要,除非是cpu密集型应用;Ngix只有一个进程,一个进程里面只有一个线程。

    2.进行阻塞(Blocking)操作(如IO时)会阻塞掉整个程序;

    使用yield实现协程操作例子

import time
import queue

def consumer(name):
    print("--->starting eating baozi...")
    while True:
        new_baozi = yield
        print("[%s] is eating baozi %s" % (name, new_baozi))
        # time.sleep(1)

def producer():
    r = con.__next__()
    r = con2.__next__()
    n = 0
    while n < 5:
        n += 1
        con.send(n)
        con2.send(n)
        print("\033[32;1m[producer]\033[0m is making baozi %s" % n)

if __name__ == __main__:
    con = consumer("c1")
    con2 = consumer("c2")
    p = producer()

    看楼上的例子,我问你这算不算做是协程呢?你说,我他妈哪知道呀,你前面说了一堆废话,但是并没告诉我协程的标准形态呀,我腚眼一想,觉得你说也对,那好,我们先给协程一个标准定义,即符合什么条件就能称之为协程:

    1.必须在只有一个单线程里实现并发;

    2.修改共享数据不需加锁;

    3.用户程序自己保存多个控制流的上下文栈;

    4.一个协成遇到IO操作自动切换到其它协成。

    基于上面这4点定义,我们刚才用yield实现的程并不能算是合格的线程,因为它有一点功能没实现,哪一点呢?

    Greenlet

    greenlet是一个用C实现的协程模块,相比与python自带的yield,它可以使你在任意函数之间随意切换,而不需把这个函数先声明为generator

from greenlet import greenlet

def test1():
    print(12)
    gr2.switch()
    print(34)
    gr2.switch()

def test2():
    print(56)
    gr1.switch()
    print(78)

gr1 = greenlet(test1)                 #启动一个协成
gr2 = greenlet(test2)
gr1.switch()                          #切换,手动切换

    上面代码执行结果如下:

12
56
34
78

    上面代码中,greenlet模块,greenlet类中,主要实现不同方法之间的切换,让程序能上下文进行切换,switch()转换gr1.switch()

    协成是遇到IO操作进行切换。做事需要花费时间过长,比如从数据库获取数据等等。协成也是串行的,只是在IO操作之间进行切换。来回在IO操作之间切换。

    Gevent是自动切换,封装了greenlet,greenlet还是手动切换,通过switch()手动切换。而Gevent就是自动切换。   

   Gevent

    Gevent 是一个第三方库,可以轻松通过gevent实现并发同步或异步编程,在gevent中用到的主要模式是Greenlet, 它是以C扩展模块形式接入Python的轻量级协程。 Greenlet全部运行在主程序操作系统进程的内部,但它们被协作式地调度。   

    下面我们来看一个协成的实例,如下:

‘‘‘协成:微线程,主要作用是遇到IO操作就切换,程序本身就串行的,主要是在各个IO直接来回切换,节省时间‘‘‘
import gevent

def fun():
    print("In the function fun!!!\n")                                    #(1)
    gevent.sleep(2)                                                      #IO阻塞,也可以是具体执行一个操作,这里直接等待
    print("\033[31mCome back to the function of fun again!\033[0m\n")    #(6)

def inner():
    ‘‘‘定义一个函数,包含IO阻塞‘‘‘
    print("Running in the function of inner!!!\n")                        #(2)
    gevent.sleep(1)                                                       #触发切换,遇到gevent.sleep()触发切换,执行后面代码。
    print("\033[32mRunning back to the function of inner\033[0m\n")       #(5)

def outer():
    ‘‘‘定义一个函数,也包含IO阻塞‘‘‘
    print("周末去搞基把,带上%s\n" %"alex")                                 #(3)
    gevent.sleep(0.5)
    print("不好吧,%s是人妖,不好那口,还是带上配齐把!!!"  %"alex")          #(4)

gevent.joinall([
    gevent.spawn(fun),
    gevent.spawn(inner),
    gevent.spawn(outer),
])

    上面代码执行结果如下:

In the function fun!!!

Running in the function of inner!!!

周末去搞基把,带上alex

不好吧,alex是人妖,不好那口,还是带上配齐把!!!
Running back to the function of inner

Come back to the function of fun again!

   上面程序中,使用的是协成,我们可以看出,协成遇到IO操作是阻塞的,协成是在串行情况下实现了多并发或异步的效果,整个程序串行执行的话需要至少花费3.5秒,而使用协成花费:2.0312681198120117,可见如果有IO阻塞,协成能够有效降低程序运行的时间。

    gevent.spawn(outer,"alex","wupeiqi"),gevent.spawn()里面加参数的情况,第一个是函数名,后面加引号是参数。让协成等待的方法是gevent.sleep(time),让协成等待,gevent.sleep(),而不是time.sleep(),如果是time.sleep()是不会切换的,gevent.sleep()才会切换。如果是time.sleep(2)秒,是不会切换的,程序将变成串行。执行最长的IO。

    如何判断是IO操作,这个很重要,因为我在自己尝试的时候,time.sleep(2)是不算IO操作的。不会发生切换。

    上面我们使用gevent.sleep()来判断IO操作切换,使用time.sleep()是不行的,程序还是串行的,如何让程序知道time.sleep()是IO操作呢?要打上一个补丁,from gevent import monkey  并且声明:monkey.patch_all(),这样程序就会自动检测IO操作,程序就变成串行的了,如下所示:

‘‘‘协成:微线程,主要作用是遇到IO操作就切换,程序本身就串行的,主要是在各个IO直接来回切换,节省时间‘‘‘
import gevent,time
from gevent import monkey

monkey.patch_all()                                                     #把当前程序的所有的IO操作给单独的做上标记
def fun():
    print("In the function fun!!!\n")
    time.sleep(2)                                                      #IO阻塞,也可以是具体执行一个操作,这里直接等待
    print("\033[31mCome back to the function of fun again!\033[0m\n")

def inner():
    ‘‘‘定义一个函数,包含IO阻塞‘‘‘
    print("Running in the function of inner!!!\n")
    time.sleep(1)
    print("\033[32mRunning back to the function of inner\033[0m\n")

def outer(name,arg):
    ‘‘‘定义一个函数,也包含IO阻塞‘‘‘
    print("周末去搞基把,带上%s\n" %name)
    time.sleep(0.5)
    print("不好吧,%s是人妖,不好那口,还是带上%s!!!"  %(name,arg))

start_time = time.time()
gevent.joinall([
    gevent.spawn(fun),
    gevent.spawn(inner),
    gevent.spawn(outer,"alex","wupeiqi"),
])
end_time = time.time()
print("花费时间:%s" %(end_time -start_time))

    上面程序的执行结果如下:

In the function fun!!!

Running in the function of inner!!!

周末去搞基把,带上alex

不好吧,alex是人妖,不好那口,还是带上wupeiqi!!!
Running back to the function of inner

Come back to the function of fun again!

花费时间:2.0013585090637207

    可见,打上补丁之后,from gevent import monkey,声明monkey.patch_all()就能让程序自动检测哪些是IO操作,不需要自己注明。

day10--协成\异步IO\缓存

标签:greenlet   out   gre   步骤   from   之间   线程   加锁   修改   

原文地址:http://www.cnblogs.com/gengcx/p/7502813.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!