码迷,mamicode.com
首页 > 编程语言 > 详细

Python菜鸟学习手册15----多线程

时间:2016-04-21 01:42:53      阅读:274      评论:0      收藏:0      [点我收藏+]

标签:

线程与进程

程序相当于工厂,进程相当于车间,线程相当于工人。在一个工厂中往往有多个车间,在一个车间上有多个工人并行工作。
同车间上的工人共享房间,但是有些房间一次只能容纳一个人,比如厕所。在厕所里有人的时候,其他人不能进入。一个防止他人进入的简单方法,就是门口加一把锁。先到的人锁上门,后到的人看到上锁,就在门口排队,等锁打开再进去。这就叫”互斥锁”(Mutual exclusion,缩写 Mutex)。
还有些房间,可以同时容纳n个人,如果人数大于n,多出来的人只能在外面等着。这时的解决方法,就是在门口挂n把钥匙。进去的人就取一把钥匙,出来时再把钥匙挂回原处。后到的人发现钥匙架空了,就知道必须在门口排队等着了。这种做法叫做”信号量”(Semaphore)。
不难看出,mutex是semaphore的一种特殊情况(n=1时)。也就是说,完全可以用后者替代前者。但是,因为mutex较为简单,且效率高,所以在必须保证资源独占的情况下,还是采用这种设计。

线程基础

线程状态

线程有5种状态,状态转换的过程如下图所示:
技术分享

线程同步(锁)

多线程的优势在于可以同时运行多个任务(至少感觉起来是这样)。但是当线程需要共享数据时,可能存在数据不同步的问题。考虑这样一种情况:一个列表里所有元素都是0,线程”set”从后向前把所有元素改成1,而线程”print”负责从前往后读取列表并打印。那么,可能线程”set”开始改的时候,线程”print”便来打印列表了,输出就成了一半0一半1,这就是数据的不同步。为了避免这种情况,引入了锁的概念。

锁有两种状态——锁定和未锁定。每当一个线程比如”set”要访问共享数据时,必须先获得锁定;如果已经有别的线程比如”print”获得锁定了,那么就让线程”set”暂停,也就是同步阻塞;等到线程”print”访问完毕,释放锁以后,再让线程”set”继续。经过这样的处理,打印列表时要么全部输出0,要么全部输出1,不会再出现一半0一半1的尴尬场面。

线程与锁的交互如下图所示:
技术分享

线程通信(条件变量)

然而还有另外一种尴尬的情况:列表并不是一开始就有的;而是通过线程”create”创建的。如果”set”或者”print” 在”create”还没有运行的时候就访问列表,将会出现一个异常。使用锁可以解决这个问题,但是”set”和”print”将需要一个无限循环——他们不知道”create”什么时候会运行,让”create”在运行后通知”set”和”print”显然是一个更好的解决方案。于是,引入了条件变量。

条件变量允许线程比如”set”和”print”在条件不满足的时候(列表为None时)等待,等到条件满足的时候(列表已经创建)发出一个通知,告诉”set” 和”print”条件已经有了,你们该起床干活了;然后”set”和”print”才继续运行。

线程与条件变量的交互如下图所示:
技术分享
技术分享

线程运行和阻塞的状态转换

最后看看线程运行和阻塞状态的转换。
技术分享
阻塞有三种情况:
同步阻塞是指处于竞争锁定的状态,线程请求锁定时将进入这个状态,一旦成功获得锁定又恢复到运行状态;

等待阻塞是指等待其他线程通知的状态,线程获得条件锁定后,调用“等待”将进入这个状态,一旦其他线程发出通知,线程将进入同步阻塞状态,再次竞争条件锁定;
而其他阻塞是指调用time.sleep()、anotherthread.join()或等待IO时的阻塞,这个状态下线程不会释放已获得的锁定。

python的多线程

_thread

Python通过两个标准库_thread(python2是thread)和threading提供对线程的支持。_thread提供了低级别的、原始的线程以及一个简单的锁。

import _thread
import time

# 一个用于在线程中执行的函数
def foo(arg):
    for i in range(100):
        print(arg,i)
        time.sleep(1)
    print(arg)

    # 结束当前线程
    # 这个方法与_thread.exit_thread()等价
    _thread.exit() # 当func返回时,线程同样会结束

# 启动一个线程,线程立即开始运行
# 这个方法与_thread.start_new_thread()等价
# 第一个参数是方法,第二个参数是方法的参数
_thread.start_new(foo,("线程1",)) # 方法没有参数时需要传入空tuple

# 创建一个锁(LockType,不能直接实例化)
# 这个方法与_thread.allocate_lock()等价
lock = _thread.allocate()

# 判断锁是锁定状态还是释放状态
print (lock.locked())              #输出为False

# 锁通常用于控制对共享资源的访问
count = 0

# 获得锁,成功获得锁定后返回True
# 可选的timeout参数不填时将一直阻塞直到获得锁定
# 否则超时后将返回False
if lock.acquire():
    print (lock.locked())         #输出为True

    # 释放锁
    lock.release()
# _thread模块提供的线程都将在主线程结束后同时结束,
time.sleep(4)

threading

threading基于Java的线程模型设计。锁(Lock)和条件变量(Condition)在Java中是对象的基本行为(每一个对象都自带了锁和条件变量),而在Python中则是独立的对象。Python Thread提供了Java Thread的行为的子集;没有优先级、线程组,线程也不能被停止、暂停、恢复、中断。Java Thread中的部分被Python实现了的静态方法在threading中以模块方法的形式提供。

threading 模块提供的常用方法:
threading.currentThread(): 返回当前的线程变量。
threading.enumerate(): 返回一个包含正在运行的线程的list。正在运行指线程启动后、结束前,不包括启动前和终止后的线程。
threading.activeCount(): 返回正在运行的线程数量,与len(threading.enumerate())有相同的结果。

threading模块提供的类:
Thread, Lock, Rlock, Condition, [Bounded]Semaphore, Event, Timer, local.

Thread

Thread是线程类,与Java类似,有两种使用方法,直接传入要运行的方法或从Thread继承并覆盖run():

#coding=utf-8
__author__ = ‘a359680405‘
# encoding: UTF-8
import threading

# 方法1:将要执行的方法作为参数传给Thread的构造方法
def func():
    print (‘func() passed to Thread‘)

t = threading.Thread(target=func)
t.start()

# 方法2:从Thread继承,并重写run()
class MyThread(threading.Thread):
    def run(self):
        print (‘MyThread extended from Thread‘)

t = MyThread()
t.start()

构造方法:
Thread(group=None, target=None, name=None, args=(), kwargs={})
group: 线程组,目前还没有实现,库引用中提示必须是None;
target: 要执行的方法;
name: 线程名;
args/kwargs: 要传入方法的参数。

实例方法:
isAlive(): 返回线程是否在运行。正在运行指启动后、终止前。
get/setName(name): 获取/设置线程名。
is/setDaemon(bool): 获取/设置是否守护线程。初始值从创建该线程的线程继承。当没有非守护线程仍在运行时,程序将终止。
start(): 启动线程。
join([timeout]): 阻塞当前上下文环境的线程,直到调用此方法的线程终止或到达指定的timeout(可选参数)。

from threading import Thread
import time

def foo(arg):
    for i in range(100):
        print(arg,i)
        time.sleep(1)
    print(arg)

t1=Thread(target=foo,args=("线程1",))
t2=Thread(target=foo,args=("线程2",))

print(t1.getName())     #获取线程名
t2.setName("线程二")    #设置线程名
print(t1.isDaemon())    #查看是否是守护线程。默认不是守护线程
t1.setDaemon(True)     #将t1设为守护线程,则在主线程执行完后(输出end后),即会结束
t1.start()
t1.join(5)              #此时主线程停止执行,t1线程执行5秒

print("end")

Lock

Lock(指令锁)是可用的最低级的同步指令。Lock处于锁定状态时,不被特定的线程拥有。Lock包含两种状态——锁定和非锁定,以及两个基本的方法。

可以认为Lock有一个锁定池,当线程请求锁定时,将线程至于池中,直到获得锁定后出池。池中的线程处于状态图中的同步阻塞状态。

构造方法:
Lock()

实例方法:
acquire([timeout]): 使线程进入同步阻塞状态,尝试获得锁定。
release(): 释放锁。使用前线程必须已获得锁定,否则将抛出异常。

from threading import Thread
import threading
import time
import random
num=0

def foo(lock):
    time.sleep(random.randrange(0,3))
    global num
    # 调用acquire([timeout])时,线程将一直阻塞,
    # 直到获得锁定或者直到timeout秒后(timeout参数可选)。
    # 返回是否获得锁。
    lock.acquire()     #独占CPU
    print(num)
    num+=1
    lock.release()     #一定要记得释放锁
    lock=threading.Lock()

lock=threading.Lock()
for i in range(100):
    p1=Thread(target=foo,args=(lock,))
    p1.start()

从小到大输出1~99

RLock

RLock(可重入锁)是一个可以被同一个线程请求多次的同步指令。RLock使用了“拥有的线程”和“递归等级”的概念,处于锁定状态时,RLock被某个线程拥有。拥有RLock的线程可以再次调用acquire(),释放锁时需要调用release()相同次数。

可以认为RLock包含一个锁定池和一个初始值为0的计数器,每次成功调用 acquire()/release(),计数器将+1/-1,为0时锁处于未锁定状态。

构造方法:
RLock()

实例方法
acquire([timeout])/release(): 跟Lock差不多。

from threading import Thread
import threading
import time
import random
num=0

def foo(rlock):
    time.sleep(random.randrange(0,3))
    global num
    #第1次请求锁
    rlock.acquire()
    print("test")
    #第2次请求锁
    rlock.acquire()
    print(num)
    #第1次释放锁
    rlock.release()
    num+=1
    #第2次释放锁
    rlock.release()                  
    lock=threading.RLock()           
    lock1=threading.Lock()

rlock=threading.RLock()
for i in range(100):
    p1=Thread(target=foo,args=(rlock,))
    p1.start()

在继承的threading.Thread中使用锁

#coding=utf-8
__author__ = ‘a359680405‘
#coding=utf-8
#!/usr/bin/python

import threading
import time

class myThread (threading.Thread):
    def __init__(self, threadID, name, counter):
        threading.Thread.__init__(self)
        self.threadID = threadID
        self.name = name
        self.counter = counter
    def run(self):
        print ("Starting " + self.name)
       # 获得锁,成功获得锁定后返回True
       # 可选的timeout参数不填时将一直阻塞直到获得锁定
       # 否则超时后将返回False
        threadLock.acquire()
        print_time(self.name, self.counter, 3)
        # 释放锁
        threadLock.release()

def print_time(threadName, delay, counter):
    while counter:
        time.sleep(delay)
        print ("%s: %s" % (threadName, time.ctime(time.time())))
        counter -= 1

threadLock = threading.Lock()
threads = []

# 创建新线程
thread1 = myThread(1, "Thread-1", 1)
thread2 = myThread(2, "Thread-2", 2)

# 开启新线程
thread1.start()
thread2.start()

# 添加线程到线程列表
threads.append(thread1)
threads.append(thread2)

# 等待所有线程完成
for t in threads:
    t.join()
print ("Exiting Main Thread")

输出为
Starting Thread-1
Starting Thread-2
Thread-1: Thu Apr 21 00:14:11 2016
Thread-1: Thu Apr 21 00:14:12 2016
Thread-1: Thu Apr 21 00:14:13 2016
Thread-2: Thu Apr 21 00:14:15 2016
Thread-2: Thu Apr 21 00:14:17 2016
Thread-2: Thu Apr 21 00:14:19 2016
Exiting Main Thread

小提示

  1. 相同进程中的不同线程可以同时在不同的CPU中运行,但是由于GIL( 全局解释器锁)的存在,python不具有这个能力。python一个进程同时只能执行一个线程。因此,在python开发时,计算密集型使用多进程,IO密集型使用多线程。如果计算密集的同时又有IO密集,则多线程多进程同时使用。
  2. 在执行一些sleep/read/write/recv/send这些会导致阻塞的函数时,当前线程会主动放弃GIL,然后调用相应的系统API,完成后再重新申请GIL。因此,GIL也并不是导致Python的多线程完全没用,在一些IO等待的场合,Python多线程还是发挥了作用,当然如果多线程都是用于CPU密集的代码,那多线程的执行效率就明显会比单线程的低。
  3. 进程的开销通常比线程昂贵, 因为线程自动共享内存地址空间和文件描述符. 意味着, 创建进程比创建线程会花费更多

本文地址:http://blog.csdn.net/a359680405/article/details/51205212

Python菜鸟学习手册15----多线程

标签:

原文地址:http://blog.csdn.net/a359680405/article/details/51205212

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!