python多线程详解

前言

①多线程类似于同时执行多个不同程序，多线程运行有如下优点：

• 使用线程可以把占据长时间的程序中的任务放到后台去处理。
• 用户界面可以更加吸引人，比如用户点击了一个按钮去触发某些事件的处理，可以弹出一个进度条来显示处理的进度。
• 程序的运行速度可能加快。
• 在一些等待的任务实现上如用户输入、文件读写和网络收发数据等，线程就比较有用了。在这种情况下我们可以释放一些珍贵的资源如内存占用等等。（在用户等待程序响应结束的同时，后台同时在执行释放内存占用的任务）

②每个独立的线程有一个程序运行的入口、顺序执行序列和程序的出口。但是线程不能够独立执行，必须依存在应用程序中，由应用程序提供多个线程执行控制。

③每个线程都有他自己的一组CPU寄存器，称为线程的上下文，该上下文反映了线程上次运行该线程的CPU寄存器的状态。

④指令指针和堆栈指针寄存器是线程上下文中两个最重要的寄存器，线程总是在进程得到上下文中运行的，这些地址都用于标志拥有线程的进程地址空间中的内存。

• 线程可以被抢占（中断）。
• 在其他线程正在运行时，线程可以暂时搁置（也称为睡眠） -- 这就是线程的退让。

⑤线程可以分为：

• 内核线程：由操作系统内核创建和撤销。
• 用户线程：不需要内核支持而在用户程序中实现的线程。

⑥python3 线程中常用的两个模块为：

• _thread
•  threading (推荐使用)

【注意】

 thread 模块已被废弃。用户可以使用 threading 模块代替。所以，在 Python3 中不能再使用 thread 模块。为了兼容性，Python3 将 thread 重命名为  _thread 

线程和进程

进程和线程简单举例:

①进程：对于操作系统来说，一个任务就是一个进程（Process），比如打开一个浏览器就是启动一个浏览器进程.

②线程：有些进程还不止同时干一件事，比如Word，它可以同时进行打字、拼写检查、打印等事情。在一个进程内部，要同时干多件事，就需要同时运行多个《子任务》，我们把进程内的这些《子任务》称为线程（Thread）。

线程与进程的区别: 

①简而言之，一个程序至少有一个进程；一个进程至少有一个线程。

②进程就是一个应用程序在处理机上的一次执行过程，它是一个动态的概念，而线程是进程中的一部分，进程包含多个线程在运行。

③多线程可以共享全局变量，多进程不能。多线程中，所有子线程的进程号相同；多进程中，不同的子进程进程号不同。

怎样理解线程：

线程可以是一个python程序，也可以是python文件里的一个函数。如果python程序或者函数开始执行了，你也可以说线程开始执行了。

并行和并发：

并行处理：是计算机系统中能同时执行两个或更多个处理的一种计算方法。并行处理可同时工作于同一程序的不同方面。并行处理的主要目的是节省大型和复杂问题的解决时间。

【①同个CPU，同一时间，执行多个线程；②多个CPU，同一时间，执行多个进程（进程与CPU一一对应）】

并发处理：指一个时间段内有几个程序都处于已启动运行到运行完毕之间，且这几个程序都是在同一个处理机(CPU)上运行，但是任意一个时刻点上只有一个程序在处理机(CPU)上运行。

【同个cpu，同一时间间隔（时间窗），执行多个线程】

总结：

python的多线程原理是并发

python多线程：在python中，同个CPU里同一时间点只能运行一个线程；为了数据安全，引入全局解释锁（GIL），相当于一张通行证；没有GIL的线程不进入CPU运行。

python多线程原理：一个程序运行，其他的程序不运行；当运行的线程需要等待的时候（如网络，IO等），该线程被挂起【通行证（GIL）被拿走】等待，其他线程竞争GIL；先拿到的GIL的线程先运行。

【挂起、竞争GIL的操作是由系统调度，不需要我们管；当线程挂起、竞争、另一个线程开始执行，这个过程会消耗一点时间，称为切换时间】

【若切换时间<等待时间，则多线程提高了效率；若切换时间与等待时间差不多，就没有什么必要使用python多线程了】

同步与异步

同步：指一个进程在执行某个请求的时候，若该请求需要一段时间才能返回信息，那么这个进程将会一直等待下去，直到收到返回信息才继续执行下去。

异步：指进程不需要一直等待下去，而是继续执行下面的操作，不管其他进程的状态，当有消息返回时系统会通知进程进行处理，这样可以提高执行效率。

主进程与子进程：

 Threading.Thread封装的函数 == 子进程 ； 其他部分 == 主进程 

子线程其实就是并发（同一时间段内执行多个操作）的任务；

这些任务一般都会写进一个函数func或者类里面，然后两步走，如下代码示例：

thread = Threading.Thread(target=函数func, args=(参数1,参数2))　　　　#用Thread类包（封装）起来

thread.start()　　#start之后就开始跑了

 setDaemon(Ture) ：设置子进程为守护进程 ==  主进程关闭，子进程随即关闭【当你觉得一些线程不重要的时候，可以设置守护线程。】

 Join() ：设置阻塞 == 该子进程执行完才能执行主线程【当一些任务要先于另一些任务完成的时候，可以用】

对于非守护线程，就算主线程执行完了，也要等非守护进程完成才能退出

单线程：

在好些年前的MS-DOS时代，操作系统处理问题都是单任务的。比如我想做听音乐和看电影两件事儿，那么一定要先排一下顺序。

from time import ctime,sleep

def music():
for i in range(2):
print "I was listening to music. %s" %ctime()
sleep(1)

def movie():
for i in range(2):
print "I was at the movies! %s" %ctime()
sleep(5)

if __name__ == '__main__':
music()
movie()
print "all over %s" %ctime()

我们先听了一首音乐，通过for循环来控制音乐的播放了两次，每首音乐播放需要1秒钟，sleep()来控制音乐播放的时长。接着我们又看了一场电影。

每一场电影需要5秒钟，因为太好看了，所以我也通过for循环看两遍。在整个休闲娱乐活动结束后，我通过 print "all over %s" %ctime() 看了一下当前时间，差不多该睡觉了。

运行结果：

>>=========================== RESTART ================================
>>>
I was listening to music. Thu Apr 17 10:47:08 2014
I was listening to music. Thu Apr 17 10:47:09 2014
I was at the movies! Thu Apr 17 10:47:10 2014
I was at the movies! Thu Apr 17 10:47:15 2014
all over Thu Apr 17 10:47:20 2014

其实，music()函数和move()函数更应该被看作是音乐和视频播放器，至于要播放什么歌曲和视频应该由我们使用时决定。

所以对上述代码进行适当改造：

#coding=utf-8
import threading
from time import ctime,sleep

def music(func):
for i in range(2):
print "I was listening to %s. %s" %(func,ctime())
sleep(1)

def move(func):
for i in range(2):
print "I was at the %s! %s" %(func,ctime())
sleep(5)



if __name__ == '__main__':
music(u'爱情买卖')
move(u'阿凡达')

print "all over %s" %ctime()

运行结果：

>>> ======================== RESTART ================================
>>>
I was listening to 爱情买卖. Thu Apr 17 11:48:59 2014
I was listening to 爱情买卖. Thu Apr 17 11:49:00 2014
I was at the 阿凡达! Thu Apr 17 11:49:01 2014
I was at the 阿凡达! Thu Apr 17 11:49:06 2014
all over Thu Apr 17 11:49:11 2014

多线程1：

Python中使用线程有两种方式：函数或者用类来包装线程对象。

1、函数式：调用 _thread  模块中的 start_new_thread() 函数来产生新线程。语法如下：

_thread.start_new_thread (function, args[, kwargs])

参数说明：

• function - 线程函数。
• args - 传递给线程函数的参数，必须是个tuple类型。
• kwargs - 可选参数。

实例：

# -*- encoding:utf-8 -*-
import _thread
import time


# 为线程定义一个函数
def print_time(threadName, delay):
count = 0
while count < 5:
time.sleep(delay)
count += 1
print("%s: %s" % (threadName, time.ctime(time.time())))


# 创建两个线程
try:
_thread.start_new_thread(print_time, ("Thread-1", 2,))
_thread.start_new_thread(print_time, ("Thread-2", 4,))
except:
print("Error: 无法启动线程")

while 1:
pass

运行结果：执行以上程后可以按下 ctrl-c 退出。

threading 线程模块

①Python3 通过两个标准库  _thread  和  threading  提供对线程的支持。

②_thread  提供了低级别的、原始的线程以及一个简单的锁，它相比于  threading 模块的功能还是比较有限的。

③ threading 模块除了包含  _thread  模块中的所有方法外，还提供的其他方法：

• threading.currentThread() ：返回当前的线程变量。
• threading.enumerate() ： 返回一个包含正在运行的线程的列表list。正在运行指线程启动后、结束前，不包括启动前和终止后的线程。
• threading.activeCount() ：返回正在运行的线程数量，与 len(threading.enumerate()) 有相同的结果。

除了使用方法外，线程模块同样提供了Thread类来处理线程，Thread类提供了以下方法：

•  run() ：用以表示线程活动的方法。
•  start() ：启动线程活动。
•  join([time]) ：等待至线程中止。这阻塞调用线程直至线程的join() 方法被调用中止-正常退出或者抛出未处理的异常-或者是可选的超时发生。
•  isAlive() ：返回线程是否活动的。
•  getName() ：返回线程名。
•  setName() ：设置线程名。

使用 threading 线程模块创建线程

我们可以通过直接从 threading.Thread  继承创建一个新的子类，并实例化后调用  start() 方法启动新线程；即它调用了threading线程模块中的Thread类中的 start() 方法：

import threading
import time

exitFlag = 0


class myThread(threading.Thread):
def __init__(self, threadID, name, counter):
threading.Thread.__init__(self)
self.threadID = threadID
self.name = name
self.counter = counter

def run(self):
print("开始线程：" + self.name)
print_time(self.name, self.counter, 5)
print("退出线程：" + self.name)


def print_time(threadName, delay, counter):
while counter:
if exitFlag:
threadName.exit()
time.sleep(delay)
print("%s: %s" % (threadName, time.ctime(time.time())))
counter -= 1


# 创建新线程
thread1 = myThread(1, "Thread-1", 1)
thread2 = myThread(2, "Thread-2", 2)

# 开启新线程
thread1.start()
thread2.start()
thread1.join()
thread2.join()
print("退出主线程")

运行结果：

线程同步

①如果多个线程共同对某个数据修改，则可能出现不可预料的结果，为了保证数据的正确性，需要对多个线程进行同步。

②使用 Thread 对象的  Lock 和  Rlock 可以实现简单的线程同步，这两个对象都有  acquire 方法和  release 方法，对于那些需要每次只允许一个线程操作的数据，可以将其操作放到  acquire 和  release 方法之间。如下：

③多线程的优势在于可以同时运行多个任务（至少感觉起来是这样）。但是当线程需要共享数据时，可能存在数据不同步的问题。

考虑这样一种情况：一个列表里所有元素都是0，线程"set"从后向前把所有元素改成1，而线程"print"负责从前往后读取列表并打印。

那么，可能线程"set"开始改的时候，线程"print"便来打印列表了，输出就成了一半0一半1，这就是数据的不同步。为了避免这种情况，引入了锁的概念。

④锁有两种状态——锁定和未锁定。每当一个线程比如"set"要访问共享数据时，必须先获得锁定；如果已经有别的线程比如"print"获得锁定了，那么就让线程"set"暂停，也就是同步阻塞；等到线程"print"访问完毕，释放锁以后，再让线程"set"继续。

经过这样的处理，打印列表时要么全部输出0，要么全部输出1，不会再出现一半0一半1的尴尬场面。

实例：

import threading
import time

class myThread (threading.Thread):
def __init__(self, threadID, name, counter):
threading.Thread.__init__(self)
self.threadID = threadID
self.name = name
self.counter = counter
def run(self):
print ("开启线程： " + self.name)
# 获取锁，用于线程同步
threadLock.acquire()
print_time(self.name, self.counter, 3)
# 释放锁，开启下一个线程
threadLock.release()

def print_time(threadName, delay, counter):
while counter:
time.sleep(delay)
print ("%s: %s" % (threadName, time.ctime(time.time())))
counter -= 1

threadLock = threading.Lock()
threads = []

# 创建新线程
thread1 = myThread(1, "Thread-1", 1)
thread2 = myThread(2, "Thread-2", 2)

# 开启新线程
thread1.start()
thread2.start()

# 添加线程到线程列表
threads.append(thread1)
threads.append(thread2)

# 等待所有线程完成
for t in threads:
t.join()
print ("退出主线程")

运行结果：

线程优先级队列（ Queue）

Python 的  Queue 模块中提供了同步的、线程安全的队列类，包括FIFO（先入先出)队列Queue，LIFO（后入先出）队列LifoQueue，和优先级队列 PriorityQueue。

这些队列都实现了锁原语，能够在多线程中直接使用，可以使用队列来实现线程间的同步。

Queue 模块中的常用方法：

• Queue.qsize()：返回队列的大小
• Queue.empty()：如果队列为空，返回True,反之False
• Queue.full()：如果队列满了，返回True,反之False
• Queue.full 与 maxsize 大小对应
• Queue.get([block[, timeout]])：获取队列，timeout等待时间
• Queue.get_nowait()：相当Queue.get(False)
• Queue.put(item)：写入队列，timeout等待时间
• Queue.put_nowait(item)：相当Queue.put(item, False)
• Queue.task_done()：在完成一项工作之后，Queue.task_done()函数向任务已经完成的队列发送一个信号
• Queue.join()：实际上意味着等到队列为空，再执行别的操作

实例：

import queue
import threading
import time

exitFlag = 0

class myThread (threading.Thread):
def __init__(self, threadID, name, q):
threading.Thread.__init__(self)
self.threadID = threadID
self.name = name
self.q = q
def run(self):
print ("开启线程：" + self.name)
process_data(self.name, self.q)
print ("退出线程：" + self.name)

def process_data(threadName, q):
while not exitFlag:
queueLock.acquire()
if not workQueue.empty():
data = q.get()
queueLock.release()
print ("%s processing %s" % (threadName, data))
else:
queueLock.release()
time.sleep(1)

threadList = ["Thread-1", "Thread-2", "Thread-3"]
nameList = ["One", "Two", "Three", "Four", "Five"]
queueLock = threading.Lock()
workQueue = queue.Queue(10)
threads = []
threadID = 1

# 创建新线程
for tName in threadList:
thread = myThread(threadID, tName, workQueue)
thread.start()
threads.append(thread)
threadID += 1

# 填充队列
queueLock.acquire()
for word in nameList:
workQueue.put(word)
queueLock.release()

# 等待队列清空
while not workQueue.empty():
pass

# 通知线程是时候退出
exitFlag = 1

# 等待所有线程完成
for t in threads:
t.join()
print ("退出主线程")

运行结果：

多线程2

科技在发展，时代在进步，我们的CPU也越来越快，CPU抱怨，P大点事儿占了我一定的时间，其实我同时干多个活都没问题的；于是，操作系统就进入了多任务时代。我们听着音乐吃着火锅的不在是梦想。

继续对上面的例子进行改造，引入threadring来同时播放音乐和视频：

#coding=utf-8
import threading
from time import ctime,sleep


def music(func):
for i in range(2):
print "I was listening to %s. %s" %(func,ctime())
sleep(1)

def move(func):
for i in range(2):
print "I was at the %s! %s" %(func,ctime())
sleep(5)

threads = []
t1 = threading.Thread(target=music,args=(u'爱情买卖',))
threads.append(t1)
t2 = threading.Thread(target=move,args=(u'阿凡达',))
threads.append(t2)

if __name__ == '__main__':
for t in threads:
t.setDaemon(True)
t.start()

print "all over %s" %ctime()

运行结果：

>>> ========================= RESTART ================================
>>>
I was listening to 爱情买卖. Thu Apr 17 12:51:45 2014
I was at the 阿凡达! Thu Apr 17 12:51:45 2014
all over Thu Apr 17 12:51:45 2014

从执行结果来看，子线程（muisc() 、movie() ）和主线程（print "all over %s" %ctime()）都是同一时间启动，但由于主线程执行完结束，所以导致子线程也终止。 

继续调整程序：

...
if __name__ == '__main__':
for t in threads:
t.setDaemon(True)
t.start()

for t in threads:
t.join()

print "all over %s" %ctime()

我们只对上面的程序加了个join()方法，用于等待线程终止。

join()的作用是，在子线程完成运行之前，这个子线程的父线程将一直被阻塞。

注意:  join()方法的位置是在for循环外的，也就是说必须等待for循环里的两个进程都结束后，才去执行主进程。

运行结果：

>>> ========================= RESTART ================================
>>>
I was listening to 爱情买卖. Thu Apr 17 13:04:11 2014 I was at the 阿凡达! Thu Apr 17 13:04:11 2014
I was listening to 爱情买卖. Thu Apr 17 13:04:12 2014
I was at the 阿凡达! Thu Apr 17 13:04:16 2014
all over Thu Apr 17 13:04:21 2014

从执行结果可看到，music() 和movie() 是同时启动的。

开始时间4分11秒，直到调用主进程为4分22秒，总耗时为10秒。从单线程时减少了2秒，我们可以把music的sleep()的时间调整为4秒。

...
def music(func):
for i in range(2):
print "I was listening to %s. %s" %(func,ctime())
sleep(4)
...

执行结果：

>>> ====================== RESTART ================================
>>>
I was listening to 爱情买卖. Thu Apr 17 13:11:27 2014I was at the 阿凡达! Thu Apr 17 13:11:27 2014

I was listening to 爱情买卖. Thu Apr 17 13:11:31 2014
I was at the 阿凡达! Thu Apr 17 13:11:32 2014
all over Thu Apr 17 13:11:37 2014

子线程启动11分27秒，主线程运行11分37秒。

虽然music每首歌曲从1秒延长到了4 ，但通多程线的方式运行脚本，总的时间没变化。

详细解释：

import threading #首先导入threading 模块，这是使用多线程的前提。

threads = []

t1 = threading.Thread(target=music,args=(u'爱情买卖',))

#创建了threads数组，创建线程t1,使用threading.Thread()方法，在这个方法中调用music方法target=music，args方法对music进行传参。 把创建好的线程t1装到threads数组中。
threads.append(t1)

#接着以同样的方式创建线程t2，并把t2也装到threads数组。　　
t2 = threading.Thread(target=move,args=(u'阿凡达',))
threads.append(t2)

#最后通过for循环遍历数组。（数组被装载了t1和t2两个线程）
for t in threads:

　　t.setDaemon(True)

　　t.start()

#setDaemon(True)将线程声明为守护线程，必须在start() 方法调用之前设置，如果不设置为守护线程程序会被无限挂起。子线程启动后，父线程也继续执行下去，当父线程执行完最后一条语句print "all over %s" %ctime()后，没有等待子线程，直接就退出了，同时子线程也一同结束。
setDaemon()

　　
#开始线程活动。
start()

去期待陌生，去拥抱惊喜。

【文章原创作者：香港云服务器 http://www.558idc.com/ne.html 复制请保留原URL】