一、基本概念
1、并发和并行的区别
并发和并行是指计算机系统中多个任务的执行方式。并发是指两个或多个任务使用交替的方式共享CPU时间,这些任务在同时发生但并不一定在同一时刻完成。并行是指两个或多个任务在同一时刻发生,可以使用多个CPU核心同时处理这些任务。
Python提供了多种并发编程模块,可以帮助实现高效的并发操作。
2、GIL(Global Interpreter Lock)
GIL是Python解释器中的一种机制,它保证同一时刻只有一个线程执行 Python 代码。这意味着Python不能利用多个 CPU 核心来执行任务。但是由于Python的大部分标准库都是用C语言编写的,因此多线程在I/O操作上还是具有优势的。
二、常见的并发编程模块
1、threading
threading模块是Python中用于多线程编程的主要模块,提供了Thread、Lock、Condition、Semaphore、Event等工具类,可以更方便地实现多线程编程。
import threading
def worker():
print('I am working')
threads = []
for i in range(5):
t = threading.Thread(target=worker)
threads.append(t)
t.start()
for t in threads:
t.join()
2、multiprocessing
multiprocessing模块是Python中用于多进程编程的主要模块,使用起来与threading类似。
import multiprocessing
def worker():
print('I am working')
processes = []
for i in range(5):
p = multiprocessing.Process(target=worker)
processes.append(p)
p.start()
for p in processes:
p.join()
3、concurrent.futures
concurrent.futures模块引入了Executor框架,可以简化异步程序的编写过程,支持线程池和进程池两种执行方式。
from concurrent.futures import ThreadPoolExecutor
def worker():
print('I am working')
with ThreadPoolExecutor(max_workers=5) as executor:
for i in range(5):
executor.submit(worker)
三、常用的并发编程技术
1、锁(Lock)
多个线程同时读取和修改同一个变量时,可能会出现数据竞争和互相干扰的问题。这时可以使用锁来避免这些问题。
import threading
count = 0
lock = threading.Lock()
def worker():
global count
with lock:
for i in range(100000):
count += 1
threads = []
for i in range(5):
t = threading.Thread(target=worker)
threads.append(t)
t.start()
for t in threads:
t.join()
print(count)
2、信号量(Semaphore)
信号量类似于锁,但是允许多个线程同时读取和修改同一个变量。
import threading
count = 0
semaphore = threading.Semaphore(5)
def worker():
global count
with semaphore:
for i in range(100000):
count += 1
threads = []
for i in range(10):
t = threading.Thread(target=worker)
threads.append(t)
t.start()
for t in threads:
t.join()
print(count)
3、事件(Event)
事件可以用来协调多个线程的执行顺序,可以在一个线程中发出信号,让其他线程在符合条件时执行。
import threading
event = threading.Event()
def worker():
event.wait()
print('I am working')
threads = []
for i in range(5):
t = threading.Thread(target=worker)
threads.append(t)
t.start()
event.set()
for t in threads:
t.join()
四、总结
Python提供了多种并发编程模块和技术,可以帮助实现高效的并发操作。在选择并发模块和技术时,需要考虑到具体的应用场景和需求,以便选取最优的解决方案。