您的位置:

使用Python 2实现高效并发操作

一、基本概念

1、并发和并行的区别

并发和并行是指计算机系统中多个任务的执行方式。并发是指两个或多个任务使用交替的方式共享CPU时间,这些任务在同时发生但并不一定在同一时刻完成。并行是指两个或多个任务在同一时刻发生,可以使用多个CPU核心同时处理这些任务。

Python提供了多种并发编程模块,可以帮助实现高效的并发操作。

2、GIL(Global Interpreter Lock)

GIL是Python解释器中的一种机制,它保证同一时刻只有一个线程执行 Python 代码。这意味着Python不能利用多个 CPU 核心来执行任务。但是由于Python的大部分标准库都是用C语言编写的,因此多线程在I/O操作上还是具有优势的。

二、常见的并发编程模块

1、threading

threading模块是Python中用于多线程编程的主要模块,提供了Thread、Lock、Condition、Semaphore、Event等工具类,可以更方便地实现多线程编程。


import threading

def worker():
    print('I am working')

threads = []
for i in range(5):
    t = threading.Thread(target=worker)
    threads.append(t)
    t.start()

for t in threads:
    t.join()

2、multiprocessing

multiprocessing模块是Python中用于多进程编程的主要模块,使用起来与threading类似。


import multiprocessing

def worker():
    print('I am working')

processes = []
for i in range(5):
    p = multiprocessing.Process(target=worker)
    processes.append(p)
    p.start()

for p in processes:
    p.join()

3、concurrent.futures

concurrent.futures模块引入了Executor框架,可以简化异步程序的编写过程,支持线程池和进程池两种执行方式。


from concurrent.futures import ThreadPoolExecutor

def worker():
    print('I am working')

with ThreadPoolExecutor(max_workers=5) as executor:
    for i in range(5):
        executor.submit(worker)

三、常用的并发编程技术

1、锁(Lock)

多个线程同时读取和修改同一个变量时,可能会出现数据竞争和互相干扰的问题。这时可以使用锁来避免这些问题。


import threading

count = 0
lock = threading.Lock()

def worker():
    global count
    with lock:
        for i in range(100000):
            count += 1

threads = []
for i in range(5):
    t = threading.Thread(target=worker)
    threads.append(t)
    t.start()

for t in threads:
    t.join()

print(count)

2、信号量(Semaphore)

信号量类似于锁,但是允许多个线程同时读取和修改同一个变量。


import threading

count = 0
semaphore = threading.Semaphore(5)

def worker():
    global count
    with semaphore:
        for i in range(100000):
            count += 1

threads = []
for i in range(10):
    t = threading.Thread(target=worker)
    threads.append(t)
    t.start()

for t in threads:
    t.join()

print(count)

3、事件(Event)

事件可以用来协调多个线程的执行顺序,可以在一个线程中发出信号,让其他线程在符合条件时执行。


import threading

event = threading.Event()

def worker():
    event.wait()
    print('I am working')

threads = []
for i in range(5):
    t = threading.Thread(target=worker)
    threads.append(t)
    t.start()

event.set()

for t in threads:
    t.join()

四、总结

Python提供了多种并发编程模块和技术,可以帮助实现高效的并发操作。在选择并发模块和技术时,需要考虑到具体的应用场景和需求,以便选取最优的解决方案。