Python进程和线程——多进程
Python 的多进程编程主要指通过 multiprocessing
模块实现,其核心价值在于能够绕过全局解释器锁(GIL),实现真正的并行计算,特别适合处理 CPU 密集型任务
Python 通过 multiprocessing.Process
类创建和管理进程。这里引入了一个fork语句,调用一次,返回两次,因为操作系统自动把当前进程(称为父进程)复制了一份(称为子进程),然后,分别在父进程和子进程内返回。
需要注意的是这个代码无法在Windows上正常运行
如果要启动大量的子进程,可以用进程池的方式批量创建子进程,这就是Pool
廖老师向我们解释道:
对Pool
对象调用join()
方法会等待所有子进程执行完毕,调用join()
之前必须先调用close()
,调用close()
之后就不能继续添加新的Process
了。
请注意输出的结果,task 0
,1
,2
,3
是立刻执行的,而task 4
要等待前面某个task完成后才执行,这是因为Pool
的默认大小在我的电脑上是4,因此,最多同时执行4个进程。这是Pool
有意设计的限制,并不是操作系统的限制。如果改成:
p = Pool(5)
就可以同时跑5个进程。
由于Pool
的默认大小是CPU的核数,如果你不幸拥有8核CPU,你要提交至少9个子进程才能看到上面的等待效果。
不过,很多时候,子进程并不是自身,而是一个外部进程。我们创建了子进程后,还需要控制子进程的输入和输出。
subprocess
模块可以让我们非常方便地启动一个子进程,然后控制其输入和输出。
进程间通信 进程间通信是通过Queue
、Pipes
等实现的。
Process
之间肯定是需要通信的,操作系统提供了很多机制来实现进程间的通信。Python的multiprocessing
模块包装了底层的机制,提供了Queue
、Pipes
等多种方式来交换数据。
我们以Queue
为例,在父进程中创建两个子进程,一个往Queue