当前位置: 首页 > news >正文

什么时候需要用到 multiprocessing?

什么时候需要用到 multiprocessing?

  • 必须记忆的 7 组核心 API 与实战代码
    • 1. Process 基本用法(记住两段模板)
      • 模板 A:无参函数
      • 模板 B:带参函数(注意可 pickle)
    • 2. 守护进程 Daemon(后台任务心跳)
    • 3. 优雅退出:join、terminate、exitcode
    • 4. 进程间通信:Queue(生产者-消费者模式)
    • 5. 共享状态:Manager 与 Lock
    • 6. 进程池 Pool(MapReduce 雏形)
    • 7. 自定义 Process 子类(可重用组件)
  • 一张思维导图总结
  • 结语:记忆策略

场景速查表:

场景是否需要 multiprocessing原因
CPU 密集型任务(加密、科学计算、图像处理)✅ 必须GIL 限制,多线程无法并行
I/O 密集型任务(文件、网络)❌ 优先用多线程/异步线程切换开销更小
需要多个 Python 解释器隔离✅ 必须每个进程独立内存空间
需要共享大量复杂对象⚠️ 谨慎进程间共享成本高于线程

结论:只要你要榨干多核 CPU,就绕不开 multiprocessing。否则可以先考虑线程或协程。


必须记忆的 7 组核心 API 与实战代码

下面把「面试时写得出、项目里用得着」的知识点浓缩成一篇 CSDN 风格的速查博客。每个点都给出最小可运行示例(MRE:Minimal Runnable Example),复制即可运行。


1. Process 基本用法(记住两段模板)

模板 A:无参函数

import multiprocessing, timedef worker():print('Worker start', multiprocessing.current_process().name)time.sleep(1)if __name__ == '__main__':p = multiprocessing.Process(target=worker, name='worker-A')p.start()p.join()

模板 B:带参函数(注意可 pickle)

import multiprocessingdef power(base, exp):print(f'{base}^{exp} = {base**exp}')if __name__ == '__main__':for pair in [(2, 10), (3, 5)]:multiprocessing.Process(target=power, args=pair).start()

2. 守护进程 Daemon(后台任务心跳)

import multiprocessing, timedef heartbeat():while True:print('heartbeat', time.strftime('%H:%M:%S'))time.sleep(1)if __name__ == '__main__':d = multiprocessing.Process(target=heartbeat, daemon=True)d.start()time.sleep(3)      # 主进程 3 秒后退出,守护进程随之被杀

3. 优雅退出:join、terminate、exitcode

import multiprocessing, time, signaldef slow():time.sleep(5)if __name__ == '__main__':p = multiprocessing.Process(target=slow)p.start()time.sleep(1)p.terminate()          # 向子进程发 SIGTERMp.join()               # 回收资源print('exitcode:', p.exitcode)   # -15 代表被信号 15 杀死

4. 进程间通信:Queue(生产者-消费者模式)

import multiprocessing, random, timedef producer(q):for i in range(5):q.put(random.randint(1, 100))time.sleep(0.2)def consumer(q):while True:item = q.get()if item is None:          # 毒丸breakprint('Consumed', item)if __name__ == '__main__':q = multiprocessing.Queue()p = multiprocessing.Process(target=producer, args=(q,))c = multiprocessing.Process(target=consumer, args=(q,))p.start(); c.start()p.join()q.put(None)                  # 发毒丸c.join()

5. 共享状态:Manager 与 Lock

import multiprocessingdef add_to_dict(d, key, lock):with lock:                # 防止竞态d[key] = key * keyif __name__ == '__main__':mgr = multiprocessing.Manager()shared_dict = mgr.dict()lock = multiprocessing.Lock()jobs = [multiprocessing.Process(target=add_to_dict, args=(shared_dict, i, lock))for i in range(10)]for j in jobs: j.start()for j in jobs: j.join()print(shared_dict)

6. 进程池 Pool(MapReduce 雏形)

import multiprocessing, osdef square(x):return x * xif __name__ == '__main__':with multiprocessing.Pool(processes=os.cpu_count()) as pool:result = pool.map(square, range(10))print(result)     # [0, 1, 4, 9, ... 81]

7. 自定义 Process 子类(可重用组件)

import multiprocessing, timeclass TimerProcess(multiprocessing.Process):def __init__(self, interval):super().__init__()self.interval = intervaldef run(self):for i in range(3):print(f'{self.name}: {i+1}/{3}')time.sleep(self.interval)if __name__ == '__main__':TimerProcess(1).start()

一张思维导图总结

multiprocessing
├─ 基本对象
│  ├─ Process
│  ├─ Queue / JoinableQueue
│  ├─ Lock / Semaphore / Condition / Event
│  └─ Manager
├─ 高级抽象
│  ├─ Pool
│  └─ 自定义 Process 子类
└─ 生命周期├─ start / join / terminate└─ daemon / exitcode

结语:记忆策略

  1. 先背 3 个模板(Process、Queue、Pool)。
  2. 再背 生命周期:start → join/terminate → exitcode。
  3. 其余 API 用的时候查表即可。
http://www.dtcms.com/a/277038.html

相关文章:

  • Java集合框架深度解析:LinkedList vs ArrayList 的对决
  • 完整 Spring Boot + Vue 登录系统
  • 决策树学习
  • Spring Cloud Gateway 实战指南
  • 设计模式深度解析:单例、工厂、适配器与代理模式
  • 基于 Python 的深度学习音乐推荐系统设计与实现
  • LLM对话框项目总结II
  • Maven 构建命令
  • RedisJSON 的 `JSON.ARRAPPEND`一行命令让数组动态生长
  • vue防内存泄漏和性能优化浅解
  • CSS中@media介绍和使用示例
  • 7.13 note
  • 型模块化协作机器人结构设计cad【1张】三维图+设计说明书
  • 机器人猫咪能否温暖中老年孤独
  • 【Complete Search】-基础完全搜索-Basic Complete Search
  • 摩尔线程MUSA架构深度调优指南:从CUDA到MUSA的显存访问模式重构原则
  • Java: OracleHelper
  • Appium源码深度解析:从驱动到架构
  • Vue3 实现文件上传功能
  • HarmonyOS组件/模板集成创新活动-开发者工具箱
  • Vue配置特性(ref、props、混入、插件与作用域样式)
  • FusionOne HCI 23 超融合实施手册(超聚变超融合)
  • 第七章 算法题
  • NO.4数据结构数组和矩阵|一维数组|二维数组|对称矩阵|三角矩阵|三对角矩阵|稀疏矩阵
  • 电源中的声学-噪声,如何抑制开关电源的噪声
  • 飞算JavaAI:开启 Java 开发 “人机协作” 新纪元
  • 二叉树算法详解和C++代码示例
  • 项目合作复盘:如何把项目经验转化为可复用资产
  • 【C++】第十五节—一文详解 | 继承
  • ArkUI Inspector工具用法全解析