当前位置: 首页 > news >正文

零基础入门:MinerU 和 PyTorch、CUDA的关系

💡一句话总结:MinerU 是一个用 PyTorch 跑模型的程序,PyTorch 支持多种加速方式(如 CUDA、MPS),让它跑得快就需要依赖这些加速工具。

PyTorch官网安装教程(可根据系统情况选择不同版本:https://pytorch.org/get-started/locally/)

一张图看清楚它们的关系:

图片

01  先解释一些名词在 MinerU 中的作用:

🔧 PyTorch:是跑深度学习模型的库,有 CPU 和 GPU 版本,简称 torch。MinerU 用它跑公式、OCR、表格等模型,✅ 必须安装。

⚙ torchvision:是 PyTorch 的辅助库,用于图像处理、模型加载等。MinerU 在图像类模型或视觉任务中会用到,✅ 建议安装。

💻 NVIDIA 显卡驱动(Driver):是控制和管理 NVIDIA 显卡硬件的软件层,它是 CUDA 与 GPU 正常通信的基础。如果使用 NVIDIA GPU,✅ 必须安装。

💾 CUDA-Toolkit:是 NVIDIA 提供的一整套 GPU 编程工具,包含 CUDA、cuDNN、编译器等,能提供开发和运行 GPU 应用的完整支持,避免手动配置底层。若用 pip 安装 PyTorch,❌ 可不单独安装。

💿 CUDA:是 NVIDIA 显卡的加速平台,依赖显卡驱动,必须配合 NVIDIA 显卡使用。它能让 PyTorch 用 NVIDIA GPU 跑得更快,使用 NVIDIA GPU 时必须安装,❌ CPU 用户则不需要。

📦 Anaconda:是 Python 科学计算平台,集成大量依赖库,便于管理环境。用它安装 PyTorch 等依赖更方便,也可避免系统冲突,❌ 推荐新手或团队开发使用。

🔖 MPS:是 Apple macOS M 系列芯片的 Metal 加速接口,Mac 上用来调用 Apple 芯片 GPU,❌ 只在 macOS 上使用。

🚀小科普:CUDA 主要适用于安装了 NVIDIA 显卡的 Linux 和 Windows 系统;MacOS 用 MPS 加速。

02  只想 MinerU 运行(不求快):

MinerU 运行依赖 PyTorchtorchvision,你可以只装 PyTorch torchvision 的CPU 版本

pip install torch torchvision  # 用 CPU 跑,速度慢,但简单

然后再安装 MinerU,详见:https://github.com/opendatalab/MinerU/blob/master

接下来就可以使用 MinerU 解析 pdf 文件了。

03  想要 MinerU 加速运行:

要根据你所使用的平台和硬件选择合适的方式:

1. Windows(装有 NVIDIA 显卡)的加速方式:

注意!需要您的显卡是2017年后生产的带有 Tensor Core 的显存 6 GB以上,可进行以下流程,并测试CUDA 推理加速效果:

● 安装 NVIDIA 显卡驱动:它们通常包括了支持 CUDA 的相关软件包

● 安装 CUDA Toolkit:(需要安装符合 Pytorch 要求的 CUDA 版本,MinerU 目前支持Pytorch的版本为 11.8/12.4/12.6/12.8)

- CUDA 11.8 下载地址:https://developer.nvidia.com/cuda-11-8-0-download-archive

- CUDA 12.4 下载地址:https://developer.nvidia.com/cuda-12-4-0-download-archive

- CUDA 12.6 下载地址:https://developer.nvidia.com/cuda-12-6-0-download-archive

- CUDA 12.8 下载地址:https://developer.nvidia.com/cuda-12-8-0-download-archive

● 安装 Python 与 Anaconda (如果已安装,可以跳过本步骤)

● 安装 MinerU,详见:https://github.com/opendatalab/MinerU/blob/master

● 覆盖安装支持 CUDA 的 PyTorch 和 torchvision (请根据CUDA版本选择合适的index-url,具体可参考torch官网)

pip install --force-reinstall torch torchvision --index-url https://download.pytorch.org/whl/cu124

● 修改配置文件:将【用户目录】中配置文件 magic-pdf.json 中 device-mode 的值改为 "cuda"

{    // other config    "device-mode": "cuda"}

2. Ubuntu 22.04 LTS加速方式:

● 检测是否已安装 NVIDIA 显卡驱动

nvidia-smi

如果看到类似如下的信息,说明已经安装了nvidia驱动,可以跳过下一条安装步骤(⚠️CUDA Version 显示的版本号应 >= 12.4,如显示的版本号小于12.4,请升级驱动)

+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 570.133.07             Driver Version: 572.83         CUDA Version: 12.8   |
|-----------------------------------------+----------------------+----------------------+
| GPU  Name                     TCC/WDDM  | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
|                                         |                      |               MIG M. |
|=========================================+======================+======================|
|   0  NVIDIA GeForce RTX 3060 Ti   WDDM  | 00000000:01:00.0  On |                  N/A |
|  0%   51C    P8              12W / 200W |   1489MiB /  8192MiB |      5%      Default |
|                                         |                      |                  N/A |
+-----------------------------------------+----------------------+----------------------+

● 安装 NVIDIA 显卡驱动

如没有驱动,则通过如下命令安装专有驱动​​​​​​​

sudo apt-get updatesudo apt-get install nvidia-driver-570-server

安装完成后,重启电脑

reboot

● 安装  Anaconda(如果已安装Anaconda  ,可以跳过本步骤)

wget -U NoSuchBrowser/1.0 https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda3-2024.06-1-Linux-x86_64.sh
bash Anaconda3-2024.06-1-Linux-x86_64.sh

    最后一步输入   yes  ,关闭终端重新打开。

    ● 安装 MinerU

    ● 修改配置文件:修改【用户目录】中配置文件 magic-pdf.json 中 device-mode 的值​​​​​​​

    {    // other config    "device-mode": "cuda"}

    3. MacOS(M 系列芯片)的加速方式:

    ● 安装 Anaconda

    ● 安装 MinerU,详见:https://github.com/opendatalab/MinerU/blob/master

    ● 修改配置文件:MacOS 支持 MPS 加速(苹果自家的加速后端),只需要安装 MinerU 后,在 magic-pdf.json 配置文件中将 device-mode 参数设置为 "mps" 来启用 MPS 加速​​​​​​​

    {    // other config    "device-mode": "mps"}

    04  🧩总结

    ● PyTorch 是 MinerU 运行必须安装的核心库

    ● CUDA、MPS 是 MinerU 的加速方式,因平台和硬件不同而异

    ● MinerU​​​​​​​ 间接利用这些加速方式来提速模型运行

    相关文章:

  • 多模态大语言模型arxiv论文略读(八十九)
  • 【paddle】常见的数学运算
  • 技术篇-2.5.Matlab应用场景及开发工具安装
  • OpenCV CUDA 模块图像过滤-----创建一个计算图像导数的滤波器函数createDerivFilter()
  • 欧拉降幂(JAVA)蓝桥杯乘积幂次
  • 【机器学习】 关于外插修正随机梯度方法的数值实验
  • C++ 02.好用的命令行解析库cmdline和CLI11
  • 【LLIE专题】基于事件相机照度估计的暗光增强方案
  • poppler_path 是用于 Python 库如 pdf2image 进行 PDF 转换时
  • 天文数据处理:基于CUDA的射电望远镜图像实时去噪算法(开源FAST望远镜数据处理代码解析)
  • 大规模实验管理系统的GPU资源调度设计(基于优先级队列的动态算力分配算法)
  • [原创](现代Delphi 12指南):[macOS 64bit App开发]: 如何获取目标App的程序图标?
  • Linux 之 MTD 子系统框架
  • 手机打电话时由对方DTMF响应切换多级IVR语音菜单(话术脚本与实战)
  • 第十节第六部分:常见API:DateTimeFormatter、Period、Duration
  • 智能办公协同系统开发日志(三):画板模块设计与实现全记录
  • Minion-Agent:软件测试领域的智能自动化实践
  • JUC入门(五)
  • DeepSeek Mermaid:如何将文本直接转化为精美图表? -优雅草卓伊凡
  • LeetCode Hot100(滑动窗口)
  • 网站如何做免费推广/谷歌浏览器chrome官网
  • 贵阳疫情最新消息今天封城了/英文seo实战派
  • 政府网站开发要求/关键词搜索量查询工具
  • 高清图片素材网站免费/百度秒收录
  • 网站功能流程图/最新网域查询入口
  • 织梦网站栏目管理空白/seo网站推广方法