当前位置：首页 > news >正文

Win10 系统构建仿真 NVIDIA Jetson Orin Nano 环境部署 YOLOv8 模型

news 2025/10/25 7:09:10

在 Win10 系统上构建一个仿真的 NVIDIA Jetson Orin Nano 环境来部署 YOLOv8 模型是完全可行的。核心思路是：利用 NVIDIA 官方 Docker 容器，在 PC 的 GPU 环境下模拟出与 Jetson 相似的软件栈，从而完成除架构特定优化外的所有开发工作。

以下是详细的步骤和策略：

核心策略：使用 Docker 容器 + WSL2

我们将通过 WSL2 在 Windows 上创建一个 Linux 环境，然后在此环境中运行装载了 PC GPU 的 NVIDIA 官方 Docker 容器。

阶段一：搭建基础环境（WSL2 + GPU支持）

启用 WSL2
- 以管理员身份打开 PowerShell 并运行：
```
wsl --install
```
- 此命令将启用所需的 Windows 功能并默认安装 Ubuntu。重启电脑。
安装 NVIDIA GPU 驱动
- 访问 NVIDIA 官网下载并安装最新的 Game Ready Driver 或 Studio Driver。重要： 必须安装较新版本的驱动，以支持 WSL2 下的 CUDA。

在 WSL2 中安装 NVIDIA CUDA Toolkit

打开 Ubuntu WSL2 终端。

按照 NVIDIA 官方指南安装 CUDA Toolkit。通常步骤如下：

wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-keyring_1.0-1_all.deb
sudo dpkg -i cuda-keyring_1.0-1_all.deb
sudo apt-get update
sudo apt-get -y install cuda-toolkit-12-0

验证安装：nvidia-smi。你应该能看到你的 GPU 信息。

阶段二：获取模型并转换格式

在 WSL2 中准备 YOLOv8 模型

pip install ultralytics
python3 -c "from ultralytics import YOLO; model = YOLO('yolov8n.pt'); model.export(format='onnx', dynamic=True, simplify=True)"

这将在当前目录生成 yolov8n.onnx 文件。

阶段三：在容器内进行仿真与部署（核心）

我们将使用 NVIDIA TAO Toolkit 的容器，因为它包含了从模型优化到推理的完整工具链。

在 WSL2 中安装 Docker

curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh
sudo usermod -aG docker $USER
newgrp docker # 或重新登录终端]

安装 NVIDIA Container Toolkit

distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/$distribution/libnvidia-container.list | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt-get update && sudo apt-get install -y nvidia-container-toolkit
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker

拉取并运行 TAO Toolkit 容器

# 拉取镜像
docker pull nvcr.io/nvidia/tao/tao-toolkit:5.0.0-pyt# 运行容器，并映射当前目录到容器内的 /workspace
docker run --gpus all -it --rm --shm-size=8g -v $(pwd):/workspace nvcr.io/nvidia/tao/tao-toolkit:5.0.0-pyt /bin/bash

现在你已经进入了一个拥有完整NVIDIA AI软件栈的容器环境。

在容器内使用 TensorRT 优化和运行 YOLOv8
- 方法A：使用 trtexec 工具（快速基准测试）
```
# 在容器内，进入工作目录
cd /workspace# 使用 trtexec 将 ONNX 模型转换为 TensorRT 引擎并基准测试
trtexec --onnx=yolov8n.onnx --saveEngine=yolov8n.engine --fp16
```
  这个命令会生成 yolov8n.engine 文件并输出在您PC GPU上的性能数据。
- 方法B：编写 Python 推理脚本（功能验证）
  在容器内创建一个 test_inference.py 脚本，使用 TensorRT Python API 加载引擎并进行推理。这可以验证整个流程（预处理->推理->后处理）的正确性。

阶段四：验证与调试

在容器内运行您的推理脚本，使用测试图片进行预测。

python test_inference.py

然后将输出的结果图片（例如 result.jpg）从 WSL2 文件系统复制到 Windows 桌面进行查看。

# 在 Windows PowerShell 中 (假设你的WSL2项目在 home 目录)
cp \\wsl$\Ubuntu\home\<yourusername>\project\result.jpg C:\Users\<yourwindowusername>\Desktop\

重要限制与注意事项（仿真与真实的区别）

性能数据仅为参考：在您强大的 PC GPU（如 RTX 3080）上测得的 FPS 远高于 在 Jetson Orin Nano 上的真实性能。仿真环境主要用于验证功能的正确性。
引擎文件不兼容：在 PC 上生成的 TensorRT 引擎（.engine 文件）是针对您 PC 的 GPU 架构（如 Ampere）优化的，无法直接用于 Jetson Orin Nano（其 GPU 架构也是 Ampere，但二进制不兼容）。您需要在 Jetson 上重新生成引擎。
架构差异：PC 是 x86_64 架构，Jetson 是 aarch64。您无法在 PC 上编译出直接在 Jetson 上运行的可执行文件。