当前位置: 首页 > news >正文

Wan2.1

概述背景

xDiT

原生Wan2.1官方提供了基于xdit的原生多gpu推理,但是其脱离了diffusers框架,使用wan2.1的原生代码;

  • Multi-GPU inference using FSDP + xDiT USP

  • We use FSDP and xDiT USP to accelerate inference.

      如果要使用 Ulysses 策略,则应设置 --ulysses_size $GPU_NUMS。请注意,如果您想使用 Ulysess 策略,num_heads 应该可以被 ulysses_size 整除。对于 1.3B 模型,num_heads12,不能被 8 整除(因为大多数多 GPU 机器都有 8 个 GPU)。因此,建议使用 Ring Strategy (环策略 )。

      如果要使用

http://www.dtcms.com/a/305172.html

相关文章:

  • openEuler性能测试常用工具-fio开源压力测试工具
  • 05动手学深度学习(下)
  • EnergyMath芯详科技 EMS4100/MES4000/MES3900
  • sqlite3---维护命令、回调函数
  • 用命令查看Android设备的 Linux 内核版本,了解其对应的硬件支持各种特性
  • gRPC性能陷阱:低延迟网络下的客户端瓶颈揭秘
  • k8s搭建nfs共享存储
  • 前端代码打包与压缩完全指南
  • div 封装日历
  • 使用echarts绘制立体柱状图
  • Export useForm doesn‘t exist in target module
  • 深度解读|美创科技参编国家标准《数字水印技术实现指南》
  • docker的安装和配置流程
  • Python在人工智能与科学计算领域的统治地位:语言、生态与未来
  • 云原生MySQL Operator开发实战(四):测试策略与生产部署
  • Qt 移动应用推送通知实现
  • 多线程--关于锁的一些知识考点
  • 系统优化与性能调教
  • C++基础语法与面向对象特性
  • Blender入门笔记——建模篇(二)
  • 电商平台商品模块数据库设计
  • WEPollSelectorImpl
  • AI工作流赋能,业务的超级加速器
  • mybatis-plus代码生成器
  • 主数据管理系统能代替数据中台吗?
  • ESP32学习-1.第一个程序helloworld
  • OTA | xmodem ymodem文件传输协议收发的C语言实现
  • FlowLong工作流
  • OI 杂讲
  • ASDIP Concrete(混凝土结构设计软件) v6.0.0.2 免费版