建网站卖北京设计公司招聘信息
accelerate
主要是配置分布式训练和硬件加速的设置。
accelerate config 的作用
Accelerate 是 Hugging Face 开发的库，用于简化多GPU、多机器的分布式训练。它会询问你的硬件配置，然后生成配置文件，让代码能够自动适配你的硬件环境。
配置过程中的问题和建议回答
运行 accelerate config 后，它会问你一系列问题：## 对于大多数本地用户的推荐配置：
如果你有1张GPU：
- 选择
This machine - 选择
No distributed training - 选择
fp16(混合精度，节省显存)
如果你有多张GPU：
- 选择
This machine - 选择
mult