深度学习中.cuda()、.eval()与no_grad详解
Model.cuda() 和 .eval() 区别，no_grad是什么
目录
- Model`.cuda()` 和 `.eval()` 区别，no_grad是什么
- `.cuda()`
- `.eval()`
- `AutoModelForCausalLM` 相关常见后缀
- 1. `.from_config()`
- 2. `.generate()`
- 3. `.get_input_embeddings()`
- 4. `.train()`
.cuda()
- 功能：用于将模型或张量从CPU内存转移到GPU显存上，前提是计算机有可用的GPU 。当调用
model.cuda()时，模型的所有参数和缓冲区都会被移动到GPU上，这样模型后续的计算就可以在GPU上加速进行。比如在处理大规模数据的深度学习任务时，GPU的并行计算能力能大幅提升计算速度。 - 示例：
model = model.cuda()可将模型转移到GPU；tensor = tensor.cuda()可将张量（如输入数据）转移到GPU。不过它要求机器必须有GPU，若机器无GPU，代码会报错。相比之下，to('cuda')方法更具灵活性，在有GPU时将数据移至GPU，无GPU时可在CPU上运行 。