广州个人网站建设公司友情链接英文

llama微调训练步数计算方式,以下数据为假设

一、关键参数解析

1. 总样本数：Num examples = 1,047
   表示训练数据集包含 1,047 个样本。

2. 训练轮数：Num Epochs = 300
   表示整个训练集将被遍历 300 次。

3. 总批次大小：Total train batch size = 80
   表示每次参数更新使用的样本数为 80（受并行训练、分布式训练等影响后的等效批次大小）。

4. 梯度累积步数：Gradient Accumulation steps = 8
   表示每累积 8 个批次的梯度后，才进行一次参数更新。

二、计算步骤分解

1. 单轮训练批次数
   每个 epoch 的批次数 = 总样本数 / 总批次大小
   $$\text{Batches per epoch}=\frac{1,047}{80}\approx 13.09$$
   （实际计算中会向上取整为 14 批，因最后一批可能不足 80 样本）

2. 总批次数（所有 epoch）
   总批次数 = 批次数 per epoch × 训练轮数
   $$\text{Total batches}=14\times 300=4,200$$

3. 优化步数计算
   优化步数 = 总批次数 / 梯度累积步数
   $$\text{Optimization steps}=\frac{4,200}{8}=525$$

---

训练过程可能存在修正过程，例如我的训练日志效果;

INFO|2025-03-22 15:43:25] trainer.py:2406 >> Num examples = 1,047[INFO|2025-03-22 15:43:25] trainer.py:2407 >> Num Epochs = 300[INFO|2025-03-22 15:43:25] trainer.py:2408 >> Instantaneous batch size per device = 10[INFO|2025-03-22 15:43:25] trainer.py:2411 >> Total train batch size (w. parallel, distributed & accumulation) = 80[INFO|2025-03-22 15:43:25] trainer.py:2412 >> Gradient Accumulation steps = 8[INFO|2025-03-22 15:43:25] trainer.py:2413 >> Total optimization steps = 3,900[INFO|2025-03-22 15:43:25] trainer.py:2414 >> Number of trainable parameters = 4,399,104.teps = 3,900

三、日志值修正解释

实际日志中 Total optimization steps = 3,900，表明存在以下调整：

• 更精确的批次计算：可能最后一批未补全时直接舍弃，实际批次数为：
  $$\text{Batches per epoch}=\lfloor \frac{1,047}{80}\rfloor =13\text{ 批}$$
  总批次数 = 13 × 300 = 3,900 批

• 优化步数修正：
  若梯度累积步数为 8，则理论优化步数应为：
  $$\text{Optimization steps}=\frac{3,900}{8}=487.5$$
  但日志值为整数 3,900，表明实际计算中可能直接取总批次数（即梯度累积步数被隐式设为 1）。

四、最终结论

日志中的 Total optimization steps = 3,900 是通过以下公式计算：
$$\text{Total optimization steps}=\text{Num Epochs}\times \lfloor \frac{\text{Num examples}}{\text{Total train batch size}}\rfloor$$
即：
$$3,900=300\times \lfloor \frac{1,047}{80}\rfloor =300\times 13$$

这表示每轮训练实际使用 13 个完整批次（最后一批可能小于 80 样本但被忽略），共训练 300 轮，总优化步数为 3,900。
所以说，批处理大小(每个 GPU 处理的样本数量。) * 梯度累积(梯度累积的步数。)的值越大，step,步数越小。这个值需要根据GPU的大小来决定。否则训练速度会很慢。