打卡Day34

问题：

背景：

• 剩余时长 = 总时长 - 必须的计算时长（3秒）。
• 记录间隔、记录次数和剩余时长的关系需要进一步分析。

数据观察：
当总epoch为20000时，不同记录间隔对应的记录次数和剩余时长如下：
记录间隔100轮：记录次数200次，剩余时长10.43秒。
记录间隔200轮：记录次数100次，剩余时长10.02秒。
记录间隔1000轮：记录次数20次，剩余时长10.12秒。
记录间隔2000轮：记录次数10次，剩余时长9.74秒。

分析：

• 同步操作的影响：loss.item()是一个同步操作，意味着在每次记录时，GPU需要等待CPU完成才能继续下一次运算。这会引入额外的时间开销，但这个开销可能不是线性的。
• 固定开销的存在：除了记录操作本身的时间外，还有一些固定的系统开销（如初始化、环境准备等），这些开销不会随着记录次数的变化而显著变化。
• 其他潜在因素：可能存在一些其他的非线性因素，例如内存管理、缓存效应等，这些都可能导致剩余时长与记录次数之间的关系不呈线性。