模型状态量
在深度学习训练中，模型状态量（model state）泛指所有影响模型输出并需要在训练和推理之间保持一致的状态信息，包括：可训练的参数（如权重与偏置）、非可训练的缓冲区（如 BatchNorm 的滑动平均／方差）、以及优化器的内部状态（如动量、Adam 的一阶／二阶矩估计）等 。这些状态量通常通过框架提供的 state_dict（PyTorch）或 Checkpoint（TensorFlow）等机制进行访问、保存与恢复，以支持模型的持久化、断点续训和可重复性。
一、模型状态量的定义
1. 可训练参数（Parameters）
可训练参数是神经网络中需通过反向传播学习的张量，包括各层的权重矩阵与偏置向量。它们决定网络的功能映射，并在 model.parameters() 或 model.named_parameters() 中以生成器形式提供 PyTorch。
2. 非可训练缓冲区（Buffers）
缓冲区是附属于模块但不参与梯度更新的张量，典型例子如 BatchNorm 的滑动平均值 running_mean 与滑动方差 running_var。这些缓冲区由 module.register_buffer() 注册，并会被包含在 state_dict() 中以保证持久化
3. 优化器状态（Optimizer State）
优化器内部维护的状态如动量缓存（momentum buffers）、Adam 的一阶（exp_avg）与二阶（exp_avg_sq）矩估计，以及学习率、权重衰减等超参数，也必须随模型一同保存，以便在中断后准确恢复训练
二、模型状态量的主要组成
1. PyTorch 中的 state_dict
-
model.state_dict()返回一个字典，键为层名，值为参数或缓冲区张量，自动包含所有可训练参数和持久化缓冲区。 -
optimizer.state_dict()返回包含state（各参数对应的内部状态）和param_groups（学习率、权重衰减等组级元数据及参数 ID 列表）的字典，实现了优化器状态的完整持久化 。
2. TensorFlow 中的 Checkpoint
-
TensorFlow 使用
tf.train.Checkpoint或tf.keras.Model.save_weights将模型的tf.Variable对象（即参数和缓冲区）序列化为检查点文件，并支持恢复至相同或兼容结构的模型中。 -
可选地，
tf.train.Checkpoint也可追踪Optimizer对象，使断点续训时能够恢复优化器内部状态。
三、模型状态量的作用
-
断点续训：在长时间训练过程中，保存并加载模型和优化器的
state_dict／Checkpoint 可保证从精确中断点继续训练，避免重复计算 。 -
模型部署：推理阶段通常仅需加载模型参数（不包含优化器状态），以保证一致的前向计算结果；而缓冲区如 BatchNorm 的统计量亦需加载以保持推理准确性。
-
可重复性与可解释性：完整保存所有状态量有助于研究复现，确保不同环境、不同时间执行得到一致结果，并能够更好地调试训练过程。
查看模型状态：
# 查看模型状态量（参数 + 缓冲区）
state = model.state_dict()
for k, v in state.items():print(k, v.shape)# 保存与加载
torch.save(state, 'model_state.pth')
model.load_state_dict(torch.load('model_state.pth'))# 优化器状态
opt_state = optimizer.state_dict()
torch.save(opt_state, 'optim_state.pth')
optimizer.load_state_dict(torch.load('optim_state.pth'))
通过对参数、缓冲区、优化器状态等训练过程中的所有状态量的理解与管理，才能实现深度学习模型的高效训练、可靠推理与可复现性。