优化网站制作wordpress教学模板
知识点回顾：
一、预训练的概念
我们之前在训练中发现，准确率最开始随着epoch的增加而增加。随着循环的更新，参数在不断发生更新。
所以参数的初始值对训练结果有很大的影响：
- 如果最开始的初始值比较好，后续训练轮数就会少很多
- 很有可能陷入局部最优值，不同的初始值可能导致陷入不同的局部最优值
所以很自然的想到，如果最开始能有比较好的参数，即可能导致未来训练次数少，也可能导致未来训练避免陷入局部最优解的问题。这就引入了一个概念，即预训练模型。
如果别人在某些和我们目标数据类似的大规模数据集上做过训练，我们可以用他的训练参数来初始化我们的模型，这样我们的模型就比较容易收敛。
为了帮助你们理解，这里提出几个自问自答的问题。
- 那为什么要选择类似任务的数据集预训练的模型参数呢？
因为任务差不多，他提取特征的能力才有用，如果任务相差太大，他的特征提取能力就没那么好。 所以本质预训练就是拿别人已经具备的通用特征提取能力来接着强化能力使之更加适应我们的数据集和任务。
- 为什么要求预训练模型是在大规模数据集上训练的，小规模不行么？ 因为提取的是通用特征，所以如果数据集数据少、尺寸小，就很难支撑复杂任务学习通用的数据特征。比如你是一个物理的博士，让你去做小学数学题，很快就能上手；但是你是一个小学数学速算高手，让你做物理博士的课题，就很困难。所以预训练模型一般就挺强的。
我们把用预训练模型的参数，然后接着在自己数据集上训练来调整该参数的过程叫做微调，这种思想叫做迁移学习。把预训练的过程叫做上游任务，把微调的过程叫做下游任务。
现在再来看下之前一直用的cifar10数据集，他是不是就很明显不适合作为预训练数据集？
- 规模过小：仅 10 万张图像，且尺寸小（32x32），无法支撑复杂模型学习通用视觉特征；
- 类别单一：仅 10 类（飞机、汽车等），泛化能力有限；
二、常见的分类预训练模型
1.CNN架构预训练模型
2.Transformer类预训练模型
3.自监督预训练模型
三、图像预训练模型的发展史
- 早期探索（1990s-2010s）：LeNet 验证 CNN 可行性，但受限于计算和数据。
- 深度学习复兴（2012-2015）：AlexNet、VGGNet、GoogLeNet 通过加深网络和结构创新突破性能。
- 超深网络时代（2015 年后）：ResNet 解决退化问题，开启残差连接范式，后续模型围绕效率（MobileNet）、特征复用（DenseNet）、多分支结构（Inception）等方向优化。
四、预训练的策略
五、预训练代码实战：resnet18
@浙大疏锦行