当前位置：首页 > news >正文

李宏毅机器学习笔记

news 2025/11/13 8:20:46

摘要

Abstract

1.optimizer

2.network architecture search(NAS)

摘要

本篇文章继续学习李宏毅老师2025春季机器学习课程，学习内容是meta learning可训练的参数，如optimizer相关的参数，network架构相关的参数。

1.optimizer

meta learning除了可以学习初始化的参数，还可以学optimizer。在更新参数时我们需要决定learning rate等参数，这些hyper parameter可以用meta learning学出来的。

下图的实验结果是自动根据训练任务学出来的，橙色的是学习出来的optimizer，其他的颜色是其他的方法。训练在MNIST上测试在NIST上结果还不错（第一行的测试结果），但是，训练在一层network上，测试在两层network上依然可以学起来，但是改一下active function就不行了（sigmoid更改为ReLu）。

2.network architecture search(NAS)

meta learning也可以训练network架构，训练network架构研究就叫做network architecture search(NAS)。此时的 $\phi$ 就是network架构。

如果 $\phi$ 是network架构做微分就有问题，当 $\phi$ 无法算微分时，可以尝试用reinforce learning硬做。具体如果实现呢？我们就需要把 $\phi$ 当作agent的参数，这个agent的输出就是network架构相关的hyper parameter。接下来需要训练agent让他maximize一个reward，reward直接设置成 $-L(\phi )$ 。

下图可以帮助理解NAS在做什么。将agent当作RNN，每次会输出一个与network架构有关的参数，例如先输出filter的数量，在输出filter的高等等，有了这些参数之后就根据这些参数建出一个network，建出这个network之后去训练这个network，之后继续做reinforce learning，可以把这个network在测试资料上的accuracy当作reward去训练agent。