人工智能之数学基础:多元逻辑回归算法的矩阵参数求导
本文重点
前面我们对逻辑回归进行了参数矩阵求导操作,下面我们看一下多元逻辑回归是如何求导的,其中损失l如下所示
其中softmax我们使用上面的方式表示,1^T表示全1的向量,那么此时的分母就是求和了,其中x是一个n*1的向量,和之前的线性回归不同,这里是单样本了,不再是多样本了。
要想理解这篇文章在做什么,一定要看前面的几篇文章
计算工具
微分运算工具
tr工具
前面我们对逻辑回归进行了参数矩阵求导操作,下面我们看一下多元逻辑回归是如何求导的,其中损失l如下所示
其中softmax我们使用上面的方式表示,1^T表示全1的向量,那么此时的分母就是求和了,其中x是一个n*1的向量,和之前的线性回归不同,这里是单样本了,不再是多样本了。
要想理解这篇文章在做什么,一定要看前面的几篇文章
微分运算工具
tr工具