BFGS学习
BFGS是一种准牛顿法，用于无约束最优化。
学习的教材是《最优化 理论与算法》(第2版) 陈宝林 清华大学出版社
建议看的有关bfgs的主要内容与顺序：
1. 基础：梯度、Hessian矩阵的定义
2. 牛顿法（单变量的牛顿法，进而多变量的推广）
3. 准牛顿法
4. DFP算法（推导校正矩阵Hk+1）
5. BFGS算法 (推导校正矩阵Bk+1）
6. 线搜索（建议去看Armijo, Wolfe，书上没有讲）
2025.3.18
BFGS是一种准牛顿法，用于无约束最优化。
学习的教材是《最优化 理论与算法》(第2版) 陈宝林 清华大学出版社
建议看的有关bfgs的主要内容与顺序：
1. 基础：梯度、Hessian矩阵的定义
2. 牛顿法（单变量的牛顿法，进而多变量的推广）
3. 准牛顿法
4. DFP算法（推导校正矩阵Hk+1）
5. BFGS算法 (推导校正矩阵Bk+1）
6. 线搜索（建议去看Armijo, Wolfe，书上没有讲）
2025.3.18