2025年7月Nature子刊-Adam梯度下降优化算法Adam Gradient Descent-附Matlab免费代码

引言

本期介绍一种新的基于数学的创新元启发式算法——Adam梯度下降优化算法Adam Gradient Descent Optimizer (AGDO)。AGDO受到Adam优化器的启发，利用渐进式梯度动量积分、动态梯度交互系统和系统优化算子三个规则来探索整个搜索过程。于2025年7月最新发表在JCR 1区 SCI，Nature子刊期刊  scientific reports。

随机梯度优化在许多科学和工程学科中具有重要的实用价值。这些领域中的许多问题可以简化为以最大化或最小化特定标量值为目标的参数目标函数的优化。Adam是一种非常有效的随机优化方法，只需要一阶梯度和最小的内存使用。梯度下降算法是一种用于定位目标函数局部最小值的主要优化技术，在机器学习和深度学习中都有广泛的应用。梯度下降法的核心思想是利用目标函数的梯度数据来指导位置的更新。其中，梯度表示目标函数在某一点上增长最快的路径，而与梯度方向相反的方向则是目标函数下降最快的路径。

1. 初始化：和其他群优化算法一样，采用随机初始化。

2. 递进梯度动量积分：它从Adam优化器中使用的梯度动量（一阶矩估计）中获得了重要的灵感。这一阶段结合了基于动量调整方面的动态特性的渐进式动量策略，从而形成了一个创新的位置更新框架。该框架的主要目的是通过系统地修改位置系数来发现潜在的优解，从而提高算法的全局搜索效率。

在预勘探阶段，过于频繁的动量调整可能会导致优化过程中不必要的计算开销和振荡。渐进式梯度动量积分法通过将k的次数设置为1，并将位置更新为

3.动态梯度相互作用系统：通过引入一种可比较的二阶矩估计技术，保证了优化过程的高效利用和稳定收敛。初始位置的选择也是该系统中至关重要的一步

在预开发阶段，系统的主要任务是广泛地探索解决方案空间。这一阶段的目标是通过多种搜索策略发现潜在的高质量解决方案，避免陷入局部最优状态。为了实现这一目标，系统采用了复杂的更新方式来引导搜索方向。

进入后开发阶段后，系统的目标转向微调，以保证解决方案的质量和稳定收敛。该阶段的策略侧重于快速引导当前解接近最优解，优化搜索过程变得更加高效和集中。具体更新公式如下所示

在动态梯度交互系统中，信任域策略包括位置更新判断和最优位置更新两个部分。首先，考虑位置更新的条件

接下来，考虑最优位置的更新

4. 系统优化算子：在动态梯度交互系统的开发阶段，虽然系统已经具备了比较优秀的寻优能力，但在解空间的整体开发上可能还存在一些不足。为了解决这些问题，系统优化算子阶段强调全局优化方法和自举方法，通过结合Levy飞行策略共同增强解空间探索，从而使系统能够更广泛地搜索并提高其整体性能。

AGDO算法伪代码：

03. 对比验证

原文作者在CEC2017的各个维度和六个实际工程挑战的基准上进行了评估。Wilcoxon秩和检验证实了其有效性。实验结果表明，与其他19种算法相比，AGDO在四个维度（10,30,50和100）上表现出色，并且在其中三个维度上达到了最高的Wilcoxon秩和测试分数。并将AGDO算法与6种SOTA算法进行了比较，结果表明AGDO算法保持了较好的稳定性。

更多详细结果，请参阅相应的文献。

 

参考文献

Xia, Y., Ji, Y. Application of a novel metaheuristic algorithm inspired by Adam gradient descent in distributed permutation flow shop scheduling problem and continuous engineering problems. Sci Rep 15, 21692 (2025). https://doi.org/10.1038/s41598-025-01678-9. 

Matlab代码下载

微信搜索并关注-优化算法侠（英文名：Swarm-Opti），或扫描下方二维码关注，以算法名字搜索历史文章即可下载。

完整代码

AGDO.zip

点击链接跳转：

390种优化算法免费下载-matlab

https://mp.weixin.qq.com/s/EzKqtSwR9r2DkGj-ozJXwA

求解cec测试函数-matlab 

cec2017测试函数使用教程及matlab代码免费下载

cec2018测试函使用教程及matlab代码免费下载

cec2019测试函使用教程及matlab代码免费下载

cec2020测试函使用教程及matlab代码免费下载

cec2021测试函使用教程及matlab代码免费下载

cec2022测试函使用教程及matlab代码免费下载
绘制cec2017/018/2019/2020/2021/2022函数的三维图像教程，SO EASY！

215种群智能优化算法python库

Amazing！Python版215种群智能优化算法https://mp.weixin.qq.com/s?__biz=MzkxMDQ5MDk4Ng==&mid=2247486669&idx=1&sn=6b439e55b37b6482b8d3831ca85f1d55&chksm=c12be0c8f65c69de71ad51d3b736b871ff52f8646e90624f95dd32b024dfaad369d654aaf8fc#rd

解决12工程设计优化问题-matlab

略微出手，工程设计问题（12）（附Matlab代码）https://mp.weixin.qq.com/s?__biz=MzkxMDQ5MDk4Ng==&mid=2247485052&idx=1&sn=80e5573c1c005ee5640e44935044ee35&chksm=c12bea79f65c636fc73758b4f4893502bd89cbd1c5d15d7db15e8b5c94eeae40450439d44944&token=681266555&lang=zh_CN#rd

求解11种cec测试函数-python

【选择自由，免费下载】215种优化算法求解11种cec测试函数-python代码https://mp.weixin.qq.com/s?__biz=MzkxMDQ5MDk4Ng==&mid=2247486669&idx=2&sn=eea8fb04dc507ab9119e2c97c03ca2f6&chksm=c12be0c8f65c69decd6c8109f6b997986bf58725fdbbd7ab03752cb6f61aacdb5a2dc7fec762#rd

解决30种工程设计优化问题-python

【一码解决】215种优化算法求解30个现实世界的工程设计优化问题，让你的论文增色10倍（附Python代码）https://mp.weixin.qq.com/s?__biz=MzkxMDQ5MDk4Ng==&mid=2247486669&idx=3&sn=ea6d26ae7cb651e5c368f4c73ade228e&chksm=c12be0c8f65c69de739af72d9793838f59ab77bfee36bc2c204f96e2a9e5c6d87dfbbbae698e#rd

仅需一行，可改进所有优化算法：21种混沌映射方法-混沌初始化（附matlab代码）

用于改进所有优化算法：21种混沌映射方法-混沌初始化（附matlab代码）21种混沌映射方法-混沌初始化，适用于所有优化算法https://mp.weixin.qq.com/s?__biz=MzkxMDQ5MDk4Ng==&mid=2247486215&idx=2&sn=58f1a69175b0d6431a4c7cdfa114b84d&chksm=c12be702f65c6e14e6bd1ddc33b9cec74991d93303c325853049b7e4afd09039b13083fa79c5&token=25423484&lang=zh_CN#rd

【有经典，有最新】24种信号分解方法（附matlab代码） 

沙场大点兵：24种信号分解方法（附matlab代码）https://mp.weixin.qq.com/s?__biz=MzkxMDQ5MDk4Ng==&mid=2247486001&idx=1&sn=a87c24cb401017a78a90bd1b1439fcb0&chksm=c12be634f65c6f22368b7229a59ac5ef330b89d710c826dbfd1a1c34a02b1dd7e909c7f40d79&token=25423484&lang=zh_CN#rd

 【分类新范式】27种一维数据转换成二维图像的方法-matlab代码

沙场大点兵：27种一维数据转换成二维图像的方法-matlab代码https://mp.weixin.qq.com/s?__biz=MzkxMDQ5MDk4Ng==&mid=2247486260&idx=1&sn=81b1970cb89364c0289ccdfb403e5388&chksm=c12be731f65c6e273a85456326b503b7f35d9f035405050932ff1926e0b1bfa8076b1bc2d1f2&token=25423484&lang=zh_CN#rd