摘要: 对随机经典动量算法(CM)的收敛速度问题进行深入研究,通过对传统带动量随机梯度下降算法的迭代公式进行改造,在非强凸和光滑的条件下得到了算法的收敛阶。当动量系数pt取常数的时候,收敛阶为O,当动量系数pt取变系数的时候,通过设置不同的学习率,分别得到收敛速率。最后通过数值实验说明其合理性。
中图分类号:
费经泰, 查星星, 王冬银. 非强凸和光滑条件下随机经典动量算法的收敛性[J]. 巢湖学院学报, 2021, 23(3): 51-54+60.
FEI Jing-tai, ZHA Xing-xing, WANG Dong-yin. Convergence of Stochastic Classical Momentum Algorithm with Non-strongly Convex and Non-smooth[J]. Journal of Chaohu University, 2021, 23(3): 51-54+60.