国内刊号:44-1240/TP
国际刊号:1000-8152
发布日期:
作者:刘佳旭,陈嵩,蔡声泽,许超,褚健
单位:浙江大学数学科学学院,浙江大学数学科学学院,浙江大学控制科学与工程学院,浙江大学控制科学与工程学院,宁波工业与互联网研究院
关键词:梯度下降法; 自适应算法; 鲁棒控制; 分数阶微积分; 加速算法
基金:科技创新2030新一代人工智能重大项目(2018AAA0100902),国家重点研发计划(2019YFB1705800),国家自然科学基金(61973270)
当目标函数是强凸函数时, 一般的分数阶梯度下降法不能够使函数收敛到最小值点, 只能收敛到一个包含最小值点的区域内或者是发散的. 为了解决这个问题, 本文提出了自适应分数阶梯度下降法(AFOGD)和自适应分数阶加速梯度下降法(AFOAGD)两种新的优化算法. 受到鲁棒控制理论中二次约束和李雅普诺夫稳定性理论的启发, 建立了一个线性矩阵不等式去分析所提出的算法的收敛性. 当目标函数是L-光滑且m-强凸时, 算法可以达到R线性收敛. 最后几个数值仿真证明了算法的有效性和优越性.
来源:2024年第7期
《控制理论与应用》期刊编辑部