有向网络分布式优化的Barzilai-Borwein梯度跟踪方法
高娟1
刘新为2
1.河北工业大学人工智能与数据科学学院,天津 3004012.河北工业大学数学研究院,天津 300401
摘要:本文研究有向网络上的分布式优化问题,其全局目标函数是网络上所有光滑强凸局部目标函数的平均值.受Barzilai-Borwein步长改善梯度方法表现的启发,本文提出了一种分布式Barzilai-Borwein梯度跟踪方法.与文献中使用固定步长的分布式梯度算法不同,所提出的方法中每个智能体利用其局部梯度信息自动地计算其步长.通过同时使用行随机和列随机权重矩阵,该方法避免了由特征向量估计引起的计算和通信.当目标函数是光滑和强凸函数时,本文证明了该算法产生的迭代序列可以线性地收敛到最优解.对分布式逻辑回归问题的仿真结果验证了所提出的算法比使用固定步长的分布式梯度算法表现更好.
关键词:分布式优化多智能体系统有向图Barzilai-Borwein方法优化算法收敛速度
论文发表日期:2023-09-28
在线出版日期:2025-08-15(本平台首次上网日期,不代表文献的发表时间)
页数:9( 1637-1645 )
英文信息
