重尾噪声下的去中心化 SGD：最优收敛率与梯度裁剪的作用

论文研究重尾噪声下的去中心化非凸优化，指出裁剪方法此前只能得到次优收敛率、归一化方法需局部动量或小批量才能收敛。作者证明带裁剪的去中心化 SGD 在光滑非凸目标、有界 p 阶矩噪声（p∈(1,2]）下，于高概率和期望意义下均达到阶最优收敛率。

AI推荐理由 理论工作：证明在重尾噪声（有界 p 阶矩，p∈(1,2]）下，带梯度裁剪的去中心化 SGD 在光滑非凸目标上达到阶最优收敛率（高概率与期望意义）。对分布式优化与联邦学习有参考价值，但偏理论、与 AI 应用落地距离较远。