SoftServe：面向深度学习的可扩展拟牛顿方法

论文提出 SoftServe，一类无需线搜索或临时曲率修正的拟牛顿方法，旨在克服非凸性与超大参数量对拟牛顿法在深度学习中应用的限制。SoftServe 从 Berglund 等（2025）的变分目标导出正定曲率估计，即使存在负曲率；并给出对角与 Kronecker 分解变体，通过构造保持正定性并扩展到大规模网络，同时用稳定的耦合 Newton-Schulz 迭代以 GPU 友好的矩阵乘法替代昂贵矩阵分解。

AI推荐理由 提出 SoftServe 拟牛顿方法族，从 Berglund 等（2025）的变分目标导出正定曲率估计，即使存在负曲率；提供对角与 Kronecker 分解变体，并用稳定的耦合 Newton-Schulz 迭代替代昂贵矩阵分解。面向深度学习中拟牛顿法受非凸性与参数量限制的长期难题，方法设计具体，但摘要未给出量化实验结果。