2025_NIPS_Curl Descent: Non-Gradient Learning Dynamics with Sign-Diverse Plasticity

文章核心总结

主要内容

该研究聚焦生物神经网络中突触可塑性的多样性，提出“卷曲下降（Curl Descent）”学习机制——通过引入非梯度的“卷曲项”，解释异质可塑性规则（如Hebbian/anti-Hebbian规则、兴奋-抑制神经元特性）如何支持有效学习。研究通过学生-教师框架和随机矩阵理论分析，发现卷曲项的影响依赖网络架构：小幅度卷曲项不破坏解流形稳定性，与梯度下降效果相近；超临界值时，隐藏层卷曲项引发混沌动力学，而读出层卷曲项仍能维持低误差；非线性架构中，卷曲项可通过暂时上升损失函数逃离鞍点，加速收敛。

核心创新点

1. 首次系统提出非梯度“卷曲项”概念，揭示生物神经网络中异质可塑性规则产生的非梯度动力学本质。
2. 建立理论框架量化卷曲项对学习稳定性的影响，发现解流形稳定性与网络压缩比（输入层/隐藏层维度比）、翻转可塑性规则的神经元比例强相关。
3. 验证非线性架构中卷曲下降可加速学习，突破“有效学习必须依赖梯度”的传统认知，为生物启发式优化算法提供新方向。

---

翻译部分（Markdown格式）

Abstract

梯度基算法是人工神经网络训练的基石，但生物神经网络在学习过程中是否采用类似的梯度基策略仍不明确。实验常发现突触可塑性规则具有多样性，但这些规则是否构成对梯度下降的近似尚不清楚。本文探讨了一种此前被忽视的可能性：学习动力学可能包含本质上非梯度的“卷曲”类成分，同时仍能有效优化损失函