Linguista · 2025-08-23

AI学习理论的革命:彩票假说

深度学习领域长期以来存在一个悖论:我们构建的神经网络通常拥有数百万甚至数十亿个参数,远超理论上解决问题的需求。本文揭示了研究人员在一次试图简化网络的实验中,偶然发现了一个颠覆性的理论——彩票假说。

这一发现表明,在庞大的随机初始化神经网络中,隐藏着一些极其稀疏但性能卓越的子网络。只要能找到这些“中了彩票”的子网络并单独训练,就能在大幅减少计算资源的同时,保持甚至提升原有的模型性能。文章详细阐述了这一现象如何挑战了传统的“奥卡姆剃刀”原则,以及它为解决现代 AI 模型的高能耗问题提供了全新的思路。

AI学习理论的革命:彩票假说 全屏