LeCun称梯度下降是最优雅的ML算法吗Marcus我不同意此观点据qq最新资讯显示有更多高效的机器
李梅编辑的最新资讯披露：Gary Marcus与Yann LeCun再次交锋，关于梯度下降之争持续激烈。Marcus在社交媒体上发表文章，回顾了他与LeCun之间的“旧账”和“新仇”，并对LeCun给予了冷淡的态度。
几天前，一位网友在推特上提出了一个问题：机器学习中最优雅美丽的idea是什么？这个问题引起了广泛讨论，有人提到了多重权重更新算法、核技巧、降维等概念。Chris Olah也参与了讨论，他认为ML中的优雅是一种生物学上的优雅，而非数学或物理上的那种。
LeCun表示自己一直试图让理论更注重同事相信梯度下降的力量。他还回忆了一次2000年NIPS会议上的经历，当时他回答说「梯度下降」是他们在ML中学到的最重要的事情，这让那位研究人员感到惊讶。
Marcus则提出深度学习需要补充，而不是替换，并引用了自己的2018年文章，强调深度学习只是众多工具之一。LeCun并不认同这一观点，他认为如果有新的方案，它们仍然应该被封装在深度学习框架内。
这场关于机器学习美学性质和梯度下降作用的辩论，让人们开始思考AI领域未来的发展方向，以及不同方法如何协同工作以达到更高效率。这场争论是否能促进我们对AI理解和应用的一些新视角？值得期待的是，随着技术不断进步，我们将会看到更多关于如何结合不同的方法来解决复杂问题的心智探索。
