刚刚Hinton携手LeCun被炮轰抄袭

大佬互撕，学术诚信遭质疑！

“意外” 喜提 诺奖的Hinton 刚对Sam Altman 一顿输出，就又“喜迎大礼”，收到了 下面的这张手绘图……

上图出自著名AI专家Jürgen Schmidhuber最近发布的一份长达88页的报告，其在报告中 炮轰三位2018年图灵奖得主Yoshua Bengio、Geoffrey Hinton和Yann LeCun，指责他们反复抄袭并重新发表他及其团队的工作，却未给予适当的引用。

看到这里，你可能要问了： 谁是Schmidhuber？

Jürgen Schmidhuber简介

Jürgen Schmidhuber 是当代人工智能和深度学习领域的先锋和奠基者之一。

他的研究涵盖了人工智能的多个核心领域，并在元学习（Meta-Learning）、生成对抗网络（GANs）、Transformer模型、深度学习等方面提出了许多创新性理论和方法。他的贡献对现代人工智能的发展产生了深远影响，其研究成果被全球科技公司和研究机构广泛应用。

主要贡献

元学习（Meta-Learning） :早在1987年，Schmidhuber提出了元学习的概念，即学习如何学习（learning to learn），该方法可以自动地调整模型的学习策略和参数，显著提升模型在新任务上的表现能力。

生成对抗网络（GANs） :虽然GANs在2014年由Ian Goodfellow及其合作者重新提出，但Schmidhuber早在1990年就提出了类似的思想。他的研究强调了生成模型和判别模型之间的对抗过程，为后来的GANs奠定了理论基础。

Transformer模型 :Transformer模型被广泛用于自然语言处理（NLP）任务中，而Schmidhuber在1991年就提出了基于自注意力机制的模型结构，为后来的Transformer发展做出了重要贡献。

深度学习（Very Deep Learning） :在1991年，他与合作者开发了长短时记忆网络（LSTM），这种架构突破了传统神经网络的局限性，能够在处理长序列数据时保持稳定的梯度传播。LSTM目前被广泛应用于语音识别、机器翻译和时间序列预测等领域。

影响力与应用

Schmidhuber的研究不仅推动了理论的发展，也在实际应用中得到了广泛验证。他所提出的方法每天被全球数十亿次使用，其影响力遍及Google、Apple、Microsoft、IBM等顶尖科技公司。

个人及学术背景

现任职务 : 瑞士人工智能实验室IDSIA的联合创始人兼科学总监，致力于推动人工智能的前沿研究。

技术报告及文章 : 他撰写的技术报告和论文详细记录了人工智能领域的历史发展和重要争议，其中包括对学术界优先权（priority）争议的阐述和对AI历史的深度剖析。

Schmidhuber的论据

Schmidhuber列举了 17项具体的优先权争议 ，涵盖了从生成对抗网络(GANs)到消失梯度问题等多个深度学习领域的关键概念和方法。

他声称，这三位得奖者不仅在最初发表时未引用他的原创工作，更令人不安的是， 即使在后续出版物中也未能纠正这一错误 。

这份报告引发了学术界的广泛关注。

Schmidhuber强调，根据ACM的《道德与职业行为准则》，计算机专业人士应该 "尊重创意、发明、作品和人工制品的创造者，并适当引用版权、专利、商业秘密、许可协议和其他保护作者作品的方法。"

然而，他指出这三位得奖者并未遵循这一准则，反而 互相引用对方的工作 ，为彼此积累引用次数，同时忽视了其他研究者的贡献。

报告中最引人注目的争议之一是关于 生成对抗网络(GANs) 。

Schmidhuber声称，Bengio等人2014年发表的GAN论文实际上是他1990年提出的人工好奇心原理的一个简单应用，但 未引用原始工作 。即便在后来的出版物中，他们也未能纠正这一问题。

另一个重要争议涉及 消失梯度问题 。

Schmidhuber表示，他的学生Sepp Hochreiter在1991年首次识别并分析了这个问题，但Bengio在1994年发表的相关论文中 未引用Hochreiter的工作 。

Schmidhuber还指出，即使在2021年的图灵奖演讲中，三位得奖者仍然 只引用了Bengio 2014年的GAN论文 ，而没有提及这一概念源自他1990年的工作。

这份报告不仅挑战了学术界的引用惯例，还质疑了 引用计数作为衡量开创性工作的指标 的可靠性。Schmidhuber指出，由于不当引用，Bengio在消失梯度问题上的引用次数竟然超过了Hochreiter。

Schmidhuber呼吁ACM评估所提供的证据，并决定是否需要采取进一步行动。他强调，科学的本质在于自我纠正，并表示愿意在收到基于事实的反馈后修正报告中的任何不准确之处。

网友热议

Schmidhuber的炮轰引起了吃瓜群众的热 烈讨论。

Dave 和Deedy 认为，诺奖并没有颁错，因为它不是发明奖而是贡献奖——取决于谁用它带来了最大的改变。

Louis 则建议Schmidhuber 向诺奖委员会进行沟通。

也有众多网友为Schmidhuber 站台，认为 Schmidhuber 理应得到更多认可。

Schmidhuber 提供的资料

作者：J. Schmidhuber

标题 : 三位图灵奖得主如何重新发表了重要方法和思想，而未提及其原始创作者文献 : IDSIA-23-23技术报告，瑞士人工智能实验室IDSIA，2023年12月14日

文献链接 : https://people.idsia.ch/~juergen/ai-priority-disputes.html

预印本 : arXiv:2212.11279

该报告是2015年获奖综述的扩展版：

https://people.idsia.ch/~juergen/deep-learning-history.html

2015年获奖综述链接：

https://people.idsia.ch/~juergen/deep-learning-overview.html

截至发稿，Yoshua Bengio、Geoffrey Hinton和Yann LeCun 三人未有回复。