LLaMA可谓是「驼红是非多」。

新版本刚发布没多久,就遭到了LSTM之父Jürgen Schmidhuber的炮轰。



Schmidhuber称,Meta在训练LLaMA 2的时候用到了他在1991年提出的想法,结果LLaMA却对他疯狂抹黑。

一开始,网友发现在询问LLaMA 2关于Schmidhuber的事时,得到了令人意外的回复。

LLaMA还说,Schmidhuber「从事过有害活动」「对社会没有贡献」云云。



有网友猜测,这个回答是LeCun硬编码进去的。



LLaMA究竟是故意还是不小心的,这一点无从考证,不过可以确定的是这个消息传到了Schmidhuber的耳朵里。

Schmidhuber要求Meta和LeCun对此做出解释,两方到目前均没有回应。

Schmidhuber提到的1991年的成果,是一种Transformer的线性(未归一化)变体。

Schmidhuber说,这也是最早的Transformer变体。相关论文在1992年发表,1993年登上了ICANN。



另外,根据Schmidhuber的说法,LeCun在「抢成果」方面已经是「惯犯」了。

不仅是LLaMA,LeCun还有很多成果都用到了他的想法,却声称自己是首创。

Schmidhuber称,早在2017年,Meta(当时还叫Facebook)就使用了他发明的LSTM。

不过当时Facebook的通告当中通篇未提及Schmidhuber的名字。

甚至还说LSTM是自己发明的。



又如在2022年,LeCun总结了10年来AI领域最重要的五大突破。



Schmidhuber表示,这些成果大部分都是来自他的实验室:

当时的LeCun毫不客气地回怼,还对Schmidhuber挖苦了一番:



Schmidhuber接下来又拿出了LeCun的一篇关于机器自主智能的论文。

Schmidhuber说,这篇论文中涉及了1990-2015年间的成果,但并未标注引用。



为了充分展示这篇论文中「抢」走的成果,Schmidhuber还专门做了一个网页,详细列举了有关内容。



具体内容这里就不一一介绍了,我们来看LeCun是怎么回应的。

LeCun先是呛了一句,「咱就不能说点有建设性的意见吗?」,之后又说:



就这样,这场战火一直烧到今年。

2月,Schmidhuber发推称,LeCun既没有承认错误,也没有通过正确的方式(OpenReview)对他的论文进行辩护,而是针对Schmidhuber发表了极具误导性的观点。



直到这次LLaMA 2被曝出发表攻击Schmidhuber的言论,两人之间的争斗似乎仍未平息。

「羊驼事件」发生之后,有网友调侃性地创造了「Schmidhubered」这个新单词。

「schmidhubered」的表现包括下面这几点:



如果Schmidhuber的说法都属实,那么这个词的解释的确形象地描述了他的遭遇。

LeCun这次又会做出什么样的回应?还是让子弹再飞一会儿……

参考链接:
[1]https://people.idsia.ch/~juergen/lecun-rehash-1990-2022.html
[2]https://twitter.com/SchmidhuberAI/status/1683870175299239937