智东西（公众号：zhidxcom）
编译 | 吴浪娜
编辑 | 漠影
智东西10月12日消息，据《华尔街日报》今天报道，图灵奖得主、Meta首席AI科学家杨立昆接受了该媒体的采访，他认为许多专家夸大了AI的力量和危险，他希望人们了解这一点。在采访中，他(ta)称有关AI这项(xiang)技术生存危机的警告(gao)“完全(quan)是胡说八道（that’s complete B.S.）”。
杨立(li)昆是引发(fa)当今的AI热潮的重(zhong)要(yao)人(ren)物之一。但当其他(ta)杰出的技术专(zhuan)家告诉我们，我们即将拥(yong)有(you)超越人(ren)类(lei)智能的计(ji)算机，甚至(zhi)人(ren)类(lei)可能被(bei)其取代时，杨立(li)昆却坚定地成为(wei)了AI热潮中最有(you)资(zi)历的怀疑(yi)论者。
在(zai)社交媒(mei)体(ti)、演讲和辩论中，这(zhei)位纽(niu)约(yue)(yue)大(da)学(xue)教(jiao)授兼(jian)Meta的(de)(de)(de)人工智能大(da)师与那些鼓吹生成式(shi)AI具有超人潜力的(de)(de)(de)支持(chi)者和预言家们展开(kai)了(le)争论，包括埃隆·马斯克（Elon Musk）和杨立(li)昆(kun)的(de)(de)(de)两位同行(xing)先(xian)驱。杰弗里·辛顿（Geoffrey Hinton）和约(yue)(yue)书亚·本(ben)吉(ji)奥（Yoshua Bengio）与杨立(li)昆(kun)一起(qi)拥有“AI教(jiao)父”的(de)(de)(de)非官方头衔，其中辛顿是杨立(li)昆(kun)近40年(nian)的(de)(de)(de)朋友，在(zai)本(ben)周获得了(le)诺贝(bei)尔物理学(xue)奖，他曾多次就AI的(de)(de)(de)生存威胁发出(chu)警(jing)告。
杨立昆认为，当今的AI模型虽然有(you)用，但远不能与(yu)我(wo)们的宠物的智(zhi)力(li)相(xiang)媲美，更不用说与(yu)我(wo)们人类相(xiang)比了。当(dang)《华尔街日(ri)报》记者问他(ta)，我(wo)们(men)是(shi)否(fou)应该(gai)担心(xin)AI很(hen)快会变得非常强(qiang)大以(yi)至于对我(wo)们(men)构成危险时，他(ta)打趣道：“请原谅我(wo)说脏话，但那完全是(shi)胡说八道。”
他(ta)的(de)工作成果以及他(ta)是在一(yi)家大型科技公司(si)中成就(jiu)显著的(de)AI研(yan)究(jiu)实验(yan)室之一(yi)的(de)领导人，这让杨(yang)立昆的(de)观(guan)点更有分(fen)量。
杨立昆(kun)告诉记者，他(ta)对AI产(chan)生(sheng)兴趣的(de)部分(fen)原因是斯坦利·库(ku)布里克(ke)（Stanley Kubrick）1968年的(de)科幻经典电影《2001：太空漫游》中(zhong)的(de)流氓(mang)人工(gong)智能(neng)HAL 9000。他(ta)在巴黎(li)北部长大(da)，在从(cong)索邦大(da)学(xue)获(huo)得博士学(xue)位后，他(ta)在传奇的(de)贝尔实验室工(gong)作，从(cong)晶(jing)体管到(dao)激光(guang)等许多发(fa)明都诞生(sheng)于此。2003年，他(ta)加入纽约(yue)大(da)学(xue)担任计(ji)算机(ji)科学(xue)教授，十年后，他(ta)成为当(dang)时(shi)的(de)Facebook的(de)AI研究主管。
2019年，杨立(li)昆、辛顿(dun)和本吉奥一起获得了图(tu)灵奖，这是计(ji)算机科(ke)学的(de)最(zui)高奖项。这个奖项使这三人被称(cheng)为“AI教父”，以表(biao)彰他(ta)们在神(shen)经网络方面的(de)基础性(xing)工作，神(shen)经网络是许多(duo)当今最(zui)强(qiang)大的(de)AI系统的(de)基础，从OpenAI的(de)聊天机器人到自动(dong)驾(jia)驶汽车。
▲2019年(nian)，杨立(li)昆（中(zhong)间(jian)）与本(ben)吉奥(ao)（最(zui)(zui)左边(bian)）和辛顿（最(zui)(zui)右边(bian)）共同获得了计算机科学领域的最(zui)(zui)高奖项图(tu)灵奖（图(tu)源：《华尔街日报》）
如今，杨立昆继续(xu)在纽约大学与他(ta)的(de)博(bo)士生一(yi)起发表论(lun)文，同时他(ta)作为(wei)Meta的(de)首席AI科学家，领(ling)导着世界上(shang)资(zi)金雄厚的(de)AI研究(jiu)组织之(zhi)一(yi)。他(ta)经常与Meta CEO马(ma)克(ke)(ke)·扎克(ke)(ke)伯(bo)(bo)格（Mark Zuckerberg）见(jian)面并通过WhatsApp聊天，扎克(ke)(ke)伯(bo)(bo)格正将Meta定位为(wei)AI热潮中对抗苹果(guo)和OpenAI等(deng)其他(ta)科技巨头(tou)的(de)力量。
在(zai)现实生活中(zhong)，杨立昆有(you)(you)一种让人(ren)消除戒心的(de)(de)魅力：调皮、机智，随时(shi)准(zhun)备说出他认(ren)为是(shi)自己领域的(de)(de)残(can)酷(ku)真相。64岁(sui)的(de)(de)他看起来既时(shi)尚又有(you)(you)点邋遢，这很适合一位曾经(jing)的(de)(de)巴黎人(ren)，他的(de)(de)眼(yan)镜(jing)是(shi)经(jing)典的(de)(de)黑色雷(lei)朋镜(jing)框。
坐在Meta位于纽(niu)约市的(de)一个卫星(xing)办(ban)公室的(de)会议室里，他散发着温暖和亲切的(de)自(zi)信，带着那种让你(ni)觉得(de)自(zi)己也(ye)参与了(le)这(zhei)个笑话的(de)笑容发表他的(de)尖锐观(guan)点(dian)。
一、杨立昆否认AI威胁论，称现有AI不如一只宠物猫
杨立昆与(yu)竞(jing)争(zheng)对手和(he)朋(peng)友都进行过争(zheng)论。今年(nian)春天(tian)，他在(zai)海外社交(jiao)平台X上与(yu)马斯克就科学研究的本质发生了(le)激烈争(zheng)辩。
杨立昆(kun)还(hai)在公开场合与辛顿和本吉(ji)奥就他们反复发出的AI对人类构成危险的警(jing)告表示(shi)不同意。
本吉(ji)奥(ao)说，他在很多问题(ti)上与杨立(li)昆意见一致(zhi)，但在公司是否可以被信任(ren)以确保(bao)未(wei)来(lai)的(de)超人(ren)(ren)类(lei)人(ren)(ren)工(gong)智(zhi)(zhi)能(neng)（superhuman AIs）不会被人(ren)(ren)类(lei)恶(e)意使用，或者(zhe)超人(ren)(ren)类(lei)人(ren)(ren)工(gong)智(zhi)(zhi)能(neng)不会产生自己的(de)恶(e)意意图这一问题(ti)上存在分(fen)歧。
“我(wo)(wo)希望他是对的(de)(de)，但我(wo)(wo)认为(wei)我(wo)(wo)们(men)不应该仅(jin)仅(jin)依靠公司之间(jian)的(de)(de)竞争和利润(run)动机(ji)来(lai)保护公众和民(min)主(zhu)，”本吉奥说，“这就是为(wei)什么(me)我(wo)(wo)认为(wei)我(wo)(wo)们(men)需要政府的(de)(de)参与。”
杨立昆认为(wei)AI是一(yi)个强大的(de)工(gong)具。在整个采访中，他列举(ju)了许多AI在Meta变得极(ji)其重(zhong)(zhong)要的(de)例(li)子，并使Meta的(de)规模和收入(ru)达到了目(mu)前约1.5万亿美元的(de)价值。AI是Meta工(gong)作中不可或(huo)缺的(de)一(yi)部分(fen)，从实时翻译到内容审核，除了其基础(chu)AI研究团队（称为(wei)FAIR）之外，Meta还有一(yi)个以产品为(wei)重(zhong)(zhong)点(dian)的(de)AI小组GenAI，正(zheng)在追求其大型(xing)语言模型(xing)的(de)更(geng)好版(ban)本。
“这对Meta的影响确实非常巨大。”他说。
同时(shi)，他确信当今的AI在(zai)任何有意义上(shang)都不是智能的——而且该领域的许多其(qi)他人(ren)，尤其(qi)是在(zai)AI初创(chuang)公司中(zhong)，准(zhun)备以他认为荒谬的方式推(tui)断其(qi)最近的发展。
如果杨立昆的(de)(de)(de)观点是正(zheng)确的(de)(de)(de)，这对当(dang)(dang)今一些(xie)最热门的(de)(de)(de)初(chu)创公(gong)司来说意(yi)味(wei)着麻烦，更不用(yong)说那(nei)些(xie)向AI投入数百亿美元的(de)(de)(de)科技巨头了。他(ta)们中的(de)(de)(de)许多人(ren)都寄(ji)希望(wang)于这样一种想法(fa)，即当(dang)(dang)今基于大语言模型的(de)(de)(de)AI，如OpenAI的(de)(de)(de)那(nei)些(xie)，正(zheng)处(chu)于在短期内创造(zao)所谓的(de)(de)(de)“通用(yong)人(ren)工智能”（AGI）的(de)(de)(de)道(dao)路上，这种AI将远远超过人(ren)类水(shui)平(ping)的(de)(de)(de)智能。
OpenAI的萨姆·阿尔特曼（Sam Altman）上(shang)个(ge)月在一篇博客中提到，我(wo)们可能在“几千天内”拥(yong)有AGI。马斯克则认为(wei)可能在2026年实现(xian)。
杨(yang)立昆认为这样的说(shuo)法可能(neng)为时(shi)过早(zao)。今年(nian)5月，一位即将离职的OpenAI研究人(ren)员谈(tan)到需要学习如何控制超智能(neng)人(ren)工(gong)智能(neng)时(shi)，杨(yang)立昆进行(xing)了反驳。“在我看(kan)来，在‘紧急(ji)弄清楚如何控制比我们(men)聪(cong)明得多的AI系统(tong)’之(zhi)前，我们(men)需要先(xian)设计(ji)一个比家(jia)猫更聪(cong)明的系统(tong)。”他在X上回复道。
他喜欢猫的比喻。他说，毕竟猫科动物拥有物理世界的心理模型、持久的记忆、一些推理能力和计划能力。而这(zhei)些品质在当(dang)今的“前沿”AI中都不存(cun)在，包括Meta自己制造的AI。
自1986年就认(ren)识(shi)杨立昆的(de)莱昂·博图（Léon Bottou）说(shuo)，杨立昆是一(yi)种“善意的(de)固执”，也(ye)就是说(shuo)，他愿意倾听别人的(de)观点，但会一(yi)心(xin)一(yi)意地追求他认(ren)为构建AI的(de)正确方法。
亚历(li)山(shan)大·里(li)夫斯（Alexander Rives）曾是杨立昆的博士生，后来创(chuang)立了一家AI初创(chuang)公司，他(ta)说(shuo)杨立昆的挑衅是经过(guo)深思熟虑(lv)的。“他(ta)有这样的历(li)史，即真的能(neng)够看(kan)到(dao)该领域在思考问题方式(shi)上(shang)的差距，并指出这一点，”里(li)夫斯说(shuo)。
二、杨立昆认为只是堆砌芯片和数据的规模并不能实现AGI
杨立(li)昆认为真正的AGI是一个(ge)有价值的目(mu)标——Meta也(ye)在努力实现(xian)这个(ge)目(mu)标。
“在未来，当人们(men)(men)与他们(men)(men)的AI系统、智能眼镜或其他任何(he)东(dong)西交谈时(shi)，我们(men)(men)需要(yao)这些AI系统基本上(shang)具有(you)人类水平的特征，真(zhen)正(zheng)具有(you)常识，并真(zhen)正(zheng)像人类助手一(yi)样表现。”他在采访中说。
但他接着补充道，创造(zao)一(yi)(yi)个如(ru)此有能(neng)力(li)的(de)AI可能(neng)需要几十年(nian)的(de)时间——而当今的(de)主导方(fang)法(fa)无法(fa)让我们实现这一(yi)(yi)目标。
生成式AI热潮是由大(da)语言模(mo)型(xing)和(he)类(lei)似的(de)系统(tong)推动(dong)的(de)，这些系统(tong)在海量数据上进行(xing)训练以模(mo)仿人(ren)类(lei)表达(da)。随着每一(yi)(yi)代(dai)模(mo)型(xing)变得更(geng)加(jia)强大(da)，一(yi)(yi)些专(zhuan)家得出(chu)结论，只(zhi)要(yao)将更(geng)多的(de)芯片(pian)和(he)数据投(tou)入到开发未来的(de)AI中，就能(neng)(neng)使(shi)它们变得更(geng)有能(neng)(neng)力，最终(zhong)与人(ren)类(lei)智(zhi)(zhi)能(neng)(neng)相(xiang)匹配(pei)或超越人(ren)类(lei)智(zhi)(zhi)能(neng)(neng)。这就是在构建越来越多的(de)专(zhuan)用芯片(pian)池以训练AI方面进行(xing)大(da)量投(tou)资的(de)背后逻辑。
杨立昆(kun)认为当(dang)今AI系(xi)统的问(wen)题(ti)在于它们(men)的设计方式，而不是它们(men)的规(gui)模。他说，无论科技巨头在全球(qiu)的数(shu)据中心中塞进(jin)多少GPU，当(dang)今的AI都不会让我(wo)们(men)实(shi)现(xian)AGI。
他(ta)的(de)(de)(de)(de)赌(du)注(zhu)是，对于(yu)以(yi)不同方式工作的(de)(de)(de)(de)AI的(de)(de)(de)(de)研究将为我们开启一(yi)条通往(wang)人类水平(ping)智能的(de)(de)(de)(de)道路(lu)。这些假设的(de)(de)(de)(de)未来AI可能有多(duo)种形式，但目前(qian)让(rang)杨立昆兴奋的(de)(de)(de)(de)项目之一(yi)是在FAIR进行的(de)(de)(de)(de)从现实世(shi)界(jie)的(de)(de)(de)(de)视(shi)频中提取信(xin)(xin)息的(de)(de)(de)(de)工作。这个想法是创建(jian)以(yi)类似于(yu)幼(you)年动物的(de)(de)(de)(de)方式学习的(de)(de)(de)(de)模型，通过(guo)从其(qi)所接收的(de)(de)(de)(de)视(shi)觉信(xin)(xin)息中构建(jian)一(yi)个世(shi)界(jie)模型。
用于ChatGPT和(he)(he)其他(ta)聊天机器人的(de)大语言模型(xing)将来可能在使用一(yi)系(xi)列(lie)其他(ta)技术和(he)(he)算法构建的(de)具有常(chang)识和(he)(he)类人类能力的(de)系(xi)统中只(zhi)发挥(hui)很小的(de)作用。
他说(shuo)，当今的(de)模型(xing)实际上只是在(zai)预测文本中(zhong)的(de)下一个(ge)单词。但(dan)它(ta)(ta)(ta)(ta)们(men)在(zai)这(zhei)方面非常擅长，以至于欺骗了我们(men)。而且(qie)由于它(ta)(ta)(ta)(ta)们(men)巨(ju)大的(de)存储(chu)容量，它(ta)(ta)(ta)(ta)们(men)似乎在(zai)进行推(tui)理，但(dan)实际上它(ta)(ta)(ta)(ta)们(men)只是在(zai)重复(fu)已(yi)经训练过的(de)信息。
“我们习惯于这(zhei)样的想(xiang)法，即能够表达(da)自己或(huo)(huo)操纵(zong)语(yu)言(yan)的人或(huo)(huo)实体是(shi)(shi)聪(cong)明的——但(dan)这(zhei)不是(shi)(shi)真的，”杨立昆说(shuo)，“你可以操纵(zong)语(yu)言(yan)但(dan)并不聪(cong)明，而这(zhei)基(ji)本上就是(shi)(shi)大语(yu)言(yan)模(mo)型所展示的。”
结语：三位“AI教父”的对于AI威胁论持不同意见
曾经一同(tong)获得2018年(nian)度图灵奖的三位“AI教父”，如(ru)今(jin)对(dui)于AI的认(ren)识(shi)与思考逐渐产生(sheng)了(le)分歧。
杨立(li)昆否(fou)认AI威胁论(lun)，认为(wei)此类(lei)言论(lun)是“胡说(shuo)八道(dao)”，现(xian)有(you)的AI没有(you)人类(lei)想象中强大(da)，实现(xian)AGI也为(wei)时尚早，想要(yao)创造出超越人类(lei)的智能则有(you)更长的路要(yao)走。
而另外两(liang)位科学(xue)家，辛顿和(he)本吉奥，则(ze)不(bu)断敲响警(jing)钟，呼吁大众(zhong)、企业和(he)政府对(dui)AI背后的道德和(he)伦理进行深刻反思。
辛顿曾提(ti)出(chu)AI威胁论，他在(zai)诺贝(bei)尔(er)奖颁奖典礼电话(hua)采访中谈道，很担心AI会(hui)失去(qu)控制并取代人类(lei)，OpenAI应(ying)该(gai)把安全研究放(fang)在(zai)首位。他还(hai)曾说过，AI可能(neng)创造出(chu)超越(yue)人类(lei)的智能(neng)，这可能(neng)会(hui)导(dao)致人类(lei)处于劣势。
本吉奥在今天发布的(de)最(zui)新采访视频中说道：“我(wo)们(men)不清楚如何避免(mian)这些(xie)系统变得自主，并有自己的(de)保护目(mu)标，我(wo)们(men)可(ke)能会失(shi)去对这些(xie)系统的(de)控制。所以我(wo)们(men)可(ke)能正在走上一条(tiao)创(chuang)造(zao)比我(wo)们(men)更强大的(de)怪物的(de)道路。”
来源：《华尔街日(ri)报》、雅虎(hu)
