圖靈獎得主楊立昆：“AI將接管世界，但不會征服人類”

【編者按】作為圖靈獎得主和 Meta 首席 AI 科學(xué)家，楊立昆（Yann LeCun）是 AI 技術(shù)最有力的捍衛(wèi)者之一。

當(dāng)他的前合作者 Geoffrey Hinton和 Yoshua Bengio 宣稱 AI 滅絕論時，LeCun 并沒有參與。相反，他簽署了一封公開信，呼吁擁抱開源 AI，并稱 AI不應(yīng)由少數(shù)幾家企業(yè)控制。

那么，AI 到底是會給人類帶來毀滅性災(zāi)難，還是會加速推動人類社會的發(fā)展？這也是自 ChatGPT 問世一年多以來，業(yè)內(nèi)早已存在的兩種對抗聲音。

近日，LeCun 接受了美國數(shù)字媒體 WIRED 的訪談，就上述問題做出了回答。核心觀點(diǎn)如下：

AI 將在一定程度上實(shí)現(xiàn)創(chuàng)造力的民主化，它們可以寫出非常流暢的文字，這些文字具有非常棒的風(fēng)格，但它們也很無聊，因為它們想出的東西可能完全是假的。

從長遠(yuǎn)來看，未來人類與數(shù)字世界的所有互動，以及在某種程度上，人類彼此之間的互動，都將以 AI 系統(tǒng)為媒介。

AI 必須是開源的，因為當(dāng)平臺成為通信結(jié)構(gòu)的重要組成部分時，我們需要一個共同的基礎(chǔ)設(shè)施。

Yann LeCun 認(rèn)為，自己不屬于“加速主義”或“滅論絕”中的任何一個思想流派，他并不喜歡這些標(biāo)簽。

Yann LeCun 并不認(rèn)可 AGI，因為根本不存在通用智能。智能不是一種可以測量的線性事物，不同類型的智能實(shí)體擁有不同的技能。

在 AI 系統(tǒng)中設(shè)定目標(biāo)是確保其可控性和安全性的唯一途徑，并將其稱之為目標(biāo)驅(qū)動型AI，這是一種全新的架構(gòu)，目前我們尚未見到任何范例。

Yann LeCun 認(rèn)為，研究界已經(jīng)不太關(guān)心 OpenAI 了，因為他們沒有發(fā)表論文，也沒有透露他們在做什么。我的一些前同事和學(xué)生在 OpenAI 工作，我們?yōu)樗麄兏械诫y過，因為 OpenAI 出現(xiàn)了不穩(wěn)定因素。

學(xué)術(shù)頭條在不改變原文大意的情況下，做了精心的編譯，內(nèi)容如下：

不要對 Yann LeCun 講一些末日論。作為現(xiàn)代 AI 的先驅(qū)和 Meta 首席 AI 科學(xué)家，LeCun 是這項技術(shù)最有力的捍衛(wèi)者之一。他對同行們所描繪的錯誤信息甚至導(dǎo)致人類滅絕的烏托邦式場景嗤之以鼻。他經(jīng)常在 X 上發(fā)推斥責(zé)那些制造恐懼的人們。當(dāng)他的前合作者 Geoffrey Hinton 和 Yoshua Bengio 將他們的名字放在一份聲明的首位，稱 AI 是一種“社會級別的風(fēng)險”時，LeCun 沒有參與。相反，他簽署了一封致美國總統(tǒng) Joe Biden 的公開信，呼吁擁抱開源 AI，并稱 AI 不應(yīng)由少數(shù)幾家企業(yè)控制。

LeCun 的觀點(diǎn)很重要。他與 Hinton 和 Bengio 一起，幫助創(chuàng)建了對 AI 水平提升至關(guān)重要的深度學(xué)習(xí)方法，三人也因此獲得了計算機(jī)領(lǐng)域的最高榮譽(yù)——圖靈獎。2013 年，Meta（當(dāng)時的 Facebook）聘請他擔(dān)任了 FAIR 的創(chuàng)始主任。另外，他還是紐約大學(xué)教授。最近，他幫助說服首席執(zhí)行官 Mark Zuckerberg 與世界分享 Meta 的一些 AI 技術(shù)。今年夏天，Meta 推出了一款名為 “Llama 2” 的開源大型語言模型（LLMs），與 OpenAI、微軟和谷歌競爭。一些批評者警告稱，這種開源策略可能會讓不法分子通過修改代碼繞過對 LLMs 輸出中有害內(nèi)容的防護(hù)措施。做為 AI 領(lǐng)域最杰出的人物之一，LeCun 認(rèn)為人類可以解決這個問題。

今年秋天，我和 LeCun 在紐約 Meta Midtown 辦公室的一間會議室里進(jìn)行了交談。我們談到了開源、為什么他認(rèn)為 AI 的危險性被夸大了，以及計算機(jī)是否能像 Charlie Parker 的薩克斯獨(dú)奏那樣打動人心。（LeCun 在巴黎郊外長大，經(jīng)常出入紐約的爵士俱樂部）。12 月，當(dāng) LeCun 出席 NeurIPS 會議時，我們又進(jìn)行了一次對話。考慮到篇幅和清晰度，我們對訪談內(nèi)容進(jìn)行了編輯。

Steven Levy：在最近的一次演講中，你說“機(jī)器學(xué)習(xí)糟透了”。為什么像你這樣的 AI 先驅(qū)會這么說？

Yann LeCun：機(jī)器學(xué)習(xí)很棒。但那種認(rèn)為我們只需要擴(kuò)大現(xiàn)有技術(shù)的規(guī)模，就能實(shí)現(xiàn)具有人類水平的 AI 的想法呢？要讓機(jī)器像人類和動物一樣高效學(xué)習(xí)，我們還缺少一些重要的東西，但我們還不知道那是什么。

我不想抨擊這些系統(tǒng)，也不想說它們一無是處，我在整個職業(yè)生涯中，就一直專注于這些。但是，我們必須抑制某些人的興奮，他們認(rèn)為我們只需要擴(kuò)大規(guī)模，就能很快獲得人類智能。絕對不是這樣的。

你認(rèn)為你有責(zé)任揭露這些事情。

沒錯。AI 將為世界帶來許多好處，但一些人正通過人們對這項技術(shù)的恐懼來濫用它。我們必須警惕，以免讓人們望而卻步。這也是我們在其他革新世界的技術(shù)上犯下的錯誤。就拿 15 世紀(jì)印刷術(shù)的發(fā)明來說，天主教會憎恨它，對嗎？人們可以自己閱讀《圣經(jīng)》，而不用向牧師請教。幾乎所有權(quán)力者都反對廣泛使用印刷術(shù)，因為這會改變權(quán)力結(jié)構(gòu)。他們是對的，這造成了長達(dá) 200 年的宗教沖突。但它也帶來了啟蒙運(yùn)動。[注：歷史學(xué)家可能會指出，教會實(shí)際上利用印刷術(shù)達(dá)到了自己的目的，但不管怎樣，LeCun 是這樣想的。］

為什么如此多的科技界知名人士都在敲響 AI 的警鐘？

有些人在尋求關(guān)注，有些人沒有看清當(dāng)今的真實(shí)情況。他們沒有意識到，AI 實(shí)際上可以減少仇恨言論和錯誤信息。在 Meta，我們利用 AI 在這方面取得了巨大的進(jìn)步。五年前，在我們從平臺上刪除的所有仇恨言論中，大約有 20% 到 25% 是 AI 系統(tǒng)在任何人看到之前刪除的。去年，這一比例達(dá)到了 95%。

你如何看待聊天機(jī)器人？它們是否強(qiáng)大到足以取代人類的工作？

他們太棒了，人們已經(jīng)在這方面取得了巨大的進(jìn)步。它們將在一定程度上實(shí)現(xiàn)創(chuàng)造力的民主化，它們可以寫出非常流暢的文字，這些文字具有非常棒的風(fēng)格，但它們也很無聊，因為它們想出的東西可能完全是假的。

Meta 似乎一心想要開發(fā)這些技術(shù)，并將其應(yīng)用到產(chǎn)品中。

從長遠(yuǎn)來看，未來我們與數(shù)字世界的所有互動，以及在某種程度上，我們彼此之間的互動，都將以 AI 系統(tǒng)為媒介。我們必須嘗試那些現(xiàn)在還沒有強(qiáng)大到足以做到這一點(diǎn)，但即將實(shí)現(xiàn)這一點(diǎn)的東西，或者在日常生活中幫助人類創(chuàng)造東西，無論是文字還是實(shí)時翻譯，諸如此類，也可能是在元宇宙中。

在 Meta，Mark 如何推進(jìn) AI 方面的工作？

Mark 非常投入。今年年初，我與他進(jìn)行了一次討論，并把我剛才告訴你的那些內(nèi)容告訴了他，未來我們所有的互動都將以 AI 為媒介。ChatGPT 向我們展示了 AI 對新產(chǎn)品的作用，這比我們預(yù)想得要早。我們看到，公眾對 AI 功能的癡迷程度遠(yuǎn)遠(yuǎn)超出了我們的想象。因此，Mark 決定創(chuàng)建一個專注于生成式 AI 的產(chǎn)品部門。

Meta 為什么決定以開源的方式與他人共享 Llama 代碼？

當(dāng)你擁有一個開放的平臺，許多人都能為之做出貢獻(xiàn)時，進(jìn)步就會變得更快。最終開發(fā)出的系統(tǒng)會更安全，性能也會更好。想象一下，在未來，我們與數(shù)字世界的所有互動都將以 AI 系統(tǒng)為媒介。你不會希望 AI 系統(tǒng)被美國西海岸的少數(shù)公司所控制。也許美國人不在乎，也許美國政府不在乎。但我現(xiàn)在告訴你，在歐洲，他們不會喜歡的。他們會說：“好吧，這個能說正確的英語。但法語呢？德語呢？匈牙利語呢？荷蘭語或其他語言呢？你是怎么訓(xùn)練它的？這如何反映我們的文化？”

這似乎是讓初創(chuàng)企業(yè)使用你的產(chǎn)品并擊敗競爭對手的好辦法。

我們不需要向任何人妥協(xié)，這就是世界發(fā)展的方向。AI 必須是開源的，因為當(dāng)平臺成為通信結(jié)構(gòu)的重要組成部分時，我們需要一個共同的基礎(chǔ)設(shè)施。

有一家公司不同意這種說法，那就是 OpenAI，而你似乎并不喜歡它。

剛開始時，他們設(shè)想創(chuàng)建一個非營利組織，從事 AI 研究，從而抗衡谷歌和 Meta 等主導(dǎo)行業(yè)研究的公司。我認(rèn)為這是一個錯誤的想法，事實(shí)證明，我是對的。OpenAI 已經(jīng)不再開放（open）。Meta 一直是開放的，現(xiàn)在也是。我想說的第二件事是，除非你有辦法為 AI 研究提供資金，否則你很難開展實(shí)質(zhì)性的 AI 研究。最終，他們不得不成立一個營利機(jī)構(gòu)，并從微軟那里獲得投資。所以，盡管 OpenAI 有一定的獨(dú)立性，但他們現(xiàn)在基本上就是微軟的合作研究機(jī)構(gòu)。第三點(diǎn)，那就是他們相信通用人工智能（AGI）指日可待，而且他們會比任何人都更早地開發(fā)出來，但他們做不到。

Sam Altman 被踢出了首席執(zhí)行官的職位，然后又回到了不同的董事會，你如何看待 OpenAI 的這一戲劇性事件？你認(rèn)為這對研究界或行業(yè)有什么影響嗎？

我認(rèn)為研究界已經(jīng)不太關(guān)心 OpenAI 了，因為他們沒有發(fā)表論文，也沒有透露他們在做什么。我的一些前同事和學(xué)生在 OpenAI 工作，我們?yōu)樗麄兏械诫y過，因為 OpenAI 出現(xiàn)了不穩(wěn)定因素。研究工作的發(fā)展離不開穩(wěn)定的環(huán)境，而一旦發(fā)生類似的戲劇性事件，人們就會變得猶豫不決。此外，對從事研究工作的人來說，另一個重要方面就是開放性，而 OpenAI 真的不再開放了。因此，從這個意義上說，OpenAI 已經(jīng)發(fā)生了變化，他們不再被視為研究界的貢獻(xiàn)者。這一切都掌握在開放平臺手中。

這一事件被稱為是 AI “加速主義”的勝利，而 “加速主義” 恰恰與 “滅絕論” 相反。我知道你不是一個“滅絕論支持者”，但你是一個 “加速主義者” 嗎？

不，我不喜歡這些標(biāo)簽。我不屬于任何一個思想流派。我非常謹(jǐn)慎，不會把這類思想推向極端，因為太容易陷入完全循環(huán)，從而做出愚蠢的事情。

歐盟最近發(fā)布了一套 AI 法規(guī)，其中有一條就是在很大程度上豁免了開源模型。這將對 Meta 和其他公司產(chǎn)生哪些影響？

這在一定程度上影響到了 Meta，但我們有足夠的實(shí)力來遵守任何法規(guī)。對于那些沒有自己的資源從頭開始構(gòu)建 AI 系統(tǒng)的國家來說，這一點(diǎn)要重要得多。他們可以依靠開源平臺，擁有符合其文化、語言和興趣的 AI 系統(tǒng)。在不遠(yuǎn)的將來，我們與數(shù)字世界的絕大多數(shù)互動都將以 AI 系統(tǒng)為媒介。你不會希望這些東西被加利福尼亞的少數(shù)公司所控制。

你是否參與幫助監(jiān)管機(jī)構(gòu)得出這一結(jié)論？

我在與監(jiān)管機(jī)構(gòu)探討，但沒有直接和他們交談。我一直在與各國政府交流，尤其是法國政府，但也間接與其他國家的政府交流。基本上，他們不希望公民的數(shù)字消費(fèi)被少數(shù)人控制，法國政府很早就接受了這一想法。不幸的是，我沒有和歐盟層面的人談過，他們更多受到末日預(yù)言的影響，希望對一切進(jìn)行監(jiān)管，以防止他們認(rèn)為可能發(fā)生的災(zāi)難發(fā)生。但是，這遭到了法國、德國和意大利政府的反對，他們認(rèn)為，歐盟必須為開源平臺做出特別的規(guī)定。

但是，開源 AI 真的難以控制和監(jiān)管嗎？

對于安全性非常重要的產(chǎn)品，已經(jīng)有相關(guān)的法規(guī)。比如，如果你要用 AI 來設(shè)計新藥，就已經(jīng)有法規(guī)來確保這種產(chǎn)品是安全的。我認(rèn)為這是有道理的。人們正在爭論的問題是，對 AI 的研發(fā)進(jìn)行監(jiān)管是否合理。我認(rèn)為沒有意義。

難道不會有人能利用大公司發(fā)布的復(fù)雜開源系統(tǒng)來占領(lǐng)世界嗎？只要獲得源代碼和權(quán)重，恐怖分子或騙子就能為 AI 系統(tǒng)提供破壞性能力。

他們需要在某個隱蔽的地方獲得 2000 個 GPU，需要足夠的資金和人才來完成這項工作。

我認(rèn)為，他們最終會想出如何制造自己的 AI 芯片。

沒錯，但它會比先進(jìn)技術(shù)落后幾年實(shí)現(xiàn)。這就是在世界歷史中，每當(dāng)科技進(jìn)步的時候，你都無法阻止壞人獲取它，然后就是善意 AI 對抗邪惡 AI。保持領(lǐng)先的方法就是加快進(jìn)步，實(shí)現(xiàn)更快進(jìn)步的方法是開放研究，讓更多人參與其中。

如何定義 AGI？

我不喜歡 AGI 這個詞，因為根本不存在通用智能。智能不是一種可以測量的線性事物，不同類型的智能實(shí)體擁有不同的技能。

一旦讓計算機(jī)達(dá)到人類的智能水平，它們就不會止步于此。憑借豐富的知識、機(jī)器級的數(shù)學(xué)能力和更好的算法，它們會創(chuàng)造出超級智能，對嗎？

是的，毫無疑問，機(jī)器最終會比人類更聰明。我們不知道這需要多長時間，可能是幾年，也可能是幾個世紀(jì)。

到那時，我們就得束手就擒嗎？

不是。我們都將擁 AI 助手，就像與一群超級聰明的員工一起工作一樣，只是它們不是人而已。人類會因此受到威脅，但我認(rèn)為我們應(yīng)該感到興奮。最讓我興奮的是與比我更聰明的人一起工作，因為這會擴(kuò)展你自己的能力。

但是，如果計算機(jī)獲得超級智能，它們?yōu)槭裁催€需要我們呢？

我們沒有理由相信，AI 系統(tǒng)一旦變得智能，就會想替代人類。如果人們認(rèn)為 AI 系統(tǒng)會有和人類一樣的動機(jī)，那就大錯特錯了。它們不會，因為我們會在設(shè)計中進(jìn)行設(shè)定。

來源：圖蟲創(chuàng)意

如果人類沒有建立這些目標(biāo)，而超級智能系統(tǒng)一心追求某個目標(biāo)，最終傷害了人類呢？就像哲學(xué)家 Nick Bostrom 所舉的例子：一個被設(shè)計為無論如何都要制造回形針的系統(tǒng)，為了制造更多的回形針而占領(lǐng)了整個世界。

如果只是建立系統(tǒng)而忽略了防護(hù)措施，那就顯得太愚蠢了。這就好比制造一輛搭載了 1000 馬力發(fā)動機(jī)卻沒有剎車系統(tǒng)的汽車。在 AI 系統(tǒng)中設(shè)定目標(biāo)是確保其可控性和安全性的唯一途徑，我將其稱之為目標(biāo)驅(qū)動型 AI。這是一種全新的架構(gòu)，目前我們尚未見到任何范例。

這就是你現(xiàn)在的工作嗎？

是的，我們的想法是，機(jī)器有它需要滿足的目標(biāo)，它不能產(chǎn)生任何不符合這些目標(biāo)的東西。這些目標(biāo)可能包括防止危險發(fā)生的防護(hù)措施或其他東西，這就是讓 AI 系統(tǒng)安全的方法。

你認(rèn)為你會為你所促成的 AI 的后果而后悔嗎？

如果我認(rèn)為是這樣的話，我就不會再這么做了。

你是一個爵士樂迷。AI 產(chǎn)生的任何東西能否與迄今為止只有人類才能產(chǎn)生的令人興奮的創(chuàng)造力相媲美？它能創(chuàng)造出有靈魂的作品嗎？

答案很復(fù)雜。是的，AI 系統(tǒng)最終將能創(chuàng)作出音樂、視覺藝術(shù)或其他作品，其技術(shù)質(zhì)量與人類相似，甚至更勝一籌。但是，AI 系統(tǒng)并不具備創(chuàng)作即興音樂的能力，因為即興音樂依賴于人類的情緒和情感交流。AI 至少現(xiàn)在還沒有這種能力，這就是爵士樂需要現(xiàn)場聆聽的原因。

你還沒回答我這種音樂是否有靈魂。

你已經(jīng)有了完全沒有靈魂的音樂。這種音樂可以在餐廳里播放的背景音樂中聽到，主要由機(jī)器生產(chǎn)，這就是市場。

但我說的是藝術(shù)的頂峰。如果我放給你聽的是 Charlie Parker 最好的錄音，然后告訴你這是 AI 生成的，你會不會覺得被騙了？

是，也不是。是的，因為音樂不僅僅是一種聽覺體驗，其中很多是文化體驗，這是對表演者的欽佩。你的例子就像 Milli Vanilli，真實(shí)是藝術(shù)體驗的重要組成部分。

如果 AI 系統(tǒng)足以與精英藝術(shù)成就相媲美，而你又不知道其背后的故事，那么市場上就會充斥著 Charlie Parker 級別的音樂，而我們卻無法分辨其中的差別。

我認(rèn)為這沒有任何問題。我還是會買原版，就像我還是會買一個價值 300 美元的手工碗，雖然我花 5 美元就能買到一個看起來差不多的東西，但它還是來自一個有著數(shù)百年文化的地方。我們?nèi)匀粫ガF(xiàn)場聆聽我最喜歡的爵士音樂家的演奏，盡管他們可以被模仿。AI 系統(tǒng)的體驗是不一樣的。

你最近從馬克龍總統(tǒng)那里獲得了一項榮譽(yù)，我無法讀出這些法語......

法國榮譽(yù)軍團(tuán)騎士（Chevalier de la Légion d'honneur）。它是由拿破侖創(chuàng)立的。它有點(diǎn)類似于英國的爵士頭銜，不過我們有一場革命，所以我們不稱呼人們?yōu)椤熬羰俊薄?/p>

有武器裝備嗎？

不，他們沒有劍之類的東西。但是，擁有這種武器的人可以在衣襟上佩戴紅色小條紋。

AI 模型能贏得這一獎項嗎？

不會很快，反正我覺得這不是個好主意。

原文作者：Steven Levy

原文鏈接：https://www.wired.com/story/artificial-intelligence-meta-yann-lecun-interview/

編譯：閆一米