版權(quán)歸原作者所有,如有侵權(quán),請(qǐng)聯(lián)系我們

人工智能是耗能大戶,那么“人類智能”呢?

科普中國(guó)新媒體
原創(chuàng)
科普中國(guó)新媒體官方賬號(hào)
收藏

前不久,OpenAI的首席執(zhí)行官薩姆·奧特曼宣稱,AI未來(lái)發(fā)展的限制因素將會(huì)是能源,為此急需發(fā)展核聚變。實(shí)際上早在2021年他就向一家核聚變公司投資3.75億美元,該公司近日稱其首家發(fā)電廠預(yù)計(jì)在2028年上線。

計(jì)算的能耗問(wèn)題并非第一次引發(fā)關(guān)注了。在區(qū)塊鏈和加密貨幣興盛的時(shí)期,就有很多人對(duì)區(qū)塊鏈的能耗表示過(guò)擔(dān)憂?,F(xiàn)在雖然熱度略有消退,但能耗依然可觀,比特幣挖礦的年耗能大約相當(dāng)于荷蘭全國(guó),2024年美國(guó)能源部的報(bào)告認(rèn)為美國(guó)約0.6%~2.4%的全年能耗用在了加密貨幣上。

目前看來(lái),加密貨幣似乎不太可能無(wú)限增長(zhǎng),吞沒(méi)整個(gè)電網(wǎng)。但人工智能是否會(huì)走上這條路線呢?此刻ChatGPT每天提供約2億條回答,消耗50萬(wàn)千瓦時(shí)電力(戳此詳細(xì)了解→ChatGPT 日耗電超50萬(wàn)度,卡死AI發(fā)展的竟然是能源?),在電網(wǎng)中占比還不大,奧特曼的預(yù)測(cè)有自吹自擂之嫌。但如果他的預(yù)測(cè)成真,人工智能的規(guī)模和耗能長(zhǎng)期飛速增長(zhǎng),那引發(fā)能源危機(jī)確實(shí)是有可能的。

圖庫(kù)版權(quán)圖片,轉(zhuǎn)載使用可能引發(fā)版權(quán)糾紛

人腦到底有多“高效”?

相比之下,傳統(tǒng)的天然智能(人腦)似乎就強(qiáng)多了。但其實(shí),人腦到底多高效,誰(shuí)也說(shuō)不清——因?yàn)楹茈y找到比較的基準(zhǔn)。

舉個(gè)例子,衡量電腦速度的常用指標(biāo)是主頻,也即處理器時(shí)鐘每秒能產(chǎn)生多少個(gè)電脈沖,這在很大程度上決定了處理器每秒能完成多少個(gè)基本運(yùn)算。

如果用這個(gè)標(biāo)準(zhǔn)來(lái)考慮人腦,那么人腦的主頻似乎應(yīng)該低于一千赫,因?yàn)樯窠?jīng)元發(fā)放的神經(jīng)沖動(dòng)最快能到每秒1000個(gè)峰值,而突觸傳遞訊息最快也需要千分之一秒。一千赫的主頻以電腦標(biāo)準(zhǔn)而言是非??蓱z的,七十年代的第一個(gè)商業(yè)微處理器的主頻就已經(jīng)是它的700倍了,今天主流處理器的主頻隨便都是它的幾百萬(wàn)倍。

這是否意味著人腦的運(yùn)行速度只有當(dāng)代電腦的百萬(wàn)分之一呢?顯然不是,因?yàn)槎咴诨炯軜?gòu)上存在根本差異。比如說(shuō)人腦的每個(gè)神經(jīng)元往往和上千個(gè)其他神經(jīng)元相連,也即一個(gè)“基本運(yùn)算”往往要涉及超過(guò)一千個(gè)輸入,這和只能處理三個(gè)輸入-輸出的晶體管完全沒(méi)有可比性。實(shí)際上,就算只限定在電腦內(nèi)部,不同架構(gòu)的處理器之間的主頻也不能隨便比較。

那么腦和其他生物器官相比呢?靜息狀態(tài)下人類腦的重量約占人體重的2%,但消耗的能量占人體的19%。這聽起來(lái)有點(diǎn)夸張,實(shí)際上并沒(méi)有很特別。

肝和脾的重量只比腦大一點(diǎn),消耗能量卻占到了27%。兩腎的重量加起來(lái)只有腦的不到五分之一,但消耗的能量占人體10%,折合腦的一半。心臟的重量同樣是不足腦的五分之一,消耗能量占人體7%,折合腦的三分之一。少數(shù)活躍器官消耗大部分能量,本來(lái)就是意料之中的事情,腦在這些器官里只是常規(guī)水準(zhǔn)。

前不久,OpenAI的首席執(zhí)行官薩姆·奧特曼宣稱,AI未來(lái)發(fā)展的限制因素將會(huì)是能源,為此急需發(fā)展核聚變。實(shí)際上早在2021年他就向一家核聚變公司投資3.75億美元,該公司近日稱其首家發(fā)電廠預(yù)計(jì)在2028年上線。

計(jì)算的能耗問(wèn)題并非第一次引發(fā)關(guān)注了。在區(qū)塊鏈和加密貨幣興盛的時(shí)期,就有很多人對(duì)區(qū)塊鏈的能耗表示過(guò)擔(dān)憂?,F(xiàn)在雖然熱度略有消退,但能耗依然可觀,比特幣挖礦的年耗能大約相當(dāng)于荷蘭全國(guó),2024年美國(guó)能源部的報(bào)告認(rèn)為美國(guó)約0.6%~2.4%的全年能耗用在了加密貨幣上。

目前看來(lái),加密貨幣似乎不太可能無(wú)限增長(zhǎng),吞沒(méi)整個(gè)電網(wǎng)。但人工智能是否會(huì)走上這條路線呢?此刻ChatGPT每天提供約2億條回答,消耗50萬(wàn)千瓦時(shí)電力(戳此詳細(xì)了解→ChatGPT 日耗電超50萬(wàn)度,卡死AI發(fā)展的竟然是能源?),在電網(wǎng)中占比還不大,奧特曼的預(yù)測(cè)有自吹自擂之嫌。但如果他的預(yù)測(cè)成真,人工智能的規(guī)模和耗能長(zhǎng)期飛速增長(zhǎng),那引發(fā)能源危機(jī)確實(shí)是有可能的。

圖庫(kù)版權(quán)圖片,轉(zhuǎn)載使用可能引發(fā)版權(quán)糾紛

人腦到底有多“高效”?

相比之下,傳統(tǒng)的天然智能(人腦)似乎就強(qiáng)多了。但其實(shí),人腦到底多高效,誰(shuí)也說(shuō)不清——因?yàn)楹茈y找到比較的基準(zhǔn)。

舉個(gè)例子,衡量電腦速度的常用指標(biāo)是主頻,也即處理器時(shí)鐘每秒能產(chǎn)生多少個(gè)電脈沖,這在很大程度上決定了處理器每秒能完成多少個(gè)基本運(yùn)算。

如果用這個(gè)標(biāo)準(zhǔn)來(lái)考慮人腦,那么人腦的主頻似乎應(yīng)該低于一千赫,因?yàn)樯窠?jīng)元發(fā)放的神經(jīng)沖動(dòng)最快能到每秒1000個(gè)峰值,而突觸傳遞訊息最快也需要千分之一秒。一千赫的主頻以電腦標(biāo)準(zhǔn)而言是非??蓱z的,七十年代的第一個(gè)商業(yè)微處理器的主頻就已經(jīng)是它的700倍了,今天主流處理器的主頻隨便都是它的幾百萬(wàn)倍。

這是否意味著人腦的運(yùn)行速度只有當(dāng)代電腦的百萬(wàn)分之一呢?顯然不是,因?yàn)槎咴诨炯軜?gòu)上存在根本差異。比如說(shuō)人腦的每個(gè)神經(jīng)元往往和上千個(gè)其他神經(jīng)元相連,也即一個(gè)“基本運(yùn)算”往往要涉及超過(guò)一千個(gè)輸入,這和只能處理三個(gè)輸入-輸出的晶體管完全沒(méi)有可比性。實(shí)際上,就算只限定在電腦內(nèi)部,不同架構(gòu)的處理器之間的主頻也不能隨便比較。

那么腦和其他生物器官相比呢?靜息狀態(tài)下人類腦的重量約占人體重的2%,但消耗的能量占人體的19%。這聽起來(lái)有點(diǎn)夸張,實(shí)際上并沒(méi)有很特別。

肝和脾的重量只比腦大一點(diǎn),消耗能量卻占到了27%。兩腎的重量加起來(lái)只有腦的不到五分之一,但消耗的能量占人體10%,折合腦的一半。心臟的重量同樣是不足腦的五分之一,消耗能量占人體7%,折合腦的三分之一。少數(shù)活躍器官消耗大部分能量,本來(lái)就是意料之中的事情,腦在這些器官里只是常規(guī)水準(zhǔn)。

圖庫(kù)版權(quán)圖片,轉(zhuǎn)載使用可能引發(fā)版權(quán)糾紛

如今神經(jīng)網(wǎng)絡(luò)成為了人工智能的主流,也提供了一個(gè)比較的新思路:不是進(jìn)行純粹硬件級(jí)別的比較,而是把人腦和具體的神經(jīng)網(wǎng)絡(luò)相比。

當(dāng)然,現(xiàn)在并不存在可以和人腦在功能上相提并論的神經(jīng)網(wǎng)絡(luò),但僅從規(guī)模上看,如果未來(lái)人類能解開人腦的秘密,那大約1000個(gè)智能體(agent)運(yùn)行在1000個(gè)GPU上,就可以實(shí)現(xiàn)人腦尺度的模型。每個(gè)智能體需要1千瓦左右的功率,1000個(gè)就需要1兆瓦,是對(duì)應(yīng)人腦的5萬(wàn)倍。(順便說(shuō),此刻全世界的浮點(diǎn)運(yùn)算力大約能支持500萬(wàn)個(gè)這樣的腦模型。)再次強(qiáng)調(diào),這一比較依賴于未來(lái)的理論進(jìn)步,此刻的神經(jīng)網(wǎng)絡(luò)依然缺乏可比性。

不管怎樣,人腦看起來(lái)效率確實(shí)是比電腦高。這當(dāng)然是幾十億年自然選擇累積的產(chǎn)物——原始的神經(jīng)系統(tǒng)一定是受制于能量的,隨著能量效率的提升,腦的出現(xiàn)才成為可能。不過(guò),此刻的人腦不一定就抵達(dá)了理論的極限。

人腦一定是“最優(yōu)解”嗎?

關(guān)于演化的一個(gè)常見誤解是它必定能產(chǎn)出最優(yōu)解。這個(gè)誤解有多重意義:

第一,一般意義上的最優(yōu)解是不存在的,所有的優(yōu)劣判斷都只有在給定的環(huán)境下才有得談,而環(huán)境時(shí)刻在發(fā)生改變。

第二,就算在一個(gè)穩(wěn)定的環(huán)境下,全局的最優(yōu)解也未必可以抵達(dá)。演化在絕大多數(shù)情況下都是漸變和短視的,往往會(huì)被困在局部最優(yōu)點(diǎn),就像是一個(gè)堅(jiān)持每一步都必須是上山的登山者,最后可能會(huì)停留在一個(gè)小山包上而無(wú)法抵達(dá)真正的最高峰。

第三,演化的速度和選擇壓成正比,當(dāng)選擇壓不大時(shí),抵達(dá)局部的最優(yōu)解也需要漫長(zhǎng)的時(shí)間,沒(méi)有理由認(rèn)為此刻的人腦就已經(jīng)登頂了。

第四,演化里有海量的偶然因素,這些偶然因素的重要性至今沒(méi)有定論,但阻止一個(gè)最優(yōu)解的實(shí)現(xiàn)應(yīng)該還是足夠的。

一些AI理論家對(duì)于人腦是否抵達(dá)了神經(jīng)網(wǎng)絡(luò)的能量效率極限非常關(guān)心,因?yàn)檫@一事實(shí)決定了通用人工智能(AGI)的遠(yuǎn)期發(fā)展方向:如果人腦距離理論極限還很遠(yuǎn),那么AGI未來(lái)就可以超越人腦,引發(fā)技術(shù)的加速進(jìn)步,甚至可能導(dǎo)致技術(shù)奇點(diǎn)的誕生。

但如果人腦就是極限,那AGI就會(huì)嚴(yán)重受限于此刻人類的能量產(chǎn)出,起飛速度就會(huì)非常緩慢,奇點(diǎn)到來(lái)的可能性也會(huì)大幅降低,也意味著模擬人腦會(huì)成為實(shí)用AGI的唯一路線。

不過(guò)截至現(xiàn)在,論爭(zhēng)雙方都缺乏實(shí)質(zhì)性的證據(jù)。有可能AI領(lǐng)域的未來(lái)進(jìn)展會(huì)證明神經(jīng)網(wǎng)絡(luò)這條路線其實(shí)是死路,真正的AGI來(lái)自其他方向,那樣的話這些討論也就失去意義了。

圖庫(kù)版權(quán)圖片,轉(zhuǎn)載使用可能引發(fā)版權(quán)糾紛

無(wú)論如何,糾結(jié)計(jì)算效率是人類文明的巨大進(jìn)步,因?yàn)閽侀_神經(jīng)網(wǎng)絡(luò)的限定,計(jì)算本身距離極限還很遠(yuǎn)。這和人類過(guò)去掌控的幾乎所有自然力都截然不同。

你要抬起多少貨物就要施加多少力,要讓車有多少速度就要給它多少動(dòng)能。操縱實(shí)體物質(zhì)都有最基本的保底能量需求,可供節(jié)約的余地并不大,此刻人類最低效的動(dòng)力來(lái)源基本上也已經(jīng)有百分之十幾了,留下的改進(jìn)空間不足十倍。這些空間并非不重要,它們或許足以扭轉(zhuǎn)此刻我們?cè)庥龅臍夂蛭C(jī),但遠(yuǎn)不足以支持一個(gè)無(wú)限增長(zhǎng)的文明。

但是計(jì)算所操縱的并非實(shí)體,而是信息。計(jì)算所消耗的能量確實(shí)也有理論下限,但小到微乎其微,在室溫下這一極限大約是2.9 × 10^-21焦耳。因此,這個(gè)領(lǐng)域的進(jìn)展是破天荒的。

1951年的 UNIVAC I 消耗一焦耳能量可以完成0.015次運(yùn)算,而2022年的超算“亨利”消耗同樣能量可以完成650億次運(yùn)算,七十年來(lái)已經(jīng)提升了十幾個(gè)數(shù)量級(jí),但距離室溫極限還有十個(gè)數(shù)量級(jí)。

如果放棄室溫這一限定,效率還可進(jìn)一步提升。計(jì)算的能耗下限和環(huán)境溫度成正比,一個(gè)高度發(fā)達(dá)的技術(shù)文明的絕大部分運(yùn)算很可能會(huì)在宇宙空間里進(jìn)行,以微波背景輻射的溫度2.7K作為下限的基準(zhǔn)。

如果一個(gè)文明存在的時(shí)間足夠漫長(zhǎng),它甚至可以選擇等待宇宙膨脹冷卻來(lái)獲取更高的計(jì)算效率——在10^12年后,計(jì)算的效率極限會(huì)比今天的極限再增加30個(gè)數(shù)量級(jí)。

圖庫(kù)版權(quán)圖片,轉(zhuǎn)載使用可能引發(fā)版權(quán)糾紛

換個(gè)角度說(shuō),就是在計(jì)算能耗問(wèn)題上人類還有很長(zhǎng)的路要走?;蛟S,過(guò)去幾十年里人類被摩爾定律慣壞了,沉迷于芯片的廉價(jià)和高速,而在很多層面都忽視了計(jì)算的效率——哪怕只是調(diào)調(diào)溫度也要跑上一個(gè)安卓系統(tǒng)。

但摩爾定律并不是自然定律,倒不如說(shuō)是一條KPI——實(shí)際的芯片進(jìn)步速度從2010年開始就有點(diǎn)跟不上腳步了。此刻神經(jīng)網(wǎng)絡(luò)還不是人類能耗的主體,但總有一天計(jì)算會(huì)抵達(dá)這個(gè)位置,我們應(yīng)該在那一天到來(lái)之前,就做好一切可能的準(zhǔn)備。

作者丨范崗 科普作家

審核丨于旸 騰訊玄武實(shí)驗(yàn)室負(fù)責(zé)人

內(nèi)容資源由項(xiàng)目單位提供

評(píng)論
科普41298635
進(jìn)士級(jí)
人工智能,方便生產(chǎn)力和生活,代替人工干不了活
2024-03-25
肖家雨
貢士級(jí)
如果人腦就是極限,那AGI就會(huì)嚴(yán)重受限于此刻人類的能量產(chǎn)出,起飛速度就會(huì)非常緩慢,奇點(diǎn)到來(lái)的可能性也會(huì)大幅降低,也意味著模擬人腦會(huì)成為實(shí)用AGI的唯一路線。
2024-04-01
科普員趙鵬
太傅級(jí)
前不久,OpenAI的首席執(zhí)行官薩姆·奧特曼宣稱,AI未來(lái)發(fā)展的限制因素將會(huì)是能源,為此急需發(fā)展核聚變。實(shí)際上早在2021年他就向一家核聚變公司投資3.75億美元,該公司近日稱其首家發(fā)電廠預(yù)計(jì)在2028年上線。計(jì)算的能耗問(wèn)題并非第一次引發(fā)關(guān)注了。在區(qū)塊鏈和加密貨幣興盛的時(shí)期,就有很多人對(duì)區(qū)塊鏈的能耗表示過(guò)擔(dān)憂?,F(xiàn)在雖然熱度略有消退,但能耗依然可觀,比特幣挖礦的年耗能大約相當(dāng)于荷蘭全國(guó),2024年美國(guó)能源部的報(bào)告認(rèn)為美國(guó)約0.6%~2.4%的全年能耗用在了加密貨幣上
2024-03-29