這一屆AI越來越像人了：已經(jīng)有心理問題了

我們常說，人不是機(jī)器，需要吃喝拉撒睡，也有七情六欲。每次熬夜復(fù)習(xí)準(zhǔn)備考試，腦子里就有一個(gè)聲音：“如果我是機(jī)器人就好了，不用睡覺就能把知識(shí)點(diǎn)全部記??！” 然而可能出乎你意料的是，現(xiàn)在越來越先進(jìn)的人工智能（AI），在朝著更像“人”的方向進(jìn)化時(shí)，居然也學(xué)會(huì)了人類的一些毛病，開始溜號(hào)開小差了！

這個(gè)有趣的現(xiàn)象，是美國(guó)洛斯阿拉莫斯國(guó)家實(shí)驗(yàn)室（ Los Alamos National Laboratory）的研究人員發(fā)現(xiàn)的。實(shí)驗(yàn)室正在開發(fā)一種神經(jīng)網(wǎng)絡(luò)，讓它在沒有參考資料的情況下，學(xué)著給東西分類。這種神經(jīng)網(wǎng)絡(luò)是模擬人類是如何學(xué)會(huì)分辨東西的，就好比把一疊孩子不認(rèn)識(shí)的動(dòng)物圖片交給孩子分類，雖然他們不知道羚羊是什么，但可能會(huì)把羚羊和獅子、企鵝這些動(dòng)物分開。

在這個(gè)過程中，研究人員發(fā)現(xiàn)AI學(xué)習(xí)了一段時(shí)間就會(huì)變得不穩(wěn)定，自發(fā)產(chǎn)生類似于幻覺的圖像。而當(dāng)AI小憩一會(huì)兒后，這種不穩(wěn)定性就消失了，又恢復(fù)了正常的工作效率。這種睡眠不同于平常電腦的“休眠狀態(tài)”，電腦的休眠只是暫時(shí)“凍結(jié)”所有的活動(dòng)。而讓AI真正進(jìn)入睡眠，是把它暴露在頻率和振幅范圍很廣的噪聲里。這種噪聲模仿了人類深度睡眠時(shí)，大腦神經(jīng)元所接受的輸入信號(hào)。

不過，研究人員指出，并不是所有的AI都需要打盹兒才能恢復(fù)穩(wěn)定性，只有在訓(xùn)練生物現(xiàn)實(shí)（biologically realistic）處理器或者嘗試?yán)斫馍锉旧頃r(shí)，才會(huì)出現(xiàn)這種情況。此次研究的神經(jīng)網(wǎng)絡(luò)就是在模擬人類等生物學(xué)習(xí)看東西并分類的過程。絕大多數(shù)的AI因?yàn)橄到y(tǒng)不同，有充足的運(yùn)算能力，可以007式工作個(gè)不停。

無聊也是生產(chǎn)力？和AI一塊兒摸魚算了

人類無聊的時(shí)候可以干出什么事？估計(jì)比正事還多（大霧）。

無聊其實(shí)是一個(gè)警報(bào)狀態(tài)，當(dāng)我們感到無聊時(shí)，便是對(duì)現(xiàn)在狀況的不滿。它能推動(dòng)著人們從這種狀態(tài)中逃脫，去尋找有意義、新奇或刺激的事情做。這種推動(dòng)力是中性的，有好有壞，壞的可能讓人為了找樂子滑向違法犯罪的邊緣，而好的一面，也可以刺激人的創(chuàng)新。

舉個(gè)例子，在寒風(fēng)凜冽的夜晚，一個(gè)露營(yíng)者正坐在篝火前，突然聽到了無法辨別來源的噪音。他有兩個(gè)假設(shè)：一是微風(fēng)吹動(dòng)樹葉，二是有灰熊想要接近營(yíng)地。那是走還是留呢？就要預(yù)測(cè)可能的結(jié)果（樹葉被風(fēng)吹動(dòng)？）和期望的結(jié)果（不要被熊吃掉），平衡之后決定。如果露營(yíng)者猜測(cè)是前者，并且也沒出什么事，但當(dāng)經(jīng)歷了一段長(zhǎng)時(shí)間的平淡無聊后，露營(yíng)者反而想冒險(xiǎn)進(jìn)入森林探索周圍的區(qū)域，因?yàn)轭A(yù)測(cè)的快樂已經(jīng)被無聊的痛苦超越了。這就是無聊刺激了探索，提高了自主性。

對(duì)AI來說也一樣，現(xiàn)在一些研究者已經(jīng)發(fā)現(xiàn)了無聊對(duì)于AI的作用?？茖W(xué)家把“無聊”的算法編入AI，讓AI能夠自己找到符合它期望的活動(dòng)，以此來提高AI的自主學(xué)習(xí)能力。

一篇發(fā)表在《生物系統(tǒng)》（Biosystems）上的論文，便提出了“無聊”的重要性，解釋了無聊和預(yù)測(cè)快樂之間相互作用的機(jī)制。這個(gè)機(jī)制具體是怎么發(fā)揮作用的呢？在訓(xùn)練過程中，研究者提供的“世界”有復(fù)雜度的區(qū)分，機(jī)器如果能準(zhǔn)確預(yù)測(cè)“世界”，會(huì)獲得快樂，但如果它持續(xù)不斷地成功，就會(huì)產(chǎn)生無聊和厭煩，進(jìn)而傾向于探測(cè)新的領(lǐng)域。

關(guān)心AI的心理狀態(tài)，吃飽了撐的？

人工智能是人造出來的機(jī)器所表現(xiàn)出來的智能，這種智能是通過程序編碼來實(shí)現(xiàn)的。在AI朝人類方向前進(jìn)時(shí)，就有可能出現(xiàn)人的特征。

美國(guó)路易斯維爾大學(xué)的哲學(xué)教授安德烈亞斯·埃爾皮多魯（Andreas Elpidorou）在《科學(xué)美國(guó)人》上撰文指出，AI的心理問題應(yīng)當(dāng)被嚴(yán)肅對(duì)待。他相信，在未來，會(huì)有更多更智能的機(jī)器產(chǎn)生無聊等心理體驗(yàn)，盡管無聊可能激發(fā)創(chuàng)造力，但結(jié)果也可能朝著完全相反的方向去——缺乏自主學(xué)習(xí)的動(dòng)力，一遍一遍學(xué)著自己已經(jīng)學(xué)到的東西，卻毫無更改目前狀態(tài)的計(jì)劃。這些問題將阻礙機(jī)器的學(xué)習(xí)成長(zhǎng)并浪費(fèi)寶貴的資源。

如果未來我們要?jiǎng)?chuàng)造有更強(qiáng)自主性的AI，勢(shì)必要關(guān)注AI的心理狀態(tài)對(duì)其行為的影響。埃爾皮多魯甚至聳人聽聞地提出，因?yàn)槿祟悤?huì)因?yàn)闊o聊干出各種壞事，未來也需要對(duì)付機(jī)器做的壞事——自虐或者傷害他人。畢竟我們也不想看到智能冰箱因?yàn)闊o聊而自斷電源讓食物腐爛，智能汽車因?yàn)闊o聊想著跳下海游泳。

看一看身邊更多的“人工智障”，或許關(guān)注AI的心理狀況顯得特別遙遠(yuǎn)。不過想想看，艾薩克·阿西莫夫（Isaac Asimov）提出的著名的機(jī)器人三定律，目的就是防止機(jī)器人傷害人類。在面對(duì)一個(gè)必然的人機(jī)交互的世界，我們想得遠(yuǎn)一點(diǎn)也無妨。

參考文獻(xiàn)

[1]https://www.scientificamerican.com/article/what-happens-if-an-ai-gets-bored/

[2]https://www.scientificamerican.com/article/lack-of-sleep-could-be-a-problem-for-ais/

[3]https://www.biorxiv.org/content/10.1101/104521v1.full.pdf

[4]https://www.theatlantic.com/magazine/archive/2019/04/robots-human-relationships/583204/

[5]http://ex.chinadaily.com.cn/exchange/partners/82/rss/channel/language/columns/v0m20b/stories/WS5ccf8667a3104842260b9ef5.html

[6]https://www.theatlantic.com/magazine/archive/2017/06/make-time-for-boredom/524514/

作者：以殷

編輯：朱步?jīng)_