揭秘！AI竟是互聯(lián)網(wǎng)垃圾內(nèi)容生產(chǎn)的“元兇”？

審核專家：劉相權(quán)

北京信息科技大學機器人工程系主任

首先問你一個問題：你使用過AI輔助工具嗎？

圖片來源 | 界面新聞

在這個“AI時代”，寫一篇有模有樣的文章，門檻已經(jīng)很低了。在AI的幫助下，我們或許比不了真正文學家的文筆，但是只需要一個想法框架，AI就能將它擴充成一篇完整的文章。

圖片來源 | 文心一言

不知道你是否發(fā)現(xiàn)，搜索引擎中的很多搜索結(jié)果，已經(jīng)被AI生成的內(nèi)容占據(jù)，而其中不乏錯漏百出的“垃圾內(nèi)容”。

面對AI生成的這些“垃圾內(nèi)容”圍剿，我們?nèi)绾尾拍芡怀鲋貒?/p>

AI為什么開始生產(chǎn)“垃圾內(nèi)容”

什么是“垃圾內(nèi)容”？想象一個場景：當你的作業(yè)或者論文面臨截止日，而你的工作進度又實在“慘不忍睹”，于是只好讓AI根據(jù)你的描述生成一段文字來“濫竽充數(shù)”，這就是“垃圾內(nèi)容”的一種。

如果你使用過AI為你生成內(nèi)容，你就會發(fā)現(xiàn)只有不斷打磨你對工作內(nèi)容地描述，AI才能生成出一篇令人滿意的稿件。

本月發(fā)表的一項研究中，對多個知名科學會議上研究AI的科學家，在同行評審中的用詞頻率進行了統(tǒng)計。

“細致”一詞的頻率是前一年的34倍以上、“值得稱贊”的頻率大約是10倍、“復(fù)雜”則是11倍。這些短語是現(xiàn)代大型語言模型(如ChatGPT)的最愛。

圖片來源 | 知乎

換句話說，大量AI會議上的研究人員將他們的同行評審工作交給了AI，或者至少是在AI的大量幫助下撰寫，而且截止日越近，這種現(xiàn)象越明顯。

以前我們說Deadline是第一生產(chǎn)力，現(xiàn)在這恐怕是AI的“第一生產(chǎn)力”了。

除了被截止日逼得不得不借助AI的情況之外，還有一些鐘情“流量為王”的自媒體從業(yè)者，正在通過AI編輯低成本、高效率的虛假內(nèi)容，這些內(nèi)容都有相同的特點：

1.標題很驚人、吸引流量，點擊量和評論數(shù)都很高；

2.內(nèi)容格式化，每一篇都不盡相同，但是又非常類似；

3.引導評論發(fā)泄情緒，卻忽略了對客觀事實的探求。

沒有營養(yǎng)的、虛假的內(nèi)容在AI的“幫助”下充斥網(wǎng)絡(luò)，從這些“垃圾內(nèi)容”中找到自己真正需要的信息，時間成本正在不斷提升。

這些“垃圾內(nèi)容”都是AI的錯嗎？

AI能夠變得越來越智能，一方面依賴人工智能訓練師通過語言模型訓練來幫助AI變得更“聰明”，另一方面也依靠AI通過大模型數(shù)據(jù)從互聯(lián)網(wǎng)獲取信息來進行“自學”。

訓練師通過輸入大量文字、圖片等內(nèi)容，幫助AI不斷學習提升自己的內(nèi)容生成能力，這也讓那些靠生產(chǎn)“垃圾內(nèi)容”獲取流量從而牟利的垃圾信息制造者，也盯上了用AI幫他們耕作“內(nèi)容農(nóng)場”。

內(nèi)容農(nóng)場，通常是指專門使用軟件進行制作大量的垃圾內(nèi)容獲取用戶點擊，從而提升自身在搜索引擎中的排名，變得更容易被搜索到。內(nèi)容農(nóng)場的核心是“發(fā)布各種寫作話題”，根據(jù)自行發(fā)明的一套算法，來評估兩樣東西：其一，什么是當前網(wǎng)絡(luò)話題熱點；其二，什么樣的關(guān)鍵字更容易帶來高廣告收入。

圖片來源 | 騰訊云開發(fā)者社區(qū)

其實“垃圾內(nèi)容”污染互聯(lián)網(wǎng)不是一天兩天，只不過如今AI幫助這些人更加容易地生產(chǎn)著這些內(nèi)容。只需要想出一個聳人聽聞、吸引流量的標題，然后輸入到AI工具里面，利用大語言模型的“幻覺”效應(yīng)（就是可以圍繞用戶輸入的信息生成事實上不真實的內(nèi)容），“垃圾內(nèi)容”就能夠被快速地生產(chǎn)出來，AI也就成為了生產(chǎn)“垃圾內(nèi)容”的“幫兇”。

內(nèi)容生產(chǎn)過程中如何合理利用AI？

我們應(yīng)該了解的是，AI并非只能生產(chǎn)“垃圾內(nèi)容”，通過正確地學習訓練，AI甚至能夠?qū)懗鲈姼琛?/p>

知名科幻作家劉慈欣在1989年發(fā)明的一款“電子詩人”軟件，這款軟件可以以200行/秒的速度進行現(xiàn)代新詩的生產(chǎn)，并產(chǎn)出像下面這樣的詩句：

“小行星被呼喚了！／在固體的周圍，只有膠狀的稻田／不，我不想飛翔?。。宜寄睿呛瘮?shù)被觀看了?。谙膳闹車?，只有活的巨川／不，我不想自我吞食?。。页恋恚唑驯荒笞×耍。跂|方快車的周圍，只有哇哇叫的弓箭／不，我不想冒煙?。。医徽劊]室被警告了?。趧Φ闹車?，只有吱吱響的時間／不，我不想夢游！?。腋癄€?！?/p>

AI會助紂為虐生產(chǎn)“垃圾內(nèi)容”，同時它也能夠成為我們在寫作、學習中的好伙伴。

1.想讓AI提升，你得先自我提升

有的時候，我們總會覺得AI并沒有它宣傳的那么聰明，這有可能是提示詞有問題。

圖片來源 | ChatGPT

“3W1H”模型是結(jié)構(gòu)化提示詞的好方法，也就是“who、what、why、how”：定義你希望AI扮演的角色與目標，明確需求和細節(jié)方面的要求，闡述需求的背景和目的，并給出希望的結(jié)果與紅線。

使用AI前先訓練一下自己給出提示詞的能力，或許和AI的合作就能事半功倍。

2.讓它成為你的“靈感搭子”

千里之行始于足下，寫出一篇好文章往往最難的是第一步：找到一個好選題。

圖片來源 |《機器人總動員》

如果你覺得你的靈感有些匱乏，一時之間又找不到合適的人與你討論開闊視野，那么不妨和AI聊一聊，通過“行業(yè)100問”、熱點分析、話題延伸等讓它幫你捕捉靈光閃現(xiàn)的瞬間，你就擁有了一個隨時在線的“靈感搭子”。

3.不會起標題？問問AI吧

一個好標題對于文章能起到多大的加分作用？在你遇到一個好標題之前你可能永遠也不知道。

圖片來源 | 網(wǎng)易

如果你是起標題的“苦手”，那么不妨讓AI來幫幫你，并為它制定幾個不同的標題風格需求，從中選擇一個你最喜歡同時也符合文章主題的標題，那么“寫文1小時，起標題占一半”的情況也就不會再發(fā)生了。

AI產(chǎn)出了不少“垃圾內(nèi)容”，但源頭是人對AI技術(shù)的濫用，正確使用AI對于產(chǎn)出更高質(zhì)量的內(nèi)容，能夠起到巨大的助力。話說，本篇文章的標題就是AI生成的，你覺得AI的表現(xiàn)如何？你能讓AI生成出更好的標題嗎？在后臺私信里告訴我們吧。