[科普中國]-謹(jǐn)防人工智能“灰犀?！毕葳?

隨著智能算法、大數(shù)據(jù)和物聯(lián)網(wǎng)等技術(shù)不斷成熟，人工智能由弱向強(qiáng)發(fā)展，愈發(fā)掙脫人類控制的韁繩。一旦失控，人工智能將可能“化友為敵”走向?qū)α⒚?，威脅人類生存。事實(shí)上，智能技術(shù)給人類生活帶來便利的同時(shí)，正以人們習(xí)以為常的方式，悄無聲息地準(zhǔn)備著下一場(chǎng)戰(zhàn)爭。對(duì)此，我們應(yīng)認(rèn)清本質(zhì)，預(yù)先防范，切莫陷入人工智能“灰犀?！毕葳?。

預(yù)置終端布勢(shì)。隨著智能技術(shù)民用化、產(chǎn)能規(guī)模化，智能設(shè)備大量運(yùn)用于家居、交通、社交、辦公等領(lǐng)域，與人類生產(chǎn)生活深度融合，尤其是智能手機(jī)、手環(huán)幾乎人皆有之。恩格斯指出：“一旦技術(shù)上的進(jìn)步可以用于軍事目的并且己經(jīng)用于軍事目的，它們便立刻幾乎強(qiáng)制地，而且往往是違反指揮官的意志而引起作戰(zhàn)方式上的改變甚至變革?！敝悄茉O(shè)備是一種高度自動(dòng)的機(jī)電一體化設(shè)備，其運(yùn)行并不是孤立的、被動(dòng)的。在互聯(lián)網(wǎng)支持下，通過人機(jī)交互、機(jī)機(jī)協(xié)作、情境感知等功能，單個(gè)智能終端將與之交互的人、物和周圍環(huán)境強(qiáng)制地、無感地聯(lián)入網(wǎng)絡(luò)，實(shí)現(xiàn)萬物互聯(lián)、泛在云聯(lián)。但這正是最為致命的。試想一旦遭受網(wǎng)絡(luò)攻擊，無數(shù)智能終端將可能撕下友善的外衣，成為對(duì)手的“幫兇”。那么，我們現(xiàn)在毫無防范的普及智能技術(shù)的行為恰是為對(duì)手預(yù)置力量、部署態(tài)勢(shì)。

智集情報(bào)奪權(quán)。情報(bào)優(yōu)勢(shì)即為決策優(yōu)勢(shì)，情報(bào)制權(quán)就是行動(dòng)自主權(quán)?！鞍丫浞懦鋈?，放到敵人鼻子底下，敵人一動(dòng)，我們就能知道，就有對(duì)付的辦法，就不會(huì)吃虧?！弊杂袘?zhàn)爭以來，對(duì)抗雙方就高度重視情報(bào)的獲取與利用。但受客觀條件限制，傳統(tǒng)情報(bào)活動(dòng)始于臨戰(zhàn)、痕跡可被識(shí)別、技術(shù)手段單一，而智能終端構(gòu)成的情報(bào)體系呈現(xiàn)出新的特點(diǎn)，給反偵察、反情報(bào)帶來了巨大挑戰(zhàn)。全時(shí)空滲透，非對(duì)稱偵反。智能設(shè)備遍布社會(huì)實(shí)踐各領(lǐng)域，能夠以人們意想不到的時(shí)間、地點(diǎn)、方式偵搜信息，并且敵我屬性難辨，易使人們毫無戒備地與之交互，從而獲得情報(bào)偵察與反偵察的非對(duì)稱優(yōu)勢(shì)。多方式感知，多屬性識(shí)別。隨著智能技術(shù)的發(fā)展，智能終端視覺、聽覺、觸覺甚至嗅覺能力不斷突破，能以多種方式感知外界信息，并以此為屬性，多特征識(shí)別周圍環(huán)境?；ヂ?lián)網(wǎng)支撐，云響應(yīng)聯(lián)動(dòng)。在體系支撐下，不同智能終端按需交互、自主協(xié)作、共享數(shù)據(jù)，實(shí)現(xiàn)情報(bào)網(wǎng)絡(luò)運(yùn)行的涌現(xiàn)效應(yīng)。

智誘火力擊要。“兵家之有采探，猶人身之有耳目也?！弊跃_制導(dǎo)武器運(yùn)用于作戰(zhàn)以來，因不當(dāng)使用電子設(shè)備而喪命的戰(zhàn)例不勝枚舉。車臣頭目杜達(dá)耶夫使用衛(wèi)星手機(jī)通信被俄軍精準(zhǔn)斬首；巴勒斯坦150多名武裝分子遭到以色列定點(diǎn)清除，其罪魁禍?zhǔn)资俏⑿惋@示器。智能終端不僅是偽裝潛伏的“耳目”，隱蔽地偵搜海量情報(bào)信息，還是網(wǎng)絡(luò)體系支撐下的“大腦”，利用大數(shù)據(jù)、云計(jì)算技術(shù)分析處理信息，自主識(shí)別、定位核心軍事目標(biāo)、重要軍政首腦，更是關(guān)鍵時(shí)候大喊“向我開炮”的“喉舌”，主動(dòng)暴露自身位置，引導(dǎo)制導(dǎo)炸彈精確打擊，甚至在賦予“開火權(quán)”的前提下，自主決策并下達(dá)打擊指令。即便戰(zhàn)前加強(qiáng)對(duì)智能設(shè)備的管制，采取人機(jī)物理隔絕，但智能終端仍然可以通過分析原有信息，預(yù)測(cè)軍事目標(biāo)活動(dòng)軌跡，為快速發(fā)現(xiàn)、清除目標(biāo)提供情報(bào)支撐。未來戰(zhàn)爭中，上一秒還在為你服務(wù)的無人駕駛車輛，下一秒可能就變成埋葬主人的墳?zāi)埂?img src="https://img-xml.kepuchina.cn/images/newsWire/aVNKQQw2hLSynAaBFnGBrTV6GN4OeqYAdGrr.png" alt="" />

智控物聯(lián)癱體。當(dāng)前，市場(chǎng)上部分智能設(shè)備存在軟件漏洞、設(shè)計(jì)缺陷等先天軟肋，給攻擊者留下了“后門”。黑客利用網(wǎng)絡(luò)，可實(shí)現(xiàn)對(duì)智能設(shè)備的遠(yuǎn)程控制和惡意攻擊。2017年，勒索病毒爆發(fā)，僅用2天時(shí)間就造成全球150多個(gè)國家的高校、自助終端、銀行、醫(yī)院等領(lǐng)域受到侵害。如果一旦用于軍事目的，其后果將是毀滅性的。2010年，伊朗遭到“震網(wǎng)”網(wǎng)絡(luò)病毒攻擊，導(dǎo)致核工廠1700多臺(tái)離心機(jī)被毀；無獨(dú)有偶，去年伊朗又遭受電子襲擊，導(dǎo)致互聯(lián)網(wǎng)服務(wù)全面中斷1個(gè)多小時(shí)，運(yùn)載火箭被迫延期發(fā)射。隨著區(qū)塊鏈、5G技術(shù)發(fā)展，物聯(lián)網(wǎng)必將成為覆蓋所有智能終端、網(wǎng)關(guān)節(jié)點(diǎn)的去中心化網(wǎng)絡(luò)，從而使“以點(diǎn)控點(diǎn)、以點(diǎn)控網(wǎng)”的互聯(lián)、互通、互操作成為可能。令人擔(dān)憂的是，智能終端廣泛分布，物聯(lián)網(wǎng)絡(luò)處處是弱點(diǎn)，難以實(shí)施有效防范。未來戰(zhàn)爭，對(duì)抗一方極可能將病毒隨遇植入某個(gè)終端，使其成為臨時(shí)指揮中樞，控制所有智能設(shè)備“臨陣倒戈”或“癱瘓罷工”，實(shí)現(xiàn)控點(diǎn)癱體之效。

聯(lián)合出品：科普中國 光明軍事

作 者：董偉