AI武器：打擊更精準(zhǔn)更有效 未來戰(zhàn)爭或全面升級

　　9月14日，沙特國家石油公司，即阿美石油公司的布蓋格煉油廠及胡賴斯油田兩處石油設(shè)施遭到無人機(jī)和導(dǎo)彈襲擊，導(dǎo)致沙特每天大約570萬桶的原油產(chǎn)量暫停供應(yīng)，這占到了沙特產(chǎn)能的50%，也相當(dāng)于全球5%的石油日消耗量。無人機(jī)襲擊的一個(gè)直接后果，是國際油價(jià)應(yīng)聲而漲，16日一度飆升近20%。

　　9月18日，沙特國防部公布石油設(shè)施受攻擊的詳情。在此次襲擊中，攻擊方使用了18架無人機(jī)和7枚導(dǎo)彈。

　　此前，中東地區(qū)的無人機(jī)大戰(zhàn)已經(jīng)在各派之間頻頻展開。無人機(jī)(UAV)是利用無線電遙控設(shè)備和自備的程序控制裝置操縱的不載人飛機(jī)，或者由車載計(jì)算機(jī)完全或間歇自主地操作的飛行器和武器，因此它是AI產(chǎn)品。也許，無人機(jī)的加入戰(zhàn)爭和進(jìn)一步改進(jìn)，將與核武器的攻擊力旗鼓相當(dāng)，甚至更厲害。

　　無人機(jī)加入戰(zhàn)爭意味著，AI深度加入戰(zhàn)爭的時(shí)代已經(jīng)來臨，且將導(dǎo)致重大的傷害和全面的戰(zhàn)爭升級，AI不介入軍事或戰(zhàn)爭的承諾已淪為笑話，潘多拉的魔盒已經(jīng)被打開。

　　無人機(jī)加入戰(zhàn)爭是對人類已經(jīng)意識到并愿意遵循的倫理的違背。人類在20世紀(jì)的核武器研發(fā)與應(yīng)用曾一度是無意識的。提出了曼哈頓計(jì)劃的愛因斯坦后來曾說，如果知道原子彈能造成如此大的傷害，是決不會寫信給美國總統(tǒng)羅斯福建議研發(fā)原子彈的。

　　當(dāng)今，全球最大的一些科技公司都提出了關(guān)于AI的倫理原則，其共同點(diǎn)就是不用于軍事和戰(zhàn)爭。2017年，116名全球人工智能和機(jī)器人領(lǐng)域的專家發(fā)表聯(lián)名公開信，呼吁聯(lián)合國采取行動禁止“自主殺人機(jī)器”(恐怖武器或智能武器)。此后，美國太空探索技術(shù)公司(SpaceX)CEO馬斯克與全球2400名機(jī)器人研發(fā)人員在斯德哥爾摩宣誓稱，“絕不參與致命性自主武器系統(tǒng)的開發(fā)、研制工作。”微軟員工也提出，反對參與美軍項(xiàng)目，因?yàn)檫@不符合公司AI倫理原則。

　　2018年4月，3000多名谷歌員工向谷歌首席執(zhí)行官桑德爾·皮查伊聯(lián)名上書，反對該公司參與五角大樓的軍用人工智能Project Maven項(xiàng)目。這個(gè)項(xiàng)目是利用機(jī)器人深度學(xué)習(xí)和人工智能分析、應(yīng)用計(jì)算機(jī)視覺技術(shù)，幫助美國國防部從圖像和視頻中提取識別重點(diǎn)對象目標(biāo)。由于員工的反對，谷歌被迫做出決定，在Project Maven合同2019年到期后，不再與五角大樓續(xù)簽。

　　然而，僅僅一些人和一些公司遵守“AI不加入軍事不用于戰(zhàn)爭不殺人”的倫理準(zhǔn)則是不夠的，現(xiàn)在無機(jī)人機(jī)頻頻參與戰(zhàn)爭，襲擊人類住所與重大經(jīng)濟(jì)目標(biāo)，已經(jīng)說明當(dāng)今AI的倫理是非常脆弱的。2019年4月7日，谷歌新成立的AI倫理委員會只存活了不到10天即宣告解散，原因之一是，無人機(jī)公司首席執(zhí)行官吉布斯(Dyan Gibbens)加入倫理委員會后，重組了自己公司的舊部門，試圖將AI用于軍事領(lǐng)域。這一行為遭到了谷歌員工的反對，這說明，由公司發(fā)起的倫理委員會根本無法阻止這一勢頭。

　　軍事人員與一些科研人員支持AI武器的理由是，AI介入戰(zhàn)爭是為了避免大規(guī)模傷及無辜，如像核武器不分青紅皂白地殺死平民和常規(guī)武器地毯式轟炸濫殺無辜。所以，如果真是為了和平，就用精確制導(dǎo)武器消滅敵人來制止戰(zhàn)爭。因此，AI武器的出現(xiàn)和加入戰(zhàn)爭，是戰(zhàn)爭的第三次革命。

　　然而，實(shí)際上，無人機(jī)加入戰(zhàn)爭只會更肆無忌憚地襲擊軍事目標(biāo)以外的民用和經(jīng)濟(jì)目標(biāo)，現(xiàn)在，沙特兩處石油設(shè)施遭無人機(jī)攻擊已是最好的證明。盡管這次襲擊未造成人員傷亡，但對沙特經(jīng)濟(jì)和全球石油供應(yīng)的影響是持續(xù)而深遠(yuǎn)的，這也向世人公開展示，要想取得軍事勝利與實(shí)現(xiàn)政治目標(biāo)，使用更新更好的AI武器是首選。

　　無人機(jī)會加劇未來戰(zhàn)爭的殘酷程度。2017年11月12日，一部由美國加州大學(xué)伯克利分校的教授斯圖爾特·拉塞爾與生命未來研究所合作拍攝的一部虛構(gòu)影片開始在網(wǎng)絡(luò)上傳播。影片里，一種手掌大小的無人機(jī)殺人武器(Slaughterbots)配備了面部識別技術(shù)并攜帶炸藥，先由一架或幾架無人機(jī)炸開圍墻，后面的無人機(jī)進(jìn)入大學(xué)和國會，通過面部識別，對準(zhǔn)鎖定的目標(biāo)大學(xué)生與國會議員進(jìn)行爆頭屠殺。

　　雖然這只是虛擬場景，但在不遠(yuǎn)的未來，小型無人機(jī)都可以配備人臉識別系統(tǒng)及聚能炸藥，在程序輸入后，可根據(jù)命令單獨(dú)作戰(zhàn)，或集群作戰(zhàn)，尋找和殺滅已知的個(gè)體或類似具有統(tǒng)一特征的人群，讓每個(gè)人無法逃脫大屠殺。這樣的AI武器比起原子彈來甚至更為厲害——至少原子彈爆炸時(shí)人們還有地下掩體可以保護(hù)，但在未來，任何人都無法逃脫AI武器的精準(zhǔn)追殺。

　　依靠人臉識別技術(shù)追殺人的無人機(jī)，也還屬于初級的人工智能武器。根據(jù)對人工智能的分類，目前的AI武器可以分為三類。一類是完全由人類決定并由人遠(yuǎn)程操作的無人機(jī)，現(xiàn)在美國的MQ-1“捕食者”偵察機(jī)就是代表。

　　第二類是機(jī)器人可以自己做一定的判斷，但在執(zhí)行任務(wù)期間，人類可以中斷或取消無人機(jī)的任務(wù)，如以色列的“哈比”自殺式無人機(jī)就屬于這一類。加州大學(xué)的拉塞爾教授所演示的無人機(jī)炸彈也屬于這一類。上述兩類武器都已經(jīng)用于實(shí)戰(zhàn)。

　　第三類，是人類完全不參與決策過程的自主型殺手無人機(jī)或機(jī)器人。這類機(jī)器本質(zhì)上還是要由人來決定，即由人編程并在一定程度上讓無人機(jī)自己決策，但是，這類無人機(jī)的最大隱患在于，可能出現(xiàn)程序錯(cuò)誤而導(dǎo)致誤傷，自主判斷做出人類意想不到或不會讓其進(jìn)行的行動，如擴(kuò)大打擊范圍和強(qiáng)度。另外，如果這類武器擴(kuò)散到恐怖分子手中，會造成更大災(zāi)難。

　　AI武器的這三種分類也來源于人工智能的三種分類：弱人工智能，只能完成某一項(xiàng)特定任務(wù)或者解決某一特定問題的人工智能;強(qiáng)人工智能或通用人工智能，可以像人一樣勝任任何智力性任務(wù)的智能機(jī)器;超人工智能或超級智能，可以像人類實(shí)現(xiàn)智能上的生物進(jìn)化，對自身進(jìn)行重編程和改進(jìn)，即“遞歸自我改進(jìn)功能”。

　　目前，在技術(shù)上，用超人工智能來打造殺人武器尚難以實(shí)現(xiàn)，但現(xiàn)有的兩類人工智能武器已經(jīng)顯示了比常規(guī)武器更大的殺傷力，而且，由于可能出現(xiàn)程序錯(cuò)誤，誰也不能保證無人機(jī)和機(jī)器人武器不會濫殺無辜。現(xiàn)在已經(jīng)到了正視AI武器的危害并制定禁止AI武器規(guī)定的時(shí)候了!

　　迄今為止，聯(lián)合國已經(jīng)有《禁止核武器條約》《不擴(kuò)散核武器條約》《關(guān)于禁止發(fā)展、生產(chǎn)、儲存和使用化學(xué)武器及銷毀此種武器的公約》《禁止細(xì)菌(生物)及毒素武器的發(fā)展、生產(chǎn)及儲存以及銷毀這類武器的公約》等條約，唯獨(dú)沒有禁止AI武器的國際法。

　　美軍曾明確表示不會禁止使用無人自動化武器，包括無人機(jī)、無人船艦等。他們提出的一個(gè)相當(dāng)有力的理由是，當(dāng)人們尚未完全了解AI武器時(shí)就要求禁止使用它，此舉無異于杞人憂天。實(shí)際上，美軍非但不會禁止，還會大力推廣AI武器的使用。

　　在這樣的背景下，即便國際社會愿意探討控制與禁止AI武器，可能也不會獲得廣泛支持和達(dá)成共識。人們還擔(dān)心，制定了禁止AI武器的國際公約，可能也無法阻止有人研發(fā)AI武器和使用AI武器。AI武器對未來人類戰(zhàn)爭的影響目前還難以估量，但必將是重大而深遠(yuǎn)的。