2016年2月29日,新美國安全中心(CNAS)網(wǎng)站刊登資深研究員保羅·雪萊題為《Autonomous Weapons and Operational Risk》的研究報告。該報告是自主倫理問題研究項目的最新研究成果,考察了未來自主武器的相關風險,這類武器自選目標并可能造成災難性事故。這篇報告的結論如下:
(1)戰(zhàn)爭是一種冒險的嘗試。軍方必須權衡各種風險——與其軍隊、任務使命、公民、無辜百姓相關的風險以及可能危及國家本身的風險。軍人在戰(zhàn)斗和某些戰(zhàn)爭中要冒失去自己生命的風險,而國家的生存則可能會受到極大的威脅。各國還必須在各種戰(zhàn)略目標之間權衡風險:威懾、防御和危機穩(wěn)定。例如,軍隊必須時刻準備在接到命令后反擊挑釁,而這可能導致危機一觸即發(fā)或造成不必要的沖突升級。軍方在如何衡量這些風險上會得出不同的結論,而其針對外部威脅的戰(zhàn)略態(tài)勢是一個主要因素。從邏輯上看,軍事上的弱者或面臨生死存亡的國家很可能更愿意冒險達成其目標。在某些情況下,一些國家會故意采取危險行為,以此作為一種邊緣政策戰(zhàn)術,從而達到威嚇或脅迫別國的目的。
(2)目前,還沒有一個國家表示計劃制造完全自主的武器,但幾乎也沒有哪個國家宣布放棄它們。90多個國家和非國家組織已經(jīng)擁有無人機。如今,這些無人機在很大程度上采取遙控方式,但隨著時間的推移,其下一代版本將具有更高的自主性。在有足夠的通信設備以保持人在回路的情況下,提高無人機的自主性就有很大的價值。人可以在這類武器出現(xiàn)故障的情況下提供安全保證,并且在其應對各種各樣的狀況時擁有足夠的靈活性。然而,當通信設備失效時,自主武器可能會對機會目標發(fā)起攻擊,并且無人機會保護自己免受攻擊。
(3)隨著技術的進步,軍方必須仔細考慮使用自主武器的風險。許多關于自主武器的辯論集中于法律、道德或倫理上的問題。但是,自主武器也提出了極為重要的可控性和安全性問題??梢栽O想,在絕大部分時間里完全受控的武器出現(xiàn)一個失效即可能導致災難。自主武器失控可能導致大規(guī)模自相殘殺,或者誤傷平民和導致危機失控。而當操作使用時間足夠長的時候,某些失效是不可避免的。采用自主武器就意味著接受這些無可避免的失效所帶來的后果。
(4)國家之間需要在武器系統(tǒng)實現(xiàn)自主性的途徑上有更大的透明度。只有極少數(shù)國家發(fā)布了關于武器實現(xiàn)自主性的明確的國家政策。鑒于自主系統(tǒng)之間可能存在危險的相互對攻,國際社會所期望達成的共識是至關重要的。對抗環(huán)境的自然趨勢是速度更快,這樣就必須實現(xiàn)自動化,以進一步加快戰(zhàn)斗節(jié)奏。其結果是可能導致局面混亂不堪。自主系統(tǒng)之間的意外對攻或黑客攻擊可能導致所謂的“閃戰(zhàn)”(“flash war”),此時沖突迅速地螺旋式擺脫人的控制。
(5)現(xiàn)在很多關于自主武器的論述,雖然側重于對平民的人道主義影響這一非常重要的問題,但自主武器也提出了戰(zhàn)略穩(wěn)定性方面的重要問題。這是自主武器值得進一步考慮的一個重要方面。僅舉幾例,針對被視為不穩(wěn)定和危險的各種武器,各國在合作制訂規(guī)范、禁令或提出共同的規(guī)范和期望上有著悠久的歷史,這些武器包括核武器、天基和反太空武器、反導武器和中程核導彈。國際社會必須在武器自主性的使用問題上繼續(xù)對話,以幫助管理自主武器的潛在戰(zhàn)略風險和避免危險的結果。