2021年4月28日，新美國安全中心（CNAS）網(wǎng)站發(fā)布報告，題為《Principles for the Combat Employment of Weapon Systems with Autonomous Functionalities》，作者是國防高級顧問和國防與國家安全杰出高級研究員羅伯特O.沃克。

報告指出，所提出的這7項新原則集中于在武裝沖突中負(fù)責(zé)任地使用自主功能，因而可以保留人類對使用武力的判斷和責(zé)任，并有助于最大程度地降低系統(tǒng)失控或意外交戰(zhàn)的可能性，尤其是避免以非戰(zhàn)斗人員為交戰(zhàn)目標(biāo)。美國軍方最終開發(fā)、測試和部署了一些武器系統(tǒng)，這些系統(tǒng)在所有與交戰(zhàn)相關(guān)的功能范圍內(nèi)將自主行動結(jié)合起來。

實例證明，美國軍方用自主功能來綜合武器系統(tǒng)已有80年了。自主武器系統(tǒng)分為3類：靜態(tài)搜索武器、有限搜索武器和人類監(jiān)督的自主武器系統(tǒng)。對于半自主武器，人類選擇目標(biāo)或特定目標(biāo)組，然后激活該武器。就自主武器而言，人類激活該武器，然后武器選擇目標(biāo)并與之交戰(zhàn)。武器開發(fā)的下一個進(jìn)步，將是引入改進(jìn)的人工智能賦能的自主功能。80年的作戰(zhàn)經(jīng)驗表明，如果使用得當(dāng)，自主功能與人機(jī)協(xié)作相結(jié)合可以繼續(xù)改善戰(zhàn)場上對武力的區(qū)別性使用。在可行且有價值的情況下，系統(tǒng)設(shè)計可以在一系列自主處理的中間步驟中納入人類觀察和引導(dǎo)點。

通過努力建立其使用規(guī)范，美國國防部在具有自主功能的武器方面展示領(lǐng)導(dǎo)力的時機(jī)已經(jīng)成熟。美國還應(yīng)努力證明自己致力于以符合任務(wù)目標(biāo)的方式使用武器，同時遵守戰(zhàn)爭法、政策、適用條約、武器系統(tǒng)安全規(guī)則、倫理準(zhǔn)則和交戰(zhàn)規(guī)則。

引言

關(guān)于致命性自主武器系統(tǒng)（LAWS）的國際辯論已進(jìn)行了將近10年。2012年，美國國防部發(fā)布了關(guān)于具有自主功能的武器系統(tǒng)的正式政策指南，各國自2014年以來就開始通過《聯(lián)合國特定常規(guī)武器》（CCW）公約來共同討論LAWS。缺乏一致認(rèn)可的LAWS定義，阻礙了CCW的討論。但是，CCW締約國于2019年一致認(rèn)為，在武器系統(tǒng)的使用和必須保留的武力使用上存在“人類責(zé)任”。因此，現(xiàn)在的討論往往集中在確保遵守國際人道主義法和滿足倫理關(guān)切所需的人類參與類型和程度上。

一些學(xué)者認(rèn)為，這些討論應(yīng)著眼于“軍事環(huán)境下自主性的發(fā)展目標(biāo)、共識和基于功能的理解”（著重強(qiáng)調(diào)）。本報告的前提是，實現(xiàn)這種理解的最佳方法是：制定武裝沖突中使用具有自主功能的武器系統(tǒng)的一些普遍接受的原則并對其進(jìn)行辯論并取得一致。這在戰(zhàn)爭自主性方面引起的法律、倫理和道德問題最為尖銳，應(yīng)該引起最多的關(guān)注。

本報告為這些討論提供了起點。報告提出的7項原則旨在補(bǔ)充和構(gòu)建現(xiàn)有的國防部指南，包括國防部指令（DoDD）3000.09、《武器系統(tǒng)自主性》和國防部的《人工智能原則》。它們還與2019年“禁止或限制使用某些可被認(rèn)為具有過分傷害力或濫殺濫傷作用的常規(guī)武器公約”會議上CCW所采納的11項指導(dǎo)原則保持一致。這7個新原則集中關(guān)注在武裝沖突中負(fù)責(zé)任地使用自主功能的方式，這些方式可以保留人類對使用武力的判斷和責(zé)任，并有助于最大程度地降低系統(tǒng)失控或意外交戰(zhàn)的可能性，尤其是避免以非戰(zhàn)斗人員為交戰(zhàn)目標(biāo)。

本報告分為四個部分。第一部分詳細(xì)介紹了具有自主功能的美國武器系統(tǒng)的歷史。目的是使讀者了解歷史上這些武器的使用方式，為何自主功能如此有用以及國防部為何保留使用這些武器的權(quán)利。第二部分說明了現(xiàn)在為什么通過添加人工智能來改進(jìn)具有自主功能的武器，這是一項重要的發(fā)展，目的是在使用武力時使武器更具區(qū)別性。第三部分解釋了為何國防部應(yīng)考慮發(fā)布一套新的原則，這些原則針對具有自主功能的武器系統(tǒng)的作戰(zhàn)使用。最后一節(jié)概述了供考慮的7項擬議原則：

（1）使用任何具有自主功能的武器系統(tǒng)，都必須在負(fù)責(zé)任的人工指揮與控制鏈的監(jiān)督指導(dǎo)下進(jìn)行；

（2）在決定發(fā)動一系列可能因使用武力（即殺傷鏈等）而導(dǎo)致人員傷亡行動（包括自主行動）時，都應(yīng)基于人的意圖和判斷力；

（3）在任何情況下，由人來決定使用武器的責(zé)任都不能移交給機(jī)器，人類有履行戰(zhàn)爭法的義務(wù)；

（4）為有效確定對特定目標(biāo)的攻擊是否合法，任何授權(quán)使用、指導(dǎo)使用或操作具有自主功能的武器系統(tǒng)的人都必須充分了解該系統(tǒng)的預(yù)期性能和能力、使用原則、預(yù)期目標(biāo)、使用環(huán)境及使用條件；

（5）一旦人類啟動了一系列旨在利用致命性力量來結(jié)束沖突的行動時，那么具有自主功能的武器系統(tǒng)便可以自行完成該行動，而無需進(jìn)一步的人為監(jiān)督；

（6）只要武器系統(tǒng)選擇和打擊目標(biāo)與人為決定發(fā)動合法攻擊直接相關(guān)，便符合“由人決定使用致命武力”的標(biāo)準(zhǔn)；

（7）指揮官如果有證據(jù)證明具有自主功能的武器系統(tǒng)可能以有悖于預(yù)期性能、戰(zhàn)爭法、政策、適用條約、倫理規(guī)范以及交戰(zhàn)規(guī)則的方式使用，則必須采取適當(dāng)行動。

結(jié)論

具有自主功能的武器系統(tǒng)已在戰(zhàn)斗中安全可靠地使用了80年。它們今后還將繼續(xù)使用。的確，在這些武器系統(tǒng)中增加人工智能賦能的應(yīng)用程序，有望在使用武力時使其更具區(qū)別性并減少意外交戰(zhàn)，這一目標(biāo)完全符合國際人道主義法。

但是，反對者擔(dān)心這些武器的使用會在武裝沖突中導(dǎo)致有問題的倫理、道德和法律后果。美國應(yīng)站在先進(jìn)測試、評估、確認(rèn)和驗證（TEVV）規(guī)程和法律評審的最前沿，以證明具有自主功能的武器將按預(yù)期發(fā)揮作用。美國還應(yīng)努力證明自己致力于以符合任務(wù)目標(biāo)的方式使用武器，同時遵守戰(zhàn)爭法、政策、適用條約、武器系統(tǒng)安全規(guī)則、倫理準(zhǔn)則和交戰(zhàn)規(guī)則。做到這一點的一種方法是針對具有自主功能的武器系統(tǒng)的戰(zhàn)斗使用采納若干原則，并在采辦過程、培訓(xùn)、教育和野戰(zhàn)演習(xí)時使之制度化。上述7項原則旨在推動這一努力，并為采用國際規(guī)范奠定基礎(chǔ)。