2018年7月23日，英國(guó)國(guó)際戰(zhàn)略研究所網(wǎng)站發(fā)布題為“Is assurance the Achilles heel of military artificial intelligence?”的博客文章，作者是地面戰(zhàn)高級(jí)研究員本·巴里。博文認(rèn)為，人工智能有為武裝部隊(duì)提供巨大軍事優(yōu)勢(shì)的潛力，但處理安全使用問題是一項(xiàng)重大挑戰(zhàn)。

機(jī)器學(xué)習(xí)算法(自學(xué)軟件)是新興人工智能(AI)應(yīng)用程序的核心。這類應(yīng)用程序通常使用所謂的深度神經(jīng)網(wǎng)絡(luò)，其中軟件將根據(jù)“經(jīng)驗(yàn)”重寫自己代碼的元素，以更好地執(zhí)行其任務(wù)。因此，在這種環(huán)境中可能難以建立明確的輸入和輸出關(guān)系。雖然這在許多民用領(lǐng)域都是可以接受的，但在軍事領(lǐng)域卻存在相當(dāng)大的困難。處理安全使用問題是武裝部隊(duì)和國(guó)防部門面臨的重大挑戰(zhàn)。

人工智能不僅對(duì)軟件的驗(yàn)證和人工智能的可靠性提出了挑戰(zhàn)，還存在著漏洞問題。例如，通過利用軟件中的限制，已經(jīng)證明可以“使用看起來與已被訓(xùn)練識(shí)別的對(duì)象完全不同的圖片來欺騙圖像識(shí)別軟件”。

軟件通過學(xué)習(xí)重寫自己的部分代碼，但軍事系統(tǒng)卻出現(xiàn)意外行為，這表明不能再采用傳統(tǒng)的武器和國(guó)防裝備安全保證方法。如果軍方要充分利用人工智能應(yīng)用程序，那么就需要克服這些問題。這可能需要修改系統(tǒng)安全保證方法。

在中、俄、英、美等許多國(guó)家的武裝部隊(duì)中，人們期望自主系統(tǒng)和人工智能可以提供巨大的軍事優(yōu)勢(shì)。例如，提高自主性將改善抵抗通信降級(jí)的能力，并允許單個(gè)操作員控制或監(jiān)督多個(gè)無人平臺(tái)。人工智能和自主能力的融合可能會(huì)產(chǎn)生新的技術(shù)和戰(zhàn)術(shù)可能性。許多倡導(dǎo)者認(rèn)為，從中長(zhǎng)期來看，自主和人工智能具有相當(dāng)大的“飛躍”潛力。當(dāng)然，這要求朝著正確的方向飛躍。

在尋求市場(chǎng)機(jī)會(huì)和降低成本的推動(dòng)下，民間正對(duì)機(jī)器人、自動(dòng)化、自主和人工智能進(jìn)行投資。在許多領(lǐng)域，商業(yè)投資都大大超過了政府。

毫無疑問，武裝部隊(duì)和國(guó)防工業(yè)部門都熱衷于利用這項(xiàng)投資，但至少在西方，這方面的投資力度將取決于能否滿足在可靠性和系統(tǒng)行為上提出的具體軍事要求。最近由英國(guó)國(guó)防部發(fā)展、概念和理論中心出版的《人機(jī)組合》，探討了機(jī)器人、自主和人工智能的軍事潛力及其局限性。