華盛頓——去年 7 月《華盛頓郵報(bào)》的頭條標(biāo)題是“烏克蘭戰(zhàn)爭(zhēng)正在引發(fā)一場(chǎng)利用人工智能的無(wú)人機(jī)戰(zhàn)爭(zhēng)革命” 。然后，在秋天，一系列報(bào)道稱(chēng)俄羅斯和烏克蘭都 部署了小型無(wú)人機(jī)，利用人工智能來(lái)識(shí)別和跟蹤目標(biāo)。擁有機(jī)載人工智能意味著無(wú)人機(jī)（俄羅斯“柳葉刀”和烏克蘭“獵隼偵察機(jī)”的版本）不需要人類(lèi)操作員來(lái)引導(dǎo)它們一路撞擊。
如果這個(gè)人工智能在戰(zhàn)斗中證明了自己，那真的將是一場(chǎng)革命。旨在破壞操作員控制鏈路的電子戰(zhàn)系統(tǒng)——或者更糟糕的是，追蹤傳輸源以進(jìn)行精確打擊——對(duì)于自導(dǎo)無(wú)人機(jī)來(lái)說(shuō)基本上毫無(wú)用處。熟練且稀缺的無(wú)人機(jī)操作員可能會(huì)被數(shù)千名經(jīng)過(guò)快速訓(xùn)練以點(diǎn)擊潛在目標(biāo)的應(yīng)征入伍者所取代。并不是每架無(wú)人機(jī)都需要操作員全程盯著視頻，而是一個(gè)人就可以監(jiān)視一群致命的機(jī)器。
總而言之，軍事人工智能將朝著擺脫人類(lèi)控制的獨(dú)立邁出技術(shù)上令人印象深刻且有點(diǎn)可怕的一步，就像漫威的奧創(chuàng)唱匹諾曹的“我沒(méi)有任何限制”。相反，經(jīng)過(guò)四個(gè)多月的前線現(xiàn)場(chǎng)測(cè)試，雙方的人工智能增強(qiáng)無(wú)人機(jī)似乎都沒(méi)有產(chǎn)生可衡量的影響。
2月初，新美國(guó)安全中心的一份詳細(xì)報(bào)告用幾句話?cǎi)g斥了人工智能無(wú)人機(jī)。CNAS 國(guó)防項(xiàng)目總監(jiān)Stacie Pettyjohn寫(xiě)道：“Lancet-3 被宣傳為具有自主目標(biāo)識(shí)別和攻擊能力，盡管這些說(shuō)法尚未得到證實(shí)。 ” “雙方都聲稱(chēng)正在使用人工智能來(lái)提高無(wú)人機(jī)擊中目標(biāo)的能力，但其用途可能有限。”
然后，2 月 14 日，一項(xiàng)獨(dú)立分析表明，俄羅斯人至少關(guān)閉了《柳葉刀》的人工智能制導(dǎo)功能。自由撰稿人戴維·漢布林 (David Hambling)在《福布斯》上發(fā)布了自秋季以來(lái)在網(wǎng)上發(fā)布的《柳葉刀》操作員屏幕視頻，其中通常包括一個(gè)圍繞目標(biāo)的盒子，一個(gè)能夠隨著目標(biāo)移動(dòng)而移動(dòng)的盒子，以及一條“目標(biāo)已鎖定”的通知。這些功能需要某種形式的算法對(duì)象識(shí)別，盡管僅從視頻中無(wú)法判斷它是只是為人類(lèi)操作員突出顯示目標(biāo)還是主動(dòng)引導(dǎo)無(wú)人機(jī)擊中目標(biāo)。
然而，“過(guò)去兩周左右的《柳葉刀》視頻似乎都沒(méi)有‘目標(biāo)鎖定’或隨附的邊界框，”漢布林繼續(xù)說(shuō)道。“顯而易見(jiàn)的結(jié)論是，自動(dòng)目標(biāo)識(shí)別軟件過(guò)早推出，并且出現(xiàn)了產(chǎn)品召回。”
不要相信 (AI) 炒作
如果沒(méi)有俄羅斯軍事文件或無(wú)人機(jī)的軟件代碼，就不可能證實(shí)漢布林的分析。但佩蒂約翰和另外兩名無(wú)人機(jī)專(zhuān)家——兩人都能說(shuō)一口流利的俄語(yǔ)，通常對(duì)這項(xiàng)技術(shù)充滿(mǎn)熱情——一致認(rèn)為漢布林的解釋不僅合理，而且是可能的。
“這是一個(gè)相當(dāng)詳細(xì)的分析，在我看來(lái)是正確的，”陸軍研究實(shí)驗(yàn)室前首席科學(xué)家亞歷山大·科特在一封電子郵件中表示，呼吁《突破防御》雜志關(guān)注這篇福布斯文章。“很難確定……我還沒(méi)有看到獨(dú)立的確認(rèn)，我認(rèn)為甚至不存在。”
“我認(rèn)為這是準(zhǔn)確的，”與五角大樓關(guān)系密切的智庫(kù) CNA 的Sam Bendett在與 Breaking Defense 的電子郵件往來(lái)中說(shuō)道。（本內(nèi)特還向漢布林講述了他的故事）。
“這項(xiàng)技術(shù)需要大量的測(cè)試和評(píng)估，這項(xiàng)技術(shù)需要大量的迭代，而且很多時(shí)候這項(xiàng)技術(shù)還沒(méi)有準(zhǔn)備好，”他在《福布斯》報(bào)道發(fā)表之前告訴 Breaking Defense。“我認(rèn)為這是一個(gè)緩慢的過(guò)程，因?yàn)殡p方都想把事情做好。一旦他們做對(duì)了，他們就會(huì)擴(kuò)大規(guī)模。
“這實(shí)際上在技術(shù)上是可能的，”本德特說(shuō)。“誰(shuí)在無(wú)人機(jī)技術(shù)上取得突破并迅速擴(kuò)大規(guī)模，誰(shuí)就獲得了巨大的優(yōu)勢(shì)。”
但佩蒂約翰告訴 Breaking Defense，這種突破顯然還沒(méi)有發(fā)生在這里。“俄羅斯工業(yè)界經(jīng)常對(duì)其武器的能力提出相當(dāng)古怪的說(shuō)法，而在實(shí)踐中，我們發(fā)現(xiàn)它們的性能遠(yuǎn)低于承諾……這一點(diǎn)在自主系統(tǒng)中最為突出，正如薩姆·本德特和杰夫·埃德蒙茲在他們的 CNA 關(guān)于無(wú)人系統(tǒng)的報(bào)告中發(fā)現(xiàn)的那樣烏克蘭的系統(tǒng)。”
盡管媒體進(jìn)行了類(lèi)似的炒作，但烏克蘭人似乎并沒(méi)有做得更好。
“有很多關(guān)于 Saker Scout 和烏克蘭人一直在開(kāi)發(fā)的自主目標(biāo)識(shí)別軟件的令人興奮的報(bào)告，”佩蒂約翰說(shuō)。“如果 Saker Scout 做了它應(yīng)該做的事…… 它可以出發(fā)，找到目標(biāo)，并決定自行殺死所有目標(biāo)，而無(wú)需人類(lèi)干預(yù)。”
“它是否真的能做到這一點(diǎn)……很難篩選，”她繼續(xù)說(shuō)道。“我絕對(duì)持懷疑態(tài)度。”
真正的人工智能革命——日期待定
那么，俄羅斯和烏克蘭——或者美國(guó)或中國(guó)——真正需要什么才能用人工智能取代人類(lèi)操作員呢？畢竟，大腦是一個(gè)生物神經(jīng)網(wǎng)絡(luò)，經(jīng)過(guò)數(shù)百萬(wàn)年的進(jìn)化磨練，接收一系列令人眼花繚亂的感官數(shù)據(jù)（視覺(jué)、音頻、氣味、振動(dòng)），更新外部世界的內(nèi)部 3D 模型，然后制定和近乎實(shí)時(shí)地執(zhí)行復(fù)雜的行動(dòng)計(jì)劃。
科特告訴《突破防御》雜志，要使人工智能具備這種能力，就需要戰(zhàn)斗理論家所說(shuō)的“態(tài)勢(shì)感知”。“[像]任何士兵一樣......他們需要看看周?chē)l(fā)生了什么。” 科特認(rèn)為，這不僅需要物體識(shí)別——人工智能發(fā)現(xiàn)這已經(jīng)足夠困難了——還需要觀察運(yùn)動(dòng)中的物體并推斷出它正在執(zhí)行什么動(dòng)作的能力。
這是人類(lèi)從嬰兒時(shí)期就要做的任務(wù)。想象一下，當(dāng)嬰兒被放在高腳椅上時(shí)，甚至在看到任何食物之前就說(shuō)“嗯”：這實(shí)際上是一個(gè)復(fù)雜的觀察過(guò)程，將這些感官輸入轉(zhuǎn)化為關(guān)于世界的可理解的數(shù)據(jù)，將新數(shù)據(jù)與記憶中的舊模式相匹配，并對(duì)未來(lái)做出推斷。莫拉維克悖論是人工智能領(lǐng)域最著名的格言之一，即人類(lèi)認(rèn)為理所當(dāng)然的任務(wù)對(duì)于機(jī)器來(lái)說(shuō)可能極其困難。
即使人類(lèi)在壓力、危險(xiǎn)和面對(duì)故意欺騙時(shí)也很難理解發(fā)生了什么。烏克蘭的誘餌——假HIMARS火箭發(fā)射器、防空雷達(dá)等等——經(jīng)常欺騙俄羅斯無(wú)人機(jī)操作員和炮兵軍官，讓他們?cè)诩儇浬侠速M(fèi)彈藥，而不會(huì)去打擾那些偽裝良好的誘餌，事實(shí)證明，機(jī)器視覺(jué)算法更容易欺騙。。戰(zhàn)斗人員還必須警惕危險(xiǎn)，從人類(lèi)大腦進(jìn)化來(lái)識(shí)別的明顯可見(jiàn)的危險(xiǎn)（有人向你沖鋒、尖叫）到人類(lèi)感官無(wú)法感知的高科技威脅， 如電子戰(zhàn)或瞄準(zhǔn)激光鎖定。配備適當(dāng)?shù)臋C(jī)器可以檢測(cè)無(wú)線電波和激光束，但其人工智能仍然需要理解傳入的數(shù)據(jù)，評(píng)估哪些威脅最危險(xiǎn)，并在幾秒鐘內(nèi)決定如何保護(hù)自己。
但困難還不止于此：戰(zhàn)斗人員必須作為一個(gè)團(tuán)隊(duì)一起戰(zhàn)斗，就像人類(lèi)自第一個(gè)石器時(shí)代部落伏擊另一個(gè)部落以來(lái)的方式一樣。與步槍射擊和其他個(gè)人技能相比，集體“戰(zhàn)斗演習(xí)”、團(tuán)隊(duì)建設(shè)以及在火力下進(jìn)行清晰溝通的協(xié)議會(huì)消耗大量的訓(xùn)練時(shí)間。因此，軍事人工智能的大國(guó)項(xiàng)目——無(wú)論是美國(guó)的聯(lián)合全域指揮與控制還是中國(guó)的“信息化戰(zhàn)爭(zhēng)” ——不僅關(guān)注火力，而且關(guān)注協(xié)調(diào)，使用算法直接從一個(gè)機(jī)器人系統(tǒng)共享戰(zhàn)斗數(shù)據(jù)到另一個(gè)機(jī)器人系統(tǒng)，而無(wú)需其他機(jī)器人系統(tǒng)。人類(lèi)中介。
因此，佩蒂約翰說(shuō)，實(shí)現(xiàn)有效作戰(zhàn)人工智能的下一步，“實(shí)際上是將其聯(lián)網(wǎng)，并思考它們?nèi)绾喂蚕磉@些信息，以及誰(shuí)實(shí)際上被授權(quán)射擊。是無(wú)人機(jī)??嗎？”
如此復(fù)雜的數(shù)字決策需要復(fù)雜的軟件，而這些軟件需要在高速芯片上運(yùn)行，而高速芯片又需要電力、冷卻、防振動(dòng)和電子干擾等。對(duì)于工程師來(lái)說(shuō)，將這些東西塞進(jìn)烏克蘭雙方廣泛使用的小型無(wú)人機(jī)中并不容易。即使是升級(jí)版的Lancet-3 也只能裝載不到 7 磅（3 公斤）的爆炸性彈頭，為大型計(jì)算機(jī)大腦留下的空間也很小。
對(duì)于俄羅斯，尤其是烏克蘭來(lái)說(shuō)，必要的工程和成本可能太高了，因?yàn)樗鼈兊脑S多無(wú)人機(jī)都是用郵購(gòu)零件手工制造的。“鑒于當(dāng)前 FPV [第一人稱(chēng)視角] 無(wú)人機(jī)的成本非常低，而且其中許多無(wú)人機(jī)實(shí)際上是由志愿者在廚房的桌子上組裝的……成本效益權(quán)衡可能仍然不確定，”科特告訴 Breaking Defense。
“你看到這么多無(wú)人機(jī)的原因是它們很便宜，”佩蒂約翰表示同意。“雙方……他們都沒(méi)有投資增強(qiáng)抗干擾能力……因?yàn)檫@會(huì)使他們的成本太高，無(wú)法承擔(dān)所需的數(shù)量。他們寧愿買(mǎi)很多，然后指望其中一些能成功。”
相關(guān)：愚蠢而廉價(jià)：在烏克蘭面臨電子戰(zhàn)時(shí)，小型無(wú)人機(jī)的數(shù)量就是質(zhì)量
因此，即使俄羅斯或?yàn)蹩颂m能夠?qū)嵤C(jī)載人工智能，她說(shuō)，“我也不清楚它是否會(huì)在這場(chǎng)沖突中擴(kuò)大規(guī)模，因?yàn)檫@在很大程度上取決于成本。”
然而，這并不意味著人工智能不會(huì)在與其他戰(zhàn)斗方的其他沖突中擴(kuò)大規(guī)模，尤其是與美國(guó)和中國(guó)等擁有大量國(guó)防預(yù)算的高科技國(guó)家。但即使對(duì)于那些將人工智能小型化以安裝在無(wú)人機(jī)上的超級(jí)大國(guó)來(lái)說(shuō)，也是令人畏懼的：像 ChatGPT 這樣引人注目的人工智能在大型服務(wù)器群上運(yùn)行是有充分理由的。
但這并不意味著問(wèn)題無(wú)法解決——或者說(shuō)必須百分百解決。人工智能仍然會(huì)出現(xiàn)故障和產(chǎn)生幻覺(jué)，但人類(lèi)無(wú)論在戰(zhàn)斗中還是戰(zhàn)斗外都總是會(huì)犯致命的錯(cuò)誤。民用類(lèi)比是自動(dòng)駕駛汽車(chē)：它們不需要 100% 避免事故才能比人類(lèi)駕駛員有所進(jìn)步。
根據(jù)定義，在任何人類(lèi)群體中，執(zhí)行任何特定任務(wù)時(shí)，“百分之五十的人都會(huì)低于平均水平，”科特指出。“如果你能做得比‘低于平均水平’更好，那么你的運(yùn)營(yíng)效率就已經(jīng)加倍了。”
當(dāng)你發(fā)動(dòng)大規(guī)模戰(zhàn)爭(zhēng)時(shí)，比如在烏克蘭，或者任何未來(lái)的中美沖突，即使是微小的改進(jìn)也可能產(chǎn)生重大影響。“不一定是 100%，”科特說(shuō)。“在很多情況下，20% 就足夠了，比沒(méi)有好得多。”
他警告說(shuō)，西方對(duì)高性能的要求與大規(guī)模戰(zhàn)爭(zhēng)的現(xiàn)實(shí)并不相符。“我們要求完全的可靠性，我們要求完全的準(zhǔn)確性，[因?yàn)閉我們不像烏克蘭那樣面臨生存危險(xiǎn)，”科特說(shuō)。“烏克蘭人并不指定完美。他們負(fù)擔(dān)不起。”
?