Google 正在利用人工智能技術(shù)幫助美國(guó)國(guó)防部分析其無(wú)人機(jī)拍攝的視頻片段。
據(jù)外媒 Gizmodo 報(bào)道，上周，一些 Google 員工在內(nèi)部郵件中分享該消息后，點(diǎn)燃了部分人的憤怒情緒。而另一些人則認(rèn)為雙方的這次技術(shù)合作關(guān)乎機(jī)器學(xué)習(xí)發(fā)展和使用的道德問(wèn)題。
雷鋒網(wǎng)了解到，去年秋天，還擔(dān)任 Alphabet 董事長(zhǎng)的 Eric Schmidt 在一次談話(huà)中曾談到科技圈與軍方合作關(guān)系的擔(dān)憂(yōu)。 “技術(shù)社區(qū)普遍擔(dān)心軍事和工業(yè)結(jié)合體，會(huì)被作為不正當(dāng)殺人利器，”同樣也是國(guó)防創(chuàng)新委員會(huì)成員的他補(bǔ)充說(shuō)，“我不會(huì)在軍隊(duì)內(nèi)部提供 Alphabet 的東西。”
然而，Google 似乎食言了。
對(duì)于這次合作，可能會(huì)給 Google 帶來(lái)的好處是，將聯(lián)邦政府視為客戶(hù)之后，更有利于其在云服務(wù)市場(chǎng)上拉近 AWS 和 微軟 Azure 云。而且 Google 也稱(chēng)其與軍方的合作與戰(zhàn)爭(zhēng)用途無(wú)關(guān)，但這一問(wèn)題仍引起了員工們的普遍關(guān)注。
1.爭(zhēng)議合作也就是 Google 參與的 Maven 項(xiàng)目。
Maven 項(xiàng)目于 2017 年 4 月由軍方主導(dǎo)創(chuàng)建，它也被稱(chēng)為算法戰(zhàn)跨職能團(tuán)隊(duì)（AWCFT）。Maven 的任務(wù)指向是 “加速?lài)?guó)防部整合大數(shù)據(jù)和機(jī)器學(xué)習(xí)技術(shù)”。華爾街日?qǐng)?bào)曾有報(bào)道稱(chēng)， 2017 年，國(guó)防部在人工智能相關(guān)領(lǐng)域總共花費(fèi)了 74 億美元，主要以應(yīng)對(duì)中國(guó)在 AI 上的新軍備競(jìng)賽。
據(jù)該中心的助理研究員 Greg Allen 介紹，該項(xiàng)目的首要任務(wù)是幫助軍方有效地處理空中無(wú)人機(jī)每天收集的大量視頻片段。盡管?chē)?guó)防部已經(jīng)投入資源開(kāi)發(fā)先進(jìn)的傳感器技術(shù)以在無(wú)人機(jī)飛行期間收集資料信息，不過(guò)在整理數(shù)據(jù)時(shí)，它創(chuàng)建的分析工具較為落后。
“在 Maven 之前，該部門(mén)沒(méi)人知道如何恰當(dāng)?shù)刭?gòu)買(mǎi)、使用人工智能服務(wù)。” Allen 寫(xiě)道。
Maven 的其中一個(gè)任務(wù)是使用機(jī)器學(xué)習(xí)來(lái)識(shí)別無(wú)人機(jī)視頻圖像中的車(chē)輛和其他物體，從而減輕分析人員的負(fù)擔(dān)。根據(jù)國(guó)防部的說(shuō)法，Maven 想利用最先進(jìn)的計(jì)算機(jī)視覺(jué)技術(shù)能夠自動(dòng)檢測(cè)和識(shí)別無(wú)人機(jī)全動(dòng)態(tài)攝像機(jī)捕獲的 38 種物體。
這種 AI 技術(shù)目前已被部署在了法律執(zhí)行和軍事應(yīng)用中，用來(lái)識(shí)別汽車(chē)和人等基本物體，但在分析復(fù)雜場(chǎng)景時(shí)也會(huì)遇到困難。有研究人員曾警告，AI 技術(shù)可能會(huì)以不易察覺(jué)的方式產(chǎn)生重大偏見(jiàn)。例如，ProPublica 在 2016 年的報(bào)告中指出，用于預(yù)測(cè)囚犯再度犯法可能性的算法經(jīng)常表現(xiàn)出種族歧視傾向。
2.Google 發(fā)言人稱(chēng)，它正在向國(guó)防部提供用于機(jī)器學(xué)習(xí)應(yīng)用的 TensorFlow API 接口，以幫助軍事分析人員檢測(cè)圖像中的物體。
TensorFlow 是一款 AI 領(lǐng)域免費(fèi)的系統(tǒng)軟件，一直是 Google AI 戰(zhàn)略的關(guān)鍵。它為機(jī)器學(xué)習(xí)工程師提供了進(jìn)行數(shù)據(jù)排序和訓(xùn)練算法的框架，并且在整個(gè)行業(yè)中被廣泛使用。
“我們長(zhǎng)期與政府機(jī)構(gòu)合作為其提供技術(shù)解決方案。這個(gè)特定項(xiàng)目是國(guó)防部的試點(diǎn)項(xiàng)目，提供開(kāi)源的 TensorFlow API，可以幫助其識(shí)別未分類(lèi)數(shù)據(jù)中的對(duì)象。”發(fā)言人說(shuō)。
軍方正在使用 TensorFlow，這并不令人感到意外，但知情人士向 The Verge 證實(shí)，Google 正在積極幫助它的軟件以用于 Maven 項(xiàng)目。同一消息來(lái)源指出，谷歌和國(guó)防部之間的保密協(xié)議里有多少人參與這個(gè)項(xiàng)目的詳細(xì)信息以及這種合作深入狀況，但具體情況并沒(méi)有透露。
過(guò)去，Google 一直非常警惕與軍事研究的可能會(huì)存在的任何關(guān)系。例如，據(jù)雷鋒網(wǎng)了解，它在 2013 年收購(gòu)了一系列機(jī)器人公司時(shí)，盡力與該公司正在執(zhí)行的 DARPA 項(xiàng)目保持距離。而在谷歌于 2014 年收購(gòu) DeepMind 之后，該公司也成立了道德委員會(huì)，以確保該技術(shù)不會(huì)被濫用。
盡管如此，除了那些已經(jīng)與美國(guó)使用無(wú)人機(jī)進(jìn)行海外監(jiān)視和有針對(duì)性殺戮的相關(guān)問(wèn)題之外，Google 將人工智能用于 Maven 項(xiàng)目不免引發(fā)道德問(wèn)題。美國(guó)軍方強(qiáng)調(diào)它只會(huì)將人工智能作為人類(lèi)收集情報(bào)的合作伙伴，但計(jì)算機(jī)輔助決策仍然可能會(huì)引發(fā)錯(cuò)誤。人類(lèi)無(wú)人機(jī)操作員可能過(guò)分依賴(lài)有缺陷的計(jì)算機(jī)分析結(jié)果，如果沒(méi)有適當(dāng)?shù)谋O(jiān)督，這些缺陷可能會(huì)被忽視。
當(dāng)然，Google 發(fā)言人承認(rèn)使用機(jī)器學(xué)習(xí)用于軍事項(xiàng)目具有一定爭(zhēng)議性，但她表示該技術(shù)將圖像標(biāo)記后用于人員審查，屬于非攻擊性用途。Google 目前圍繞這一爭(zhēng)議問(wèn)題正制定相關(guān)政策和保障措施。
3.國(guó)防部正在加速 Maven 項(xiàng)目的執(zhí)行，預(yù)計(jì)在其成立六個(gè)月后即可投入運(yùn)行。據(jù)報(bào)道，自 12 月以來(lái)，該項(xiàng)目已被部署在與伊斯蘭國(guó)的對(duì)抗中。
為了滿(mǎn)足該項(xiàng)目的迫切時(shí)間要求，國(guó)防部依靠自身顯然并不足夠。于是，它轉(zhuǎn)而尋求與學(xué)界和業(yè)界的人工智能專(zhuān)家合作，以彌補(bǔ)軍方和硅谷之間的技術(shù)差距。根據(jù)項(xiàng)目總監(jiān) John Shanahan 的說(shuō)法，Maven 項(xiàng)目將為整個(gè)國(guó)防部點(diǎn)燃“人工智能的火焰前沿”。
2017 年夏季，在華盛頓舉行的國(guó)防技術(shù)峰會(huì)上，Maven 首席海軍陸戰(zhàn)隊(duì)上校 Drew Cukor 說(shuō)，人與計(jì)算機(jī)之間的共生關(guān)系對(duì)于幫助武器系統(tǒng)探測(cè)物體至關(guān)重要。
在與許多來(lái)自硅谷的軍事和工業(yè)技術(shù)專(zhuān)家對(duì)話(huà)中，Cukor 宣稱(chēng)美國(guó)正處于人工智能軍備競(jìng)賽。“你們?cè)S多人會(huì)注意到，Eric Schmid 現(xiàn)在稱(chēng) Google 是一家人工智能公司，而不是數(shù)據(jù)公司，”但此時(shí) Cukor 并沒(méi)有提及 Google 是 Maven 的合作伙伴。
“沒(méi)有任何‘黑匣子’能夠提供政府需要的 AI 系統(tǒng)，至少現(xiàn)在不是這樣，”他繼續(xù)說(shuō)道，“關(guān)鍵力量必須整合在一起，唯一方法就是與商業(yè)合作伙伴進(jìn)行合作。”
國(guó)防部發(fā)言人也拒絕透露 Google 是否是其 Maven 項(xiàng)目唯一的私營(yíng)行業(yè)合作伙伴，也沒(méi)有澄清 Google 在該項(xiàng)目中扮演的角色。
?