【據(jù)physorg網(wǎng)站2018年1月11日?qǐng)?bào)道】美國(guó)陸軍研究實(shí)驗(yàn)室(ARL)在近期完成的由美國(guó)國(guó)防部長(zhǎng)辦公室“自主研究試點(diǎn)計(jì)劃(ARPI)”支持的兩個(gè)項(xiàng)目中，開(kāi)發(fā)了一些可改善人與人工智能(AI)代理間協(xié)作的方法。他們通過(guò)提高代理透明度(SAT)來(lái)實(shí)現(xiàn)這一點(diǎn)，代理透明是指機(jī)器人、無(wú)人平臺(tái)或軟件代理向人類(lèi)傳達(dá)其意圖、表現(xiàn)、未來(lái)計(jì)劃以及推理過(guò)程的能力。

隨著機(jī)器代理復(fù)雜性和獨(dú)立性的增加，對(duì)于人類(lèi)來(lái)說(shuō)，理解他們的意圖、行為、背后的推理過(guò)程以及預(yù)期的結(jié)果是至關(guān)重要的，這樣人類(lèi)才可以正確地校準(zhǔn)他們對(duì)系統(tǒng)的信任，并作出恰當(dāng)?shù)臎Q策。

美國(guó)國(guó)防科學(xué)委員會(huì)在2016年的一份報(bào)告中指出，人類(lèi)對(duì)自主系統(tǒng)的信任存在六個(gè)障礙，包括低可觀察性、可預(yù)測(cè)性、可指導(dǎo)性和可審計(jì)性以及“對(duì)共同目標(biāo)的相互理解不夠”等。

為了解決這些問(wèn)題，ARL開(kāi)發(fā)了基于態(tài)勢(shì)感知的代理透明度模型，并在ARPI支持的一系列人素研究中測(cè)試了其對(duì)人-代理團(tuán)隊(duì)性能的有效性。SAT模型處理代理對(duì)其人類(lèi)合作者的信息需求，以使人在其任務(wù)環(huán)境中獲得代理的有效態(tài)勢(shì)感知。在SAT的第一個(gè)層級(jí)，代理向操作員提供有關(guān)其當(dāng)前狀態(tài)和目標(biāo)、意圖和計(jì)劃的基本信息；在第二個(gè)層級(jí)，代理揭示其推理過(guò)程以及在規(guī)劃行動(dòng)時(shí)約束/可供性；在SAT的第三個(gè)層級(jí)，代理向操作員提供有關(guān)其對(duì)于未來(lái)狀態(tài)的預(yù)測(cè)、后果、成功/失敗可能性以及與上述預(yù)測(cè)相關(guān)的任何不確定性的信息。

在一個(gè)縮寫(xiě)為IMPACT的ARPI項(xiàng)目中，該項(xiàng)研究用于多個(gè)異構(gòu)無(wú)人載具管理的人-代理團(tuán)隊(duì)問(wèn)題，重點(diǎn)檢查了基于SAT模型的代理透明度水平對(duì)操作人員在軍事情景中決策的影響。一系列實(shí)驗(yàn)的結(jié)果共同表明，代理透明度有利于人類(lèi)的決策，也有利于人-代理團(tuán)隊(duì)的整體性能。更具體地說(shuō)，當(dāng)代理具有加高透明度等級(jí)時(shí)，人對(duì)代理的信任得到了明顯的更好的校準(zhǔn)，當(dāng)代理正確時(shí)，接受代理的規(guī)劃；而當(dāng)代理不正確時(shí)拒絕。

另一個(gè)涉及到代理透明度的ARPI項(xiàng)目是ARL與美國(guó)海軍研究實(shí)驗(yàn)室(NRL)合作的“自治小組成員”(ASM)項(xiàng)目，ASM是一種小型地面機(jī)器人，可以與一個(gè)步兵小隊(duì)進(jìn)行交互和通信。作為整個(gè)ASM項(xiàng)目的一部分，ARL開(kāi)發(fā)了透明度可視化方案，用于調(diào)查代理透明度等級(jí)對(duì)操作員性能的影響。通過(guò)SAT模型的信息，ASM的透明度模塊用戶(hù)界面一目了然，其中代理規(guī)劃、動(dòng)機(jī)和預(yù)測(cè)結(jié)果的圖像化表征有助于提升與代理交互的透明度。對(duì)ASM用戶(hù)界面的一系列人素研究，調(diào)查了代理透明度對(duì)人類(lèi)隊(duì)友的態(tài)勢(shì)感知、對(duì)ASM信任度和工作量的影響。該項(xiàng)目的研究結(jié)果與IMPACT項(xiàng)目一致，驗(yàn)證了代理透明度在不增加工作負(fù)荷的前提下對(duì)人類(lèi)任務(wù)績(jī)效的正面影響。研究參與者也報(bào)告說(shuō)，他們認(rèn)為ASM在透明度更高時(shí)更加值得信賴(lài)，更智能和更人性化。

ARL的研究人員目前正在把SAT模型擴(kuò)展為人與代理之間的雙向透明度模型，面臨的挑戰(zhàn)是用戶(hù)界面設(shè)計(jì)，包括視覺(jué)、聽(tīng)覺(jué)和其他形式的界面，這些界面可以實(shí)時(shí)動(dòng)態(tài)地支持雙向透明度，而不會(huì)帶給用戶(hù)太多的信息和負(fù)擔(dān)。