【據(jù)physorg網(wǎng)站2018年1月11日報道】美國陸軍研究實驗室(ARL)在近期完成的由美國國防部長辦公室“自主研究試點計劃(ARPI)”支持的兩個項目中，開發(fā)了一些可改善人與人工智能(AI)代理間協(xié)作的方法。他們通過提高代理透明度(SAT)來實現(xiàn)這一點，代理透明是指機(jī)器人、無人平臺或軟件代理向人類傳達(dá)其意圖、表現(xiàn)、未來計劃以及推理過程的能力。

隨著機(jī)器代理復(fù)雜性和獨立性的增加，對于人類來說，理解他們的意圖、行為、背后的推理過程以及預(yù)期的結(jié)果是至關(guān)重要的，這樣人類才可以正確地校準(zhǔn)他們對系統(tǒng)的信任，并作出恰當(dāng)?shù)臎Q策。

美國國防科學(xué)委員會在2016年的一份報告中指出，人類對自主系統(tǒng)的信任存在六個障礙，包括低可觀察性、可預(yù)測性、可指導(dǎo)性和可審計性以及“對共同目標(biāo)的相互理解不夠”等。

為了解決這些問題，ARL開發(fā)了基于態(tài)勢感知的代理透明度模型，并在ARPI支持的一系列人素研究中測試了其對人-代理團(tuán)隊性能的有效性。SAT模型處理代理對其人類合作者的信息需求，以使人在其任務(wù)環(huán)境中獲得代理的有效態(tài)勢感知。在SAT的第一個層級，代理向操作員提供有關(guān)其當(dāng)前狀態(tài)和目標(biāo)、意圖和計劃的基本信息；在第二個層級，代理揭示其推理過程以及在規(guī)劃行動時約束/可供性；在SAT的第三個層級，代理向操作員提供有關(guān)其對于未來狀態(tài)的預(yù)測、后果、成功/失敗可能性以及與上述預(yù)測相關(guān)的任何不確定性的信息。

在一個縮寫為IMPACT的ARPI項目中，該項研究用于多個異構(gòu)無人載具管理的人-代理團(tuán)隊問題，重點檢查了基于SAT模型的代理透明度水平對操作人員在軍事情景中決策的影響。一系列實驗的結(jié)果共同表明，代理透明度有利于人類的決策，也有利于人-代理團(tuán)隊的整體性能。更具體地說，當(dāng)代理具有加高透明度等級時，人對代理的信任得到了明顯的更好的校準(zhǔn)，當(dāng)代理正確時，接受代理的規(guī)劃；而當(dāng)代理不正確時拒絕。

另一個涉及到代理透明度的ARPI項目是ARL與美國海軍研究實驗室(NRL)合作的“自治小組成員”(ASM)項目，ASM是一種小型地面機(jī)器人，可以與一個步兵小隊進(jìn)行交互和通信。作為整個ASM項目的一部分，ARL開發(fā)了透明度可視化方案，用于調(diào)查代理透明度等級對操作員性能的影響。通過SAT模型的信息，ASM的透明度模塊用戶界面一目了然，其中代理規(guī)劃、動機(jī)和預(yù)測結(jié)果的圖像化表征有助于提升與代理交互的透明度。對ASM用戶界面的一系列人素研究，調(diào)查了代理透明度對人類隊友的態(tài)勢感知、對ASM信任度和工作量的影響。該項目的研究結(jié)果與IMPACT項目一致，驗證了代理透明度在不增加工作負(fù)荷的前提下對人類任務(wù)績效的正面影響。研究參與者也報告說，他們認(rèn)為ASM在透明度更高時更加值得信賴，更智能和更人性化。

ARL的研究人員目前正在把SAT模型擴(kuò)展為人與代理之間的雙向透明度模型，面臨的挑戰(zhàn)是用戶界面設(shè)計，包括視覺、聽覺和其他形式的界面，這些界面可以實時動態(tài)地支持雙向透明度，而不會帶給用戶太多的信息和負(fù)擔(dān)。