【據physorg網站2018年1月11日報道】美國陸軍研究實驗室(ARL)在近期完成的由美國國防部長辦公室“自主研究試點計劃(ARPI)”支持的兩個項目中，開發了一些可改善人與人工智能(AI)代理間協作的方法。他們通過提高代理透明度(SAT)來實現這一點，代理透明是指機器人、無人平臺或軟件代理向人類傳達其意圖、表現、未來計劃以及推理過程的能力。
隨著機器代理復雜性和獨立性的增加，對于人類來說，理解他們的意圖、行為、背后的推理過程以及預期的結果是至關重要的，這樣人類才可以正確地校準他們對系統的信任，并作出恰當的決策。
美國國防科學委員會在2016年的一份報告中指出，人類對自主系統的信任存在六個障礙，包括低可觀察性、可預測性、可指導性和可審計性以及“對共同目標的相互理解不夠”等。
為了解決這些問題，ARL開發了基于態勢感知的代理透明度模型，并在ARPI支持的一系列人素研究中測試了其對人-代理團隊性能的有效性。SAT模型處理代理對其人類合作者的信息需求，以使人在其任務環境中獲得代理的有效態勢感知。在SAT的第一個層級，代理向操作員提供有關其當前狀態和目標、意圖和計劃的基本信息；在第二個層級，代理揭示其推理過程以及在規劃行動時約束/可供性；在SAT的第三個層級，代理向操作員提供有關其對于未來狀態的預測、后果、成功/失敗可能性以及與上述預測相關的任何不確定性的信息。
在一個縮寫為IMPACT的ARPI項目中，該項研究用于多個異構無人載具管理的人-代理團隊問題，重點檢查了基于SAT模型的代理透明度水平對操作人員在軍事情景中決策的影響。一系列實驗的結果共同表明，代理透明度有利于人類的決策，也有利于人-代理團隊的整體性能。更具體地說，當代理具有加高透明度等級時，人對代理的信任得到了明顯的更好的校準，當代理正確時，接受代理的規劃；而當代理不正確時拒絕。
另一個涉及到代理透明度的ARPI項目是ARL與美國海軍研究實驗室(NRL)合作的“自治小組成員”(ASM)項目，ASM是一種小型地面機器人，可以與一個步兵小隊進行交互和通信。作為整個ASM項目的一部分，ARL開發了透明度可視化方案，用于調查代理透明度等級對操作員性能的影響。通過SAT模型的信息，ASM的透明度模塊用戶界面一目了然，其中代理規劃、動機和預測結果的圖像化表征有助于提升與代理交互的透明度。對ASM用戶界面的一系列人素研究，調查了代理透明度對人類隊友的態勢感知、對ASM信任度和工作量的影響。該項目的研究結果與IMPACT項目一致，驗證了代理透明度在不增加工作負荷的前提下對人類任務績效的正面影響。研究參與者也報告說，他們認為ASM在透明度更高時更加值得信賴，更智能和更人性化。
ARL的研究人員目前正在把SAT模型擴展為人與代理之間的雙向透明度模型，面臨的挑戰是用戶界面設計，包括視覺、聽覺和其他形式的界面，這些界面可以實時動態地支持雙向透明度，而不會帶給用戶太多的信息和負擔。
?