SoarTech公司用於資料收集、自主系統、語音識別和意圖解釋以及建模和模擬的TrustMATE技術被用於美國國防部高階研究計劃局(DARPA)空戰進化(ACE)專案第一階段的工作。
具體來說,技術領域2(TA2),空戰進化專案——使用者-系統協作的信任和可靠性(ACE-TRUST)實施了一種實驗性方法,用於建模和測量飛行員對空中格鬥自主性的信任,並測試了一種新型的人機介面(HMI),以溝通人工智慧的可信性。
由Dynetics公司和SoarTech公司開發的無人智慧(unmanned intelligence, UI)將使飛行員能夠執行作戰任務指揮官的任務,但ACE-TRUST的重點是飛行員對空中格鬥自主性的信任。
人工智慧的信任水平在人與代理的互動中是動態的。這種信任的相互作用需要被測量、建模和校準,以便為了交戰成功進行最佳的人與人工智慧的合作。
"認為一項技術會被使用是很容易的,但使用者的接受度實際上要難得多,尤其是在需要保證安全和執行關鍵任務的時候,"SoarTech高階科學家Lauren Reinerman-Jones博士說。"校準人與系統的信任能夠使人們對自主性的依賴達到適當的水平。對信任的精確測量,是使用自主性的關鍵--在正確的時間使用正確的量。我們的方法和模型與環境相關,並可用於作戰。"
基於飛行員與系統的互動以及生理資料,飛行員的信任被測量和建模。下一步是根據自主性的能力來評估這種信任,並有意識地將飛行員的信任與空中格鬥演算法的能力進行適當的校準。
對自主性的信任將使操作者能夠自信地進行多工處理。這個想法是為了捕捉人類信任的模型。
SoarTech是這項研究第一階段的牽頭者,並得到了柯林斯航空航天公司、愛荷華大學操作效能實驗室和雷聲公司的支援。
Reinerman-Jones說:"我們將把我們在DARPA ACE(美國國防部高階研究計劃局空戰進化專案)上的成果過渡到AFRL[美國空軍研究實驗室]小企業創新研究(SBIR)第二階段,以擴大我們的客觀信任模型的能力,在人類-自主性團隊協作的整個生命週期中捕捉到信任的動態性質。這項工作的願景是擁有一個強健的客觀信任模型,它可以透過自主性的可信度進行調整。我們將使用系統的可信度來開發可解釋和透明的人機介面,使用視覺、聲音甚至觸控來校準操作員的信任。被信任的人工智慧是法律、道德和倫理自主性的未來。"