據aviationweek網站2019年7月24日刊文，從概念探索到自主作戰，人工智能(AI)正被逐步引入航空航天和國防領域。目前機器學習已在數據分析方面進展迅速，但接下來的發展可能會帶來更大的影響，如改變飛機的設計和制造流程以及飛行員的編配和飛行方式。
波音公司首席執行官丹尼斯·穆伊倫伯格表示：“AI已經影響到了各方面的業務，而且這種影響將繼續增強。”2017年成立的波音公司AnalytX組織的專家已將AI應用到供應鏈、制造系統管理以及工程工具集中。但是在AI駕駛飛機之前，仍有需要克服很多阻礙。空客、波音、洛馬和其他公司正在研究機載AI，但仍處于初級階段。
現在，航空航天領域AI的本質是統計學習。這不是AI的非確定性給航空航天領域帶來的唯一問題。今天的機器學習系統在經過訓練以篩選大量數據時，在統計模式識別方面非常強大，但他們不能解釋所做的決定。沒有解釋就很難讓人進行預測，因此就不能建立對AI與人類共同執行任務時的信任。
由于機器學習固有的復雜性，解釋能力是客戶接受AI系統的關鍵。因此，DARPA已啟動了在未來五年內開展的AI Next活動，資金超過20億美元。開發可解釋AI是一個關鍵目標，創建能在真實世界中使用并從經驗中學習的系統，降低訓練神經網絡所需的手動標記實例的數量，并防御網絡上的誤分類攻擊。
DARPA長期以來一直在研究AI，1980年代引領了以專家系統為代表的第一波AI。這些系統以手工輸入規則的形式對某領域專家的知識進行編碼。典型的案例是飛行員伙伴項目，其旨在開發一個決策支持系統來幫助單座戰斗機的飛行員。
AI的第二波浪潮集中在受人腦啟發的神經網絡上，并利用大量的標注實例對它們進行訓練。然而，像專家系統一樣，神經網絡也有缺點。例如在圖片中添加細微的噪點會導致經過訓練的神經網絡出現明顯的錯誤。由于機器學習的實踐已遠遠領先于理論，到目前為止，我們對這種對抗式的圖像攻擊僅有有限的解決方案。
面向未來，DARPA的“可解釋的AI”(XAI)項目正在開發一種計算架構，使神經網絡能夠解釋自己。XAI正在構建輸出可解釋模型的機器學習程序，以及允許用戶查詢該模型的界面，這將使用戶知道何時可信任該系統。XAI專注于兩種類型的應用程序：數據分析和自主控制。第一個應用程序的案例是與機器學習系統一起工作的智能分析師系統。該系統負責查看圖像、識別某些對象和活動，并建議如何響應其所看到的內容。研究表明，機器學習算法中隱藏的偏差會產生錯誤的預測，例如將購物中心看成太陽能發電場。因為網絡比人類對諸如停車場之類的特征更加關注，這使得預測復雜化。XAI打算在不犧牲學習性能的同時提高解釋能力。當與傳感器數據一起工作時，深度學習模型的性能極大提升，
在另一個涉及自駕駛汽車的XAI項目中，車輛控制命令將生成模型行為的文本解釋。例如軟件生產，不僅系統中的代碼量在增加，而且生產也是軟件實現關鍵功能的一部分。目前軟件生產和質量保證的工具和方法并沒有根據所需的代碼量進行擴展。軟件工程師無法有效利用現有的大型代碼庫，以了解程序缺陷的來源并確保不會重復錯誤。一個解決方案是把軟件程序作為機器學習的數據。DARPA正在開發代碼挖掘、漏洞檢測和程序合成中的新功能，目標是使工程師能夠容易地搜索現有的可用代碼數據庫，并將基于學習的方法應用于異常檢測，生成具有最小規格的程序工件。
DARPA也正在將AI應用于設計中。研究人員訓練了一個深度神經網絡，其可獲得在流體繞圓柱體流動的可觀測數據，并用它來生成控制物理行為的方程式，其結果與描述粘性流體運動的N-S方程非常一致。在另一個項目中，研究人員將強化學習與在游戲機中使用的物理引擎相結合，以尋找新的滑翔飛行方式。另一個DARPAAI程序正在利用拓撲優化——基于基礎物理來放置和去除材料，以最大限度地減少重量——將形狀與材料進行平衡。AI也被應用于新的制造工藝。當3D打印制造零件時，金屬在底部的受熱時間比頂部更長，使合金晶粒有更多的時間生長，因此底部的材料特性與頂部的材料特性并不相同。
波音公司將此應用于電子射束增材制造。洛馬公司解決了一些不同的問題：如何信任兩個復合材料之間牢固的黏合。由于沒有可靠的數學模型來預測黏合強度，因此洛馬公司對原材料的溫度、濕度和時間等參數的影響進行了詳細的研究。
DARPA的ALIAS項目正在開發高水平的自動化，可以添加到飛機上以減少機上人員。由西科斯基公司開發的系統正在可選有人駕駛的UH-60“黑鷹”上進行測試。它可以有兩個、一個或零個飛行員。
在目前的形式中，ALIAS系統不包括AI，因為該系統被設計為可認證的，并且美國聯邦航空管理局無法確定具有學習行為的非確定性系統的適航性。但是AI正在接近空戰。DARPA已經啟動了“空戰進化”(ACE)項目，以自動進行空中格斗，擁有機器速度的反應時間，并解放飛行員來管理空中作戰。
DARPA將空戰訓練描述成嚴酷的考驗，在其中飛行員的表現和信任是高度優化的。ACE項目使用人機協同空中格斗作為挑戰場景，以增加飛行員對自主作戰技術的信任。ACE項目將為期四年，并分三個階段實施，自主作戰算法和人機接口將在一系列逐漸復雜的演習中開發和測試。這些演習最初是縮比飛機的1對1和2對2空戰，最后是全尺寸飛機。通過在類似戰斗機飛行員的空中格斗規則中訓練AI，ACE項目將在加速機器學習從數據中心進入未來飛機駕駛艙中發揮關鍵作用。
?