2019年8月9日,英國查塔姆研究所網站發布題為《Artificial Intelligence Prediction and Counterterrorism》的報告,作者是英國陸軍軍官、該所前訪問研究員凱瑟琳·麥肯德里克。報告要點如下:
在反恐中使用人工智能本身并不是錯誤的,本文提出了將合法使用人工智能作為自由民主國家反恐預測方法的一部分的必要條件。
•在反恐中使用預測性人工智能通常被認為對人權產生了有害影響,產生了“犯罪前”懲罰和監控幽靈。然而,對新能力使用的良好監管可以提高各國保護公民生命權的能力,同時改善對旨在保護其他人權的原則的遵守,例如透明度、罰當其罪和免受不公平歧視的自由。同樣的監管框架也有助于防止更廣泛地濫用相關技術。
•大多數國家都專注于防止恐怖襲擊,而不是被動對其做出反應。因此,預測已經成為有效反恐的核心。人工智能允許分析體量更大的數據,并且可以感知那些數據中的模式,否則由于體量和維度的原因,這些模式將超出人類的解釋能力。這樣做的影響是,可以通過分析整個人口的廣泛活動來識別以前未知的威脅的方法來補充從已知嫌疑人外推的傳統調查方法。
•人工智能的發展擴大了監控的能力,而不受資源的限制。例如,面部識別技術可以在不久的將來在公共場所使用CCTV(閉路監控電視系統)實現監視的完全自動化。
•目前使用預測性人工智能的方式從人權和實踐角度提出了許多相互關聯的問題。如果加以限制和規定,可能會削弱應用人工智能方法的效用,同時不一定能夠在適當的程度上保護人權。
•原則上,與自動分析某些類型的公共數據相關的隱私權侵犯并沒有錯,但必須在堅實的法律和政策框架內進行分析,根據其結果對干預措施施加明顯的限制。
•將來,更廣泛地獲取侵入性更小的公共數據、直接監管這些數據的使用方式(包括監督私營部門參與者的活動)以及實施技術和監管保障措施,可以改善運作績效以及合規性與人權立法。重要的是,任何此類措施的實施方式都應對言論自由、結社自由和集會自由等其他權利產生顯著影響。