終于,Google亮明了態度。
在經歷了數個月的風波之后,在數千員工發起聯名抗議之后,在學界大牛紛紛聯署反對之后,在各大媒體深入曝光內幕之后,Google終于調整了自己政策。
今天早間,Google CEO正式發布了使用AI的七項原則。其中包括不會將AI技術應用于開發武器,不會違反人權準則將AI用于監視和收集信息,避免AI造成或加劇社會不公等。
不過,Google也表示,將會繼續與政府和軍方展開AI合作,例如網絡安全、培訓以及征兵等領域。
“我們認識到,這種強大的技術引發了同樣強大的問題,AI的開發和使用將會對未來多年的社會產生重大影響。”Google CEO皮查伊(Sundar Pichai)寫道。
另外,Google制定的原則還要求公司職員及客戶“避免給人帶來不公正的影響”,尤其是與種族、性別、性向以及政治或宗教信仰有關的影響。
皮查伊稱,對于違反上述原則的應用,Google保留封禁的權利。
同時,Google云CEO戴安·格林(Diane Greene)也在官方博客上發布了一篇文章,來介紹如何在Google Cloud上踐行Google的AI原則。
她特別提到,Google將不再延續Project Maven的合同。但是“正在與‘我們的客戶’合作,以求用對他們來說長期有效、又不和我們的AI原則沖突的方式,負責地履行我們的義務,”
各方評價
看見這份《原則》,不少Google員工給出了很愉快的評價。
Google現任AI負責人Jeff Dean除了在Twitter上分享Google發表的這份原則之外,還提到為了真正踐行這些原則,他們還提出了一套技術實踐指南Responsible AI Practices,指導科學家和工程師們在構建AI產品的時候應該注意什么。就是這個:
https://ai.google/education/responsible-ai-practices
DeepMind聯合創始人穆斯塔法(Mustafa Suleyman)自己沒有發表觀點,而是在Twitter上轉發了人權觀察組織(Human Rights Watch)Mary Wareham的話:各國政府應該關注到科技行業的最新動態,開始就禁止全自動武器展開協商,制定新的國際法規。
Keras作者François Chollet說,對于AI創業公司來說,這個是一個很好的例子,表明你可以對產品中道德問題的潛在影響進行前瞻,每個AI創業公司都應該起草一份這樣的東西,不要等到危機四起才動手。
Google大腦研究員Dumitru Erhan評價得非常簡短,簡單說了一句“看見這個出來了好開心”,大概代表了很多Googler的心聲,二進宮的Ian Goodfellow也轉發了。
但是對于這份原則,并不是所有人都買賬。
《紐約時報》認為,由于Google此前一再強調自己為國防部所做的工作并非出于“進攻目的”,這些指導原則能否將該公司排除在類似Project Maven的合同之外,尚不清楚。
ZDNet也在評論中指出,即便Google說不讓自己的技術用于武器開發,但一旦變成開源項目,這些技術和代碼就有可能用于作惡,就像其他的工具與技術一樣。
原則全文
皮查伊在名為《Google人工智能:我們的原則》的博文中寫到:從垃圾郵件篩查到醫療診斷,人工智能可以幫助人們完成許多事情,這是我們致力于AI研發的原因。但這種強大的技術也會帶來問題,人工智能的應用將會對未來社會帶來深遠影響。
然后他公布了七項人工智能指導原則:
AI應用目標:
我們相信AI應當
1、對社會有益。
2、避免制造或加劇偏見。
3、提前測試以保證安全。
4、由人類擔責。
5、保證隱私。
6、堅持科學高標準。
7、從主要用途、技術獨特性、規模等方面來權衡。
我們不會將AI應用于:
1.制造整體傷害之處。如一項技術可能造成傷害,我們只會在其好處大大超過傷害的情況下進行,并提供安全措施;
2.武器或其他用于直接傷害人類的產品;
3.收集使用信息,以實現違反國際規范的監控的技術;
4.目標違反被廣泛接受的國際法與人權原則的技術。
在博文最后,Google CEO寫道:我們相信這些原則是Google和AI未來發展的正確基礎,這與我們2004年發布的價值觀一致。我們在此明確表示Google更看重AI的長遠發展,即便需要為此付出短期的權衡。
“We said it then, and we believe it now.”
風波回顧
去年秋天,Google開始秘密與美國國防部接洽,合作Project Maven項目,根據雙方的秘密協議,Google原本要為美軍無人機提供頂尖AI技術。
包括李飛飛在內的高管團隊,當時就此事展開了激烈的內部討論。討論的核心就是,不能讓外界獲知此事,否則會影響Google的聲譽。
不過紙終究包不住火。
這一項目在內部開展后,Google員工們開始發起抵制。
3月,Google內部3000多名員工聯名上書,抵制與五角大樓的合作。4月,事件進一步發酵,包括Bengio等上百名學者、科學家二次上書,數十名員工因此離職,要求Google退出Maven項目,并且起草政策聲明Google永遠不會開發戰爭技術。
隨后媒體也介入,深扒此事。