導讀：2019年10月，美國國防創新委員會（Defense Innovation Board）發布《人工智慧準則：推動國防部以符合倫理的方式運用人工智慧的建議》報告。2020年2月24日，美防長正式籤署這一文件，使其成為美國防部在人工智慧倫理領域的官方政策。作為美軍推出的世界上第一份軍事領域的人工智慧倫理準則，該報告對於研究美軍和人工智慧軍事倫理規範具有重要參考價值，故將其重要內容編譯如下，以饗讀者。
01、為什麼美國防部要制定軍事人工智慧倫理準則問題？
該報告認為，人工智慧正深刻改變社會，影響經貿、社交和作戰的方式。在許多方面，人工智慧領域正處於蓬勃發展的階段。近年來計算領域的快速發展使得數十年來一直停留在理論層面的人工智慧在應用上取得了顯著進展。然而，人工智慧的實際應用往往是脆弱的，人工智慧相關學科也在不斷發展，使得關於人工智慧使用的規範還處於起步階段。在全球範圍內，公共部門、私營企業、學術界和公民社會正在就人工智慧的前景、危險和如何適當使用等問題展開持續辯論，國家安全也是爭論的一個重要方面。現在是時候在人工智慧興起的早期階段、在事故發生之前，就人工智慧發展的規範和在軍事環境中的使用進行嚴肅的討論。
美國《2018年國防戰略》要求國防部加大對人工智慧和自主性的投資，為美國提供具有競爭力的軍事優勢。國防部的人工智慧戰略與國防戰略相適應，認為國防部正致力於挖掘人工智慧的潛力「積極推動部門轉型，從而支持和保護軍人、保衛美國公民、維護盟友和夥伴、提高負擔能力、效率和速度」。美國防部人工智慧戰略進一步指出，它「將闡明以合法和合乎道德的方式使用人工智慧的願景和指導原則，以增強我們的價值觀。」國防部強調有必要加強與學術界、私營企業和國際社會的接觸和交流，以「促進人工智慧在軍事領域運用中的倫理和安全」，並強調其對開發和部署人工智慧的倫理和負責任的承諾。「引領軍事人工智慧倫理和安全」是該戰略的五大支柱之一。
02、美國防部的五大人工智慧倫理準則
美國防部提出了人工智慧軍事應用的五大原則，分別是：
1.負責任的（responsible）。對國防部人工智慧系統的開發、部署、使用和結果，人類應進行一定判斷並為之負責。
2.公平的(equitable)。國防部應採取審慎的行動，避免在開發戰鬥或非戰鬥人工智慧系統時出現意外偏差和無意中對人造成傷害。
3.可追溯的（traceable)。國防部的人工智慧工程學科應足夠先進，以便技術專家對其人工智慧系統的技術、開發流程和操作方法有適當的了解，包括透明和可審核的方法、數據源以及設計程序和文檔。
4.可靠的(reliable)。國防部人工智慧系統應具有清晰和明確定義的使用領域，並且此類系統的安全性、安全性和魯棒性應在其整個生命周期內進行測試和保證。
5.可管控的（governable)。國防部人工智慧系統的設計應滿足其預期功能，同時具有檢測和避免意外傷害或中斷的能力。
03、美軍將如何推動這五大原則的落地？
該報告還為美國防部推行人工智慧倫理準則的落實提出了12條建議，具體如下。
1.通過國防部的官方渠道正式確定這些原則。聯合人工智慧中心應向國防部長建議適當的溝通和政策發布，以確保這些人工智慧倫理準則的持久性。
▲2019年2月24日，美國防部正式採用這五大原則
2.建立一個國防部範圍的人工智慧指導委員會。國防部副部長應建立一個高級委員會向他/她報告，負責確保監督和執行國防部人工智慧戰略，並確保國防部的人工智慧項目符合國防部的人工智慧道德原則。堅持人工智慧倫理原則要求國防部將它們集成到決策的基本方面，從概念層面（如DOTMLPF）到更有形的人工智慧相關領域，如數據共享、雲計算、人力資本和IT策略。
3.培育和發展人工智慧工程學科。負責研究、工程與服務的國防部副部長辦公室（OUSD）應通過建立國防部長期以來培養的健全工程實踐支持人工智慧工程學科的成長和成熟，使從事人工智慧研究的群體更為廣泛，為早期職業研究人員提供具體操作的機會，並將該部門的安全和責任傳統融入人工智慧領域，將人工智慧技術納入更大的領域複雜的工程系統。
4.強化國防部培訓和勞動力計劃。各軍種、作戰司令部、國防部長辦公室下屬部門、國防機構、國防現場活動應建立與各自國防部人員相關的人工智慧技能和知識培訓教育計劃。各種培訓計劃應向從初級人員到人工智慧工程師再到高層領導等廣大人員廣泛提供，利用現有數字內容並結合領導和專家的專門指導。初級軍官、應徵入伍人員和文職人員在工作初期必須要進行人工智慧培訓教育，並且國防部在其整個職業生涯期間通過正式職業軍事教育和實際應用提供繼續學習機會。
5.加大對研究人工智慧帶來的新型安全問題的投資力度。負責政策的國防部副部長辦公室（The Office of the Under Secretary for Policy）和淨評估辦公室（the Office of Net Assessment）應該對人工智慧時代的戰略競爭和新型威懾領域進行重點投資，特別是與網絡安全、量子計算、信息戰或生物技術等其他領域相結合時。需要重點加強的領域包括人工智慧競爭性和升級動態、避免危險擴散、對戰略穩定的影響、威懾選擇以及國家間作出積極承諾的機遇。
6.加大對提高可重複性的相關研究。負責研究與工程的國防部副部長辦公室（OUSD(R&E)應投資於使人工智慧系統具有可重複性的相關研究。人工智慧在這一領域所面臨的挑戰，為國防部致力於研究複雜人工智慧模型的具體機理提供了機遇。這項工作還將有助於解決人工智慧的「黑箱」問題。
7.制定可靠性的具體基準。負責研究與工程的國防部副部長辦公室（OUSD（R&E））應探索如何最好地制定適當的基準，以衡量人工智慧系統的性能，包括相對於人類來說的性能。
8.強化人工智慧測試和評估技術研究。在開發測試與評估辦公室（the Office of Developmental Test & Evaluation,ODT&E）的領導下，國防部應使用或改進現有的測試、評估和驗證程序，並在必要時為人工智慧系統創建新的基礎設施。這些程序應遵循國防創新委員會「軟體獲取與實踐」（SWAP）研究中詳述的軟體驅動的T&E指南。
9.研究風險管理的具體方法。聯合人工智慧中心應根據其道德、安全和法律風險考慮，創建國防部使用人工智慧的分類。此分類應鼓勵和激勵在低風險應用中迅速採用成熟技術，並強調和優先考慮更加謹慎地審查不太成熟和/或可能導致更重大不利後果的應用。
10.確保正確實施人工智慧倫理原則。聯合人工智慧中心應評估這些原則和任何有關指令的適當實施情況，作為2019年《國防授權法》第238節或其他未來指示所要求的治理和監督審查的一部分。
11.展開了解如何實施人工智慧道德原則的研究。負責研究與工程的國防部副部長辦公室（OUSD（R&E））應與各軍兵種的研究辦公室合作，共同組織一個「多學科大學研究計劃」（MURI）項目，研究人工智慧的安全性、安全性和穩健性。MURI項目應當作為在這些領域進行持續的基礎和學術研究的起點。
12.召開關於人工智慧安全和魯棒性的年會。鑑於人工智慧廣泛領域的快速演變性質，聯合人工智慧中心應召開年會，研究人工智慧安全和魯棒性等方面的倫理問題，廣泛聽取內外部的意見。