關注中國綠髮會，訂閱綠色未來
近期，德國綠色包浩斯基金會董事Reinhard Komar教授在中國綠髮會邀請下出席全球綠色設計大會，並發表重要講話。整理髮言以饗食讀者。
Reinhard Komar教授：我必須承認，我不是當今人工智慧及其各類應用技術領域的專家。儘管如此，也許也正因此，我今天想在這裡，以我作為設計學者的視角，尤其是在可持續發展勢在必行的背景之下提議, 就一種新的設計倫理與大家深入探討一番。
我曾經有過關於未來設計的思考。15年前，也就是2004年，我曾在對電子輔助設計方法——也就是人工智慧設計的前身的研究過程中，對「未來的設計」及其對信息社會中社會和教育政策所提出的挑戰進行過深度思考。當時我提出了一個交叉學科的新概念——eDesign。這個想法沒能得以實施——它過於超前了。
今天，基於知識的世界正在消逝，而基於科學的世界正在形成。我們身處一場全面的社會、文化變革之中。這是一場由科學技術飛速發展推動形成的信息化、全球化、網絡化全新經濟形態帶來的革命。當今的經濟形態，愈來愈多的基於集成人工智慧，其組織形式是超越個人的和主體間性的。在所謂發達國家，人們的生活越來越依賴於科學和科技。我們不禁發問，如何利用人工智慧，服務於社會文化的可持續發展和自然遺產的保護。
這是科學發展世界中存在的問題。正如英國的設計評論家約翰·撒克若所說，「一件產品、一項服務或一個系統80%的環境影響在其設計階段就以註定。如果說人類消耗自然資源的速度大於對其再造的速度，那麼設計在很大程度上，可以扭轉乾坤：設計不僅可以改變產品本身，還可以改變產品生產所需的自然資源。這一點，應該成為可持續性推動創新的共識。可持續發展的挑戰是一項設計課題。」
而人工智慧可否解決這些問題？來自微軟的一份最新問卷調查顯示：有17.8 %的受訪者認為「一定可以」，而31.4 %認為「應該可以」（合計49.2 %持積極態度）；18.1 % 認為「不好說」，23.9 %認為「恐怕不能」，8.8 %認為「不可能」（合計32.7 %持消極態度）。
科技與審美的變革發展是否給予了大眾理性？我們已經無力、也不應繼續承受未經環境與未經思考而設計出的產品、體系及服務。所有參與者須共同承擔起設計、思考和行動的責任：我們需要由可持續發展推動的創新和設計，而非延長和放大現實問題的無謂實踐。但是現在設計者和使用者的行為和想法往往受制於產品的現有設計思路及其在傳播中的外在形象，且人們往往缺乏關於產品設計過程的知識和經驗。因此，人們在創新過程中常常重蹈覆轍，犯下重複錯誤。
如何實現新的經濟形態？
1.我們需要產品設計智慧和創造能力來解決環境和未來發展問題。相應產品的缺乏和需求的不足都應受到重視。
2.我們需要科學的、順應民意的文化與科技，以擴大自然資源的可再生、公平、合理利用。
3.我們需要對現存生活和生產環境的更有效利用。
4.以及對未來小康社會富有遠見的理解。
重要理論——人工智慧管控5項原則
經合組織出臺了人工智慧指導原則，經合組織秘書長古裡亞指出，新技術帶來了諸多便利，但也引發了擔憂和設計倫理的思考。新的方針政策主要著眼於對科技發展的潛在風險進行長期的研究和有效的控制。人工智慧研究的是算法，是計算機的所有應用領域，是有學習能力、可以解決問題的系統。它輔助人類，須由人掌握而不可主宰人類。
其次，經合組織就對可靠的人工智慧進行負責任的管控提出了5項基本原則。一是人工智慧應促進包容性增長，可持續發展及生活水平的提高，應有益於全人類和地球；二是人工智慧系統的設計應尊重法治、人權、民主價值及多樣性，並應包括適當的保障措施——諸如必要的人工幹預。其目的在於社會的平等和公平；三是人工智慧系統應具有透明度並負責任地披露有關信息，以確保人類能夠掌握和追溯基於人工智慧的運算結果；四是人工智慧系統在其整個生命周期內必須以穩定、安全的方式運行，並且應不斷評估和管理其潛在風險；五是開發、部署、運營人工智慧系統的組織或個人應根據上述原則對系統正常運作負責。
政府如何基於本理論去促進人工智慧有管控性的發展：一是為公共及個人投資研發人工智慧設立便利條件，促進創新發展可靠的人工智慧；二是通過數字基礎設施和技術以及數據和知識共享機制促進可訪問的人工智慧生態系統建設；三是為值得信賴的人工智慧系統順利實施鋪平政策道路。四是向民眾提供人工智慧所需的知識技能，通過支持協助幫勞動者實現公平的過渡；五是通過跨國界和跨行業的合作實現對可信賴人工智慧負責任的管控。
重要理論——6個設計倫理性原則
設計須是公平的，對人工智慧設計者須建立問責機制。在我們進行智能產品、系統和服務應用開發之前，我們首先須要了解那些受到原則保護的普遍價值觀——可持續發展原則必須成為人工智慧的基礎。
其次，我們怎樣才能確保所有人得到公平對待，如何確保智能產品、系統和服務安全可靠的運轉？我們如何利用優勢，而不放棄個人隱私保護呢？我們如何避免失去對愈來愈智能化，功能愈來愈強大的產品、系統和服務的控制呢？
1. 有整體大局觀，摒棄歧視
可持續發展和人工智的設計能應該一視同仁，沒有歧視的對待每個人，保護所有生命。比方說相同特徵、條件和資格的人應獲得同等的就業指導，同等的福利待遇和限制和同等的機會與推薦。與我們共生的生態圈必須得到徹底而全面的保護。設計者要敏感的察覺到，人們錯誤的偏見是如何影響到知識，科學和設計的。要通過自身來體現我們身邊現實世界的多樣性。
2. 可靠而穩定
可持續發展和人工智的設計能須要確保可靠，穩定而持久，不僅是在通常條件下，而且也包括意想不到的條件甚至災難條件下。起決定性的是研發和實施過程中嚴格的測試。人應當始終扮演決定性的角色，決定何時以何種方式應用人工智慧系統。
3. 保護個人隱私及生活
如同其他技術一樣，人工智慧系統亦須遵循現行數據保護法律法規。這就要求數據的收集、處理和存儲具有透明性，為所有利益相關者提供適當的控制機制，用以決定，哪些數據可以被使用。個人相關信息只能夠在符合數據保護準則的前提下使用且須防止數據被竊。
4. 賦能於所有人，考慮到所有人
可持續發展和人工智慧的設計必須有益於全人類。形形色色的需求和經驗須盡數涵蓋於其中。設計應該從其全部受眾的需求和期望出發進行構思。無障礙的、包容性的設計原則幫助設計師發現潛在的障礙。
5. 透明性
可持續發展和人工智慧的設計將會越來越多的影響人們的生活。我們必須將相關的背景信息提供給大眾，使民眾明白，未來的生活將如何運轉，從而理解當下的一些決定，更容易發現可能出現的錯誤判斷或偏見。
6. 責任意識
可持續發展和人工智慧設計中，研發和實施人員對其產品的工作方式負有責任。在制定問責標準過程中，我們應當依託於技術手段和其他領域的成功經驗，如醫療和數據保護。
來源：綠會及志願者
整理/Talina 審/XiaoQing 編/Angel