人機互動、自學習算法、自主式仿人型機器人以及未來「智能」城市等科技的進步伴隨著道德和倫理層面的問題。到目前為止，大多數人工智慧（AI）方案（尤其是在智慧城市應用方面）都將最終決策權歸於人類。儘管人們對自主機器在很多情況下的決策存在明顯的不信任，但還是普遍認為人工智慧將為後工業社會複雜的治理挑戰提供無偏見的方案。中國作為世界上本地大數據創新和實驗的中心之一，其人工智慧城市化舉措清楚地說明了自學習算法和基於大數據治理方案的兩面性。來自德國杜伊斯堡-埃森大學政治科學研究所與東亞研究所的Nele Noesselt研究員首先探討了中國官方宣布的國家發展調整路線，結合其智慧城市計劃，對中國的人工智慧戰略進行了理論評估。此外，她還深入探討了地方政策的試行與中央監管在智慧城市發展中的基本情況，以及相應的技術倫理標準化問題。（文獻來源：Nele Noesselt (2020). City brains and smart urbanization: regulating 『sharing economy』 innovation in China, Journal of Chinese Governance, 5(4): 546-567, DOI:10.1080/23812346.2020.1762466）鑑於高速和資源密集型生產帶來的社會經濟方面的副作用，可持續發展現已成為中國政府議程的關鍵議題。為解決特大城市的引導、管理以及綠色可持續發展問題，中國政府同意地方啟動基於人工智慧治理方案的試點。在公營和私營合作夥伴的支持以及政府的監管下，一批智能城市的地方試點正構成今天中國人工智慧的格局。本文首先基於核心文件和官方講話中涉及智慧城市化的內容，對政府提出的人工智慧創新戰略進行了概述。以滴滴打車為例，本文進一步證實了中國在推行智能治理方案的同時，也保證了中央協調力。最後，本文對智慧城市治理藍圖的流動性和適應性進行了反思，並指出城市智能治理需要進行不斷的政策調整。本案例研究的數據來自官方政策文件和法律法規、中國學術期刊以及中國報刊上關於智能城市的最新文章。本文將中國放在第四次工業革命的框架下，對中國智能城市化舉措的進行調查並得出初步結論。
中央政府「等級蔭蔽」(shadow of hierarchy)下的公私合作模式本文認為中國政府所倡導的「新型城市化模式」促進了中國「共享經濟」和「平臺經濟」的崛起。中國的「十二五」規劃（2011-2015）包含了城市數位化的概念；工信部、科技部（MOST）和住房和城鄉建設部（MOHURD）都成立了研究單位，以制定國家未來的智慧城市路線圖，其中許多試點項目都已啟動。2016年的報告重點提到了「城市管理的制度創新」。2017年9月，中國國務院發布了《新一代人工智慧發展規劃》。規劃指出，到2030年，中國有望「構建更加全面的人工智慧法律法規、道德規範和政策體系」。該計劃列出的應用範圍包括智能製造、智慧法庭、智能金融以及智慧城市。這些方案背後的一個主要問題是如何通過收集實時數據和依靠自學習算法來確保綠色和可持續發展。海爾曼（Heilmann）曾將中國早期地方政策的推廣總結為「由點到面」（point-to-surface）的試點模式：中央層面確定總體目標和思想指導方針，地方層面啟動各自的實踐，再將其最有效的政策推廣至全國。不同於該模式的是，中國基於人工智慧的治理試驗所展現出的速度和活力，是全國各地同步設計和試行智慧城市方案的結果。監管工作依賴於中央-地方合作和網絡協調，其中多個參與者在「等級蔭蔽」下運作。這種「政府支持，地方創新」的競爭方式吸引了更多參與者的加入，並使他們在同行中脫穎而出。最突出的例子之一就是滴滴打車。滴滴打車成立於2012年，是一款北京地區的智能打車app。2015年2月，滴滴打車和滴滴快的合併為滴滴出行，集中了阿里巴巴和騰訊的力量，聯合反擊了與百度合作並試圖打入市場的Uber。2016年，Uber同意將其在華業務讓與主要競爭對手滴滴出行，並獲得後者17.7%的股權，標誌著兩家打車服務競爭的結束。最初，中國的打車公司在一定程度上處於灰色地帶，面臨著法律上的不確定性。從2013年起，交通運輸部（MOT）正式將打車服務作為計程車市場的補充，承認了對更靈活的城市交通方式的需求。2019年12月，交通運輸部、工信部、公安部、商務部、國家市場監管總局和中華人民共和國網絡空間管理局聯合發布了最新法規，以提升中國打車服務行業的安全和質量。自2012年面世以來，滴滴不斷實現投資組合多元化。其業務主要包括：基礎和高端打車服務、公共汽車和長途城際汽車服務、自行車租賃和共享服務以及送貨服務。此外，該公司還投資了人工智慧的研究和智慧城市的創新，並開發了基於人工智慧的交通管理——滴滴腦，將滴滴乘車信息與地方政府和企業的數據結合起來，優化導航路線，並根據預測的車流量管理乘車服務。中國智慧城市方案的提出，標誌著中國加入了全球範圍內的「第四次工業革命」。這一進程的新浪潮不僅意味著生產過程的進一步自動化，還打破了勞動力市場的主要模式和資本主義生產方式，引發了一場關於人工智慧機器時代勞動力的爭論。中國學術界的爭論包括了對目前國內人工智慧方案實踐和試點運行的考慮，以及國外對倫理問題和一般標準的認識。一些學者就基於人工智慧的技術治理（technocracy）可能帶來的負面影響提出了嚴厲批評。Zuboff認為技術和人工智慧對社會經濟領域的改造剝奪了工人和個體的權利。中國學者，特別是堅持馬克思主義政治經濟學觀點的學者，也對新興平臺經濟和共享經濟進行了批評。崔和曹強調，「西方」的共享經濟框架有一定的誤導性，因為它沒有提供任何「曼徹斯特資本主義」（Manchester Capitalism）的「社會主義」替代方案，而是在缺乏安全保障的情況下創建了一支不穩定的新勞動力儲備軍，剝削工人的權利。Qi和Li在他們對南京滴滴司機的調查研究中發現，乘車平臺的疏導功能和控制機制強化了公司的信息霸權，提高了按需分配勞動力的不穩定性，從而保障了新的剝削模式。全球開發的人工智慧城市應用程式絕大多數都屬於Postman提出的工具使用文化和早期技術治理(technocracies)階段，尚依賴於人類做出的最終決定。但長遠來看，在自主駕駛和智能、自學習協調工具等領域測試的深度學習算法，可能成為獨立的、自主的決策單元。這就引出了潛在的倫理標準以及適當限制新一代高度自主人工智慧方案開發和應用的問題。RobKitchen認為智慧城市的大數據檔案通過收集人們的出行、通信、交易以及健康等信息，侵犯了個人隱私，也將人們變成了「透明公民」。與此同時，「透明公民」面對的是一個相當不透明的基於算法的智能城市設備。這些人工智慧方案數據收集和處理的組成和標準並未公開。以客觀和理性的名義，用大數據分析代替人類決策，可能會帶來系統責任和透明度的災難性損失。在一定條件下，算法或許會提高系統的公平性和效率，但算法是基於規範性假設進行編程的，在某種程度上反映了開發者的價值取向和政策偏好。使用預測性大數據分析智能城市配置可能最終會導致城市環境喪失人性。更嚴重的問題是，在「由智能機器運作」的未來社會中，主動權（agency）一旦從人類手中轉移，就必須對「罪責」（包括其合法性定義）的概念進行修改和調整。2017年，the Future of Life Initiative組織了一次關於人工智慧的國際會議，制定了「阿西洛瑪人工智慧原則」（AsilomarAI Principles）。這些舉措都基於算法中潛在的編碼偏差和文化嵌入性，顛覆了一個普遍的、脫離背景的技術客觀和理性的神話。此外，隨著基於深度學習的機器重寫並不斷更新其原始算法，這些系統隨時可能偏離人類社會的基本規範和價值觀。與其忽視智能機器的學習過程，不如在該領域中進行更多的實驗，其中就包括開發新功能來監管這些系統的決策過程，並且需要特別留意其分類和預測所依照的原理。對此，一些研究人員建議在所有深度學習、自主學習的機器中植入「倫理核心」，以便能夠檢測到人工智慧系統偏離人類社會倫理標準的情況，防止意外行為的發生。人工智慧被認為是一個經濟體未來全球競爭力潛力的決定性因素。創新的智能城市應用不僅對國內實現更好的可持續生活具有重要意義，而且還有利於在複雜的、相互依存的全球化世界中取得地位和權力。首先，人工智慧城市應用程式是由私營公司設計和運行的，因此對這些程序的使用並不局限於這些公司的國內市場。為使其能順利出口國外，公司還需要額外收集反映其他社會特定模式和社會經濟行為的大數據。其次，中國公司還在境外進行智能城市研究，並開發試點項目。此外，為保證互補性和兼容性，各項目實施主體還要就跨國人工智慧技術標準進行談判以達成統一意見。美國對中國5G的限制事件說明了基礎設施在人工智慧城市方案實施中的作用。因此各國政府或組織需要通過建設獨立和強大的人工智慧基礎設施來減少外部政治決策導致的技術脆弱性。隨著AI領域的不斷發展，人們越來越能意識到大數據及其應用的長期影響。因此，各國政府及相關平臺需要規範和標準化人工智慧的使用，建立安全和隱私標準，提高基於算法的解決方案的透明度。考慮到智慧城市的流動性，未來也需要在全球範圍內進一步進行監管幹預和法律標準化。當然，本文關於地方智慧城市化實踐和有關倫理的思考，僅針對大數據城市治理的早期階段，未來的理論會隨著人工智慧創新實踐的發展而不斷進步。Zuboff, S. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. London: Profile Books, 2019.Cui, X., and Y. Cao. Sharing Economy or Gig-Economy: Accumulation and Wage Labor Relations under Post-Industrial Financial Capitalism. China Review of Political Economy (2019): 22–35.Kitchen, R. 「The Ethics of Smart Cities and Urban Science.」 Philosophical Transactions of the Royal Society 374, no. 2983 (2016): 1–15.Lin, Li., Philip, Park. & Sung-Byung, Yang(2018). The role of public-private partnership in constructing the smart transportation city: a case of the bike sharing platform, Asia Pacific Journalof Tourism Research, DOI: 10.1080/10941665.2018.1544913編譯者：葉晨伊，浙江大學公共管理學院勞動與社會保障專業本科生。
歡迎關注JCG微信公眾號！
Journal of Chinese Governance由浙江大學公共管理學院主辦，鬱建興、郭蘇建主編，是Routledge旗下全英文國際期刊，於2016年創刊，2017年入選ESCI，2020年入選SSCI，旨在發表當代中國治理研究重大理論與最新成果。歡迎賜稿、訂閱、引用JCG論文。
更多論文可以訪問JCG官方網站：
https://tandfonline.com/toc/rgov20/current
歡迎賜稿、訂閱、引用JCG論文。
長按二維碼關注