追溯信息技術和數據技術所推動的信息及智能時代的發展歷程，每個人可以有不同的視角和答案。但有一點是肯定的——每一闋新的技術神話，都是一場技術與社會互構的傳奇，其實質是曠日持久且規模不斷拓展的社會倫理試驗。在這一超級社會倫理連續大劇中，各種價值反思與倫理權衡一直貫穿其中。
沒有思想的世界：科技巨頭對獨立思考的威脅1876年3月10日，美國發明家貝爾記錄下了世界上首次電話通話——我對著話筒大聲喊道：「沃森先生，到這裡來，我想見你。」在這起改變世界的事件中，電話這種新的信息技術拓展出一種可以實時交互的信息空間（info-sphere），而這種非在場的交互體驗讓普通人第一次感受到虛擬在場。自此，各種信息空間和虛擬在場方式成為資訊時代生活形式的基礎，亦導致諸多價值衝突和倫理抉擇。
在資訊時代起步之時，人們就開始為隱私權、數據權利受到侵害倍感困擾。電話剛剛開始普及時，往往是一個小鎮的幾家人共用一個電話信道，結果各種家長裡短、戀人間的悄悄話變得毫無隱私。後來，隨著交換機技術的發展，這些新技術帶來的倫理尷尬似乎得到了化解。但直到現在，從竊取電子通信錄和通信記錄到各種針對個人信息和敏感數據的不當採集，從騷擾性的推銷電話到藉助人工智慧語音造假的詐騙電話，信息通信技術的濫用乃至惡意使用仍屢禁不止，個人信息和數據的保護已成為智能時代捍衛個人權利的焦點。
The Second Self: Computers and the Human Spirit19世紀末20世紀初，隨著攝影技術的發展，照相成為記錄人們生活的迷人的新技術。當第一次看到自己定格於時空中的留影時，人們大多倍感欣喜和驚奇，但也有人會油然而生一種狐疑：一旦人的影像被記錄下來，會不會有一部分靈魂被偷走。雖然這種可怕的想像沒有變成現實，但人們很快意識到：拍下某個人的照片，往往意味著擁有了某種針對那個人的力量。特別是隨著各種可攜式相機的普及，隱私權被侵犯開始成為人們在享受信息技術的利好時不得不擔憂的問題。
近150年來，面對信息科技發展帶來的社會倫理挑戰，人們一般難以運用已有的道德規範加以應對，只能在其技術實踐和體驗中，逐漸構建起相應的倫理反射弧，進而在此柔性規範的基礎上，制定剛性的和可執行的法律規範。直到20世紀70年代，隨著計算機和資料庫的應用日益廣泛，個人數據及隱私權保護才成為法律規制的對象。
儘管當前在數據保護方面歐洲似乎更主動和積極，但美國卻是資訊時代個人數據和隱私保護的先鋒。1973年，美國衛生、教育和福利部（HEW）任命的數據自動化系統諮詢委員會首次提出了「公平信息實踐」（Fair Information Practices，簡寫為FIPs）的概念以及五項原則，對個人數據的透明性、使用限制、訪問和更正、數據質量、安全性等均做出了規定，這也成為美國國會次年通過的《隱私法》的基礎。1977年，根據《隱私法》設立的隱私保護研究委員會向卡特總統提交了《在信息社會中保護隱私》的報告，將FIPs的五項原則細化為八項原則，其中前三項原則是：開放原則，不應有一個秘密存在的個人數據記錄保存系統，並且應對組織的個人數據記錄保存規則、慣例和系統採取開放政策；個人準入原則，對於記錄保存機構以個人可識別的形式保存的信息，個人有權查看和複製；個人參與原則，對於記錄保存組織保存的個人信息，個人有權更正或修改該信息的實質內容。另外，報告中還闡明了任何數據保護系統都應該實現的三個目標：儘量減少幹擾、最大限度的公平、合法與可執行的保密預期。
如今各國的數據保護規範均源自FIPs，透過這些早期的探討，可以窺見管理者推動個人數據保護的初衷。不過必須指出的是，即便看起來是可執行的剛性規範，基於FIPs的數據保護在法律實踐中也並不成功，隱私保護一直在路上，甚至越來越困難。從個人的角度來看，用戶的知情權和選擇權往往被忽視，隱私政策時常難以理解。對企業來講，隱私政策又存在著高成本和互不兼容等問題。由此，一種必要的實踐智慧是，在相關法律不能達到有效規制的目標時，應該考慮到，技術的快速變遷和複雜的現實利益關聯往往使得相對剛性的法律規制難以有效執行。那麼，能否從法律層面退一步，在價值和倫理層面構建起更細緻的柔性約束，為更為務實有效的法律規制奠定基礎？具體而言，在越來越多的數據驅動的智能技術應用場景中，應該在法律層面確保個人安全、保證個人信息的完整性、實現保護的一致性和有效執行的同時，展開必要的價值權衡和倫理構建。一方面，通過價值權衡，促使個人數據與隱私的保護在預防數據流動對個人的危害與數據利用的效益最大化之間做出精細的權衡；另一方面，訴諸倫理構建，推動企業和機構對其行為的透明、誠信和責任做出具有一定約束力的倫理承諾。
除了隱私權和數據權利之外，資訊時代的另一個更難以應對的價值倫理挑戰來自數據造假。弔詭的是，雖然數據和信息被視為知識和智慧的基礎，但信息化、網絡化、數位化和智能化的發展帶來的最大悖論卻是低質量信息泛濫成災，各種水軍和社交機器人令人真假莫辨，大量虛假信息和數據使人面對後真相時代束手無策。儘管人們一度對科學實驗數據、照片、視頻刻畫的世界和事實的客觀性深信不疑，但最終不得不承認，凡是人從事的活動都可能造假，即便數據的記錄過程是誠實的，人們對這些記錄的解釋和利用也不可能不偏不倚。拋開攝影術本身的視角選擇和光影調配不說，照片並不是對世界赤裸而客觀的記錄，各種編排、增刪和特定的解釋會賦予照片不同的意義。
更讓人有挫敗感的是，由於數位技術和智能化的數據處理技術的加持，照片的偽造與變造成為與時俱進的數據造假方式。時至今日，生物醫學研究中頻頻爆出圖像和照片造假，嚴重削弱了科學家在公眾心目中恪守誠信的「人設」。面對生成對抗網絡的發展，人們在為人工智慧藝術前景歡呼的同時，難免擔憂深度造假的濫用可能帶來的危害。在《科學》（Science）雜誌2019年3月發表的一篇論文中，研究者甚至指出可以運用人工智慧在正常的醫學影像中製造罹患癌症的假象，並進而強調應防範醫院與保險公司合謀以此坑害患者。[1]
在充滿利益糾紛和權力爭奪的政治領域，數據分析和聊天機器人等人工智慧技術也淪為了造假利器。在英國脫歐公投和2016年美國大選中，劍橋分析公司利用大量數據鎖定並說服選民，通過人工智慧加持的「心理戰」幹預了投票。據報導，在英國脫歐公投期間，某國的一個網際網路研究機構通過13 000個機器人帳戶在推特（Twitter）上假裝為論辯雙方發言，但贊同脫歐的內容是反對脫歐的8倍；2016年美國大選期間，有1/5的網絡辯論來自機器人。更充滿魔幻色彩的黑色幽默是，2015年專為已婚人士尋求豔遇的約會網站AshleyMadison.com遭到黑客攻擊，3 700萬用戶資料被洩露，結果顯示，500萬女性用戶中的大多數在註冊後鮮少登陸，而其中7萬被稱為「天使」的註冊為女性的用戶卻十分活躍。「天使」們會主動與男性用戶聯繫，但在對方付費後才予回復並在幾個月間保持聯繫，以確保「渣男」們繼續登陸和續費……當然，聰明的讀者已經知道了荒謬的謎底：讓登徒子們垂涎三尺而不得的「天使」們，無一不是邊吃數據邊送秋波如假包換的「機器姬」。[2]面對人工智慧數據造假和機器人水軍之類高技術含量的挑戰，單靠價值反思和倫理調適無異於紙上談兵，必須從技術反制和法律規制兩個方面予以有力的制約。國家網際網路信息辦公室、文化和旅遊部、國家廣播電視總局2019年11月底聯合印發的《網絡音視頻信息服務管理規定》（2020年1月1日起施行）無疑有利於遏制人工智慧新聞造假等行為。
新黑暗時代：科技與未來的終結不論信息和智能科技要進行什麼樣的社會倫理試驗，最終的目的只能是創造一種人人都可以接受的公平正義的美好生活，而這一目的的實現往往需要每個公民的實際行動。在資訊時代的高歌猛進中，不可迴避的現實是，信息技術的產業化發展及其對人類社會的顛覆性影響與其在社會政治層面所凝聚的知識權力結構休戚相關。而常識告訴我們，再完美的權力機構，也有陽光雨露灑不到的角落，而要改變這一點，需要每個人以切實的行動去矯正由權力盲區造成的公正落差。最簡單的事實是，包括網際網路在內的所有信息通信網絡都建立在自然壟斷的信息基礎產業之上。20世紀20年代，美國密西根州等比較偏遠的地區，被美國電報電話公司等電信巨頭視為沒有必要布線的無利可圖的地方，那裡有大約300萬的農民通過自製的可以傳導電信號的柵欄傳遞信息和通話。資訊理論的創立者香農（Claude Shannon）小時候曾是維護這種電柵欄的能手。這個可能被歷史遺忘的故事表明，縱使面對壟斷和排他的知識權力結構，人們依然可以運用其掌握的技術發揮能動性。面對高度壟斷的軟體產業，開放原始碼運動帶來的開源軟體使人們更多地享受到信息技術創新的紅利；在地震等災害中，人們可以通過智慧型手機的應用軟體共享災區的重要信息；在智慧城市實踐中，很多軟體工程師擔當起公民科學家，投身公益性軟體的開發。
﹏﹏﹏﹏
網際網路的概念來源之一可以追溯至人們對智能圈、超級智能等人類知識與智慧空間的嚮往，其目標是通過知識共享推動知識創造。1946年，美國戰後科技政策的操盤手範內瓦·布希（Vannevar Bush）在《大西洋月刊》（The Atlantic）上發表了一篇題為「恰如我們一樣思考」（As We May Think）的文章，倡導開發能大規模記錄人類活動以促進人類的經驗智慧增長的技術。在文中，他虛構了一種被稱為Memex的臺式信息機器。這個機器由存儲器、一個鍵盤、一塊半透明屏幕等組成，可以通過微縮膠捲輸入，用鍵盤檢索大量的存儲數據。這樣一來，人們只要在辦公室就可以檢索和管理信息，通過各種知識庫拓展智能，更好地管理各種事務。50年後，布希的這一構想被追認為網絡超文本連結的原始構想。
直到20世紀六七十年代，在西方反主流文化運動中成長起來的數字烏託邦主義者才將計算機和網絡等信息技術視為掙脫現代性對人的僵硬的安排的工具。他們創造了個人電腦、全球電子連結，建立了引領網際網路早期發展的賽博文化（Cyber culture）。20多年前，在比爾·蓋茨（Bill Gates）的《未來之路》（The Road Ahead）和尼葛洛龐帝（Nicholas Negroponte）的《數位化生存》（Being Digital）等未來啟示錄式的暢銷書中，展示了一系列以摩爾定律和新自由主義為基調的技術樂觀主義的願景，信息技術創新似乎會帶來一種沒有極限的增長，網絡空間與虛擬實境會賦予人們一個更加平權、民主、自由的去中心化的前景。但這種貌似個體可以通過虛擬的網絡空間擺脫現實社會制約的幻象很快就破滅了，信息網絡空間並沒有成為獨立於物理空間的賽博空間，而是成了虛擬與現實相互交纏的數據空間和編碼空間。
未來之路隨著谷歌搜索對百科全書檢索式的雅虎等早期門戶網站的超越，以及Web2.0和網絡社交新媒體的發展，用戶所生成的內容（UGC）不僅使網絡為用戶數據所驅動，而且這些數據反過來會成為人們的數據足跡。隨著移動網際網路、網絡社交媒體、智慧型手機、可穿戴設備等信息技術的發展和各種數據的指數化增長，對人的線上和線下行為數據的搜集和分析則可能使每個人成為被追蹤、觀測、分析的對象。數據的掌握者由此可對數據進行認知計算，藉助一定的算法對數據主體展開行為評分和內容推薦等，從而評判、引導和幹預人的行為。從社會形態的變遷來看，不論是運用數據描述或幹預世界和人的行為，還是運用各種可穿戴設備採集、分析數據以對他人或自己的生活進行量化自我等管理與治理，都預示著一個全新的社會——數據解析社會的來臨。數據解析社會這種新的社會形態是革命性的：一方面，數據所扮演的角色如同13世紀出現的透鏡，用透鏡製造的望遠鏡和顯微鏡讓宇宙和微觀世界得以被清晰地觀測與呈現，如今「數據透鏡」則使人的行為得到量化地記錄與透視；另一方面，就像17世紀笛卡爾發明解析幾何使自然界的結構與規律得以被探究一樣，數據分析與智能算法的應用正在使人的行為規律得以被洞察和解析。
針對這一時代性的變化，網際網路思想家馬克·戴維斯（Marc Davis）對數字人和數字自我進行了具有啟發性的思考。[3]在他看來，距今100萬年或更早，人類先祖演化為具有高度自我意識和認知能力的智人，作為物理自我的人成為一種可以在世界中行動的主體或自然人。約1萬年前，伴隨著《漢謨拉比法典》等法律制度的構建，逐漸出現了法人的概念，規定了具有行動自由和行為能力的人能做什麼和不能做什麼。而在最近的20餘年間，在網絡化、數位化和智能化的推動下，人們的行為越來越多地以在線的方式實現，個人信息或數據成為大數據和人工智慧應用的原料，人也因此獲得了「數字人」這一全新的存在形態。這一人類新形態使人一時間無所適從，其根本原因是尚未形成一種合理的數據規範。數據既是自我特徵又是智能應用的基礎，並由此導致了一系列前所未有的難題。戴維斯認為，如同物理自我應該得到保護一樣，數字自我也需要得到保護。其中最為基本的問題是隱私和控制問題：誰在採集你的數據？誰可以擁有它們？應該如何使用這些數據？如果說透過數據可以了解人的特徵和行為，那麼掌握這些數據是不是意味著對人的監控？大數據時代令人時刻感到焦慮的問題是：誰在何時何地能夠看到你？
搜索：開啟智能時代的新引擎有關數字人或數字自我的討論表明，人類及反映其特徵和行為的數據已經逐漸融合為人與數據的聚合。一方面，通過各種監測手段獲得的數據，可以直接影響到人的感知和行為。當早上起來感覺頭暈的時候，你如果看到智能手環上顯示血壓較高或較低，就會感到緊張並立即服藥。另一方面，基於數據的智能認知日益與人類認知形成無縫連接，甚至使人在生活中產生一種人數協同的數據感。在一些情況下，這種覺知能力正在演變為基於數據覺知的具身認知。心跳、血壓、血糖等實時監測數據使人對自己的身體變化更加敏感，自動導航應用則會幫助方向感不好的司機更輕鬆自如地駛向目的地。而由此帶來的革命性變化才剛剛開始，各種數據驅動的智能系統未來將無處不在。就像人們現在佩戴的眼鏡，這些智能系統將為人們展示一幅增強現實的世界圖景：在去莎士比亞故居的路上，智能旅行系統會告訴你今天那裡將有什麼活動、最近有哪些名人造訪過，而你會越來越覺得這一切皆順理成章。
尤其值得關注的是，人與數據的聚合正在成為構造世界和塑造個人的基礎性活動。通過數據測量和分享，各種智能設備和應用將人連接到一個巨大的改變世界的行動者網絡之中。以Apple Watch、Fitbit等可穿戴設備為例，這些正在智能化生活世界中恣意生長的新奇物種給人的承諾是，像貼身的健康衛士和健身教練那樣，使用戶的飲食、睡眠、鍛鍊等生活習慣得到實時的調節。人們每天運動的步數、裡程、心率和所燃燒的卡路裡等數據都會被監測，一套量化指標被設定為努力的目標。常見的畫面是，倘若你久坐不動，智能手錶就會提醒你運動。但在智能設備和應用所連接起來的行動者網絡中，使故事變得完整的關鍵環節是，這些體貼入微的智能體扮演著無處不在的數據捕獲者的角色。經常遇到的場景是，如果你願意讓可穿戴設備採集你的運動數據，保險公司可為你提供保費優惠；你如果同意刷臉支付，在自動售貨機上買礦泉水時就可以得到幾分錢的優惠。但人與數據的聚合在大多數情況下是被動的和不知情的，企業、機構和相關部門則扮演著主導者的角色。
「以數識人」不僅改變著人們的自我認同，而且成為每個人被社會認知的基礎。換言之，企業、機構和相關部門通過智能技術應用所捕獲的「真實世界中數據」正在成為全新的生產手段和治理工具。單從工具理性來看，掌握數據中蘊含的個人身份特徵、行為模式和生活方式，可以讓人的行為根據商業和政治的需求被智能化監測和調控。實際上，在當前兩個合法的負面收割場景——賭場和網路遊戲中，玩家真實的行為數據、情感反應數據得到了大量的研究與測試，所謂上癮行為是智能化的被設計的上癮。應該對這些以引導人的心流和欲望為目的的研究活動本身展開深入的研究，使其道德上的原罪被玩家知曉，以促後者自省。
[1] Finlayson, S. G., Bowers, J. D., Ito,J., Zittrain, J. L., Beam, A. L., & Kohane, I. S. (2019). Adversarial attackson medical machine learning. Science, 363(6433), pp.1287-1289. DOI:10.1126/science.aaw4399