來源：秦朔朋友圈
2019年三季度以來，多家第三方大數據公司業務負責人被警方帶走協助調查。用大數據和人工智慧技術為「套路貸」平臺提供系統、數據和催收，不但是當下個人隱私和數據安全問題的集中爆發，也是智能時代引發人文危機的一個縮影。
一方面，數位化、自動化、智能化技術的指數增長把人類帶入了激動人心的繁榮時代；
另一方面，機器人、人工智慧、生物工程和遺傳學不受約束地對人類生活甚至人類本身滲透和融合，將最終導致系統性忽視人類存在的基本原則。
未來學家戈爾德·萊昂哈德在《人機衝突——人類與智能世界如何共處》中，將人類的這種處境形容為：「我們正處在天堂與地獄的混合體中，這被稱之為天獄（Hell Ven）。」
在人工智慧技術的支持下，人臉識別技術被別有用心地濫用已經愈演愈烈。一個涉及種族歧視的例子是，紐約時報曾公布了一個結果，美國現在最先進的人臉識別技術對白人女性的性別判斷錯誤率是7%，而對深色皮膚的女性性別識別錯誤率高達30%。隨著機器習得類人的能力，它們也容易習得某些人類的偏見，這種偏見若被放大，後果不堪設想。
對於以「人工智慧+教育」為名監測學生上課狀態，也引發了關於侵犯少年兒童隱私權及影響孩子身心健康的大量爭議。比如，2018年5月，杭州某中學引進「智慧課堂行為管理系統」，實時統計分析學生的面部表情和行為，可以識別高興、反感、難過、害怕、驚訝、憤怒和中性7種表情，以及閱讀、書寫、聽講、起立、舉手和趴桌子6種行為。
今年3月初，廣東省某中學又斥資485萬元採購3500個電子手環，用來精準定位、檢測上課舉手次數及每日活動量等。類似的影響人類未來的智能化產品，並將產生難以預料的倫理後果。
人機衝突的基本邏輯在於：信息技術遵從的「摩爾定律」這種指數發展的速度已經擴展到很多領域，但人類道德、文化、社會體系卻並沒有相應的指數化增長。人工智慧的發展速度更是高於摩爾定律，這種反差和衝突將越來越大。
如此，不但技術已經發展到從強化自然到替代自然的程度，人類的大腦算法也正在被各種智能化的理性計算替代，甚至人類已經成為這些技術產品控制的對象。當地球上既有的倫理文明、價值觀無法跟得上技術的腳步，人類的基本尊嚴就會受到空前的挑戰。
例如，機器人不僅威脅到了大量低端產業工人的就業，甚至還被應用在比人類勞動者更高的監督崗位，監督人類工作。美國科技媒體theVerge公開了一份亞馬遜公司內部文件，在亞馬遜的倉庫裡，一個工人每小時必須完成幾百個包裹的包裝工作，強大的AI機器監控系統不僅能跟蹤每個人的工作進度，甚至還能精確計算工人消極怠工的時間。更可怕的是，按照生產率考核的算法，AI系統能夠自動生成警告以及發出解僱員工的指令。
中國首例基因編輯嬰兒的問世為什麼引發強烈的社會反響，招來科學界和全社會的一致批判，也在於此。
「人機衝突」最大的動力來自巨大的商業利益驅動。萊昂哈德指出，利用技術的指數發展特徵連接大眾，提供廉價而容易上癮的行動裝置，可能是有史以來最大的生意。
在這方面，由於能夠創造每年上萬億美元的生意，數據確實已經成為新的石油，從大數據和網絡社會中挖掘資源的公司，正在迅速成為新一代的埃克森美孚石油公司，迫不及待地要為大眾提供新鴉片。
用萊昂哈德的話，就是「如果搜集數據的能力被人工智慧和物聯網放大一千倍，你一定可以聽到他們數鈔票的聲音。」
「人有病，天知否？」在這種技術變革與商業利益共同帶來的倫理困境中，萊昂哈德認為人類成為了、、的受害者。包括人工智慧、生物工程、認知運算在內的所有指數型技術，尤其是人類基因一旦進入到數字肥胖這種狀態，再想減肥，回歸到之前的生活模式就很難。我們會變得越來越像機器，以便更好地適應機械化的世界，比如大量的點讚、評論和加好友很容易讓人們沉迷到無法自拔。人們承受了太多毫無意義的人際關係，線下生活反而成為一種新的奢侈。
人類總是拒絕不了效率的誘惑，萊昂哈德警示道：我們終將被一個巨大的機器作業系統支配，這個作業系統不斷地自我學習，並把輸出反饋給我們，直到它不再需要我們貢獻的輸入。屆時，我們的價值將低於我們創造和訓練的技術。
這方面最典型的是人們津津樂道抱以巨大期待的腦機連接，人與機器之間的正負反饋可能導致無法辨認誰是系統真正的主體，將會產生更多法律倫理以及社會治理問題。
基於這些原因，《人機衝突》一書提出了「保護自然生理狀態的權利」「可以效率低下的權利」「斷網的權利」等5項新人權，也提出了15項不應該做的事情，還有9項原則。
但是，如何保障這些權利和原則？如何激勵人們能夠認識到這些權利和原則？卻仍然是烏託邦式的一廂情願。
從經濟學的角度看，由於強大的負外部性，倫理問題已經成為智能時代最嚴重的一個「公地悲劇」。
面對人類空前的人文危機，首當其衝的是需要組建適應智能時代的倫理委員會等組織，比如，中國已於2019年7月正式組建了國家科技倫理委員會。但是，筆者認為，更關鍵的在於需要讓道德融入人類智能化的發展過程，與指數化增長的技術同步進化。
萊昂哈德在書中也提出了，必須考慮所有指數型技術（包括人工智慧、生物工程、認知運算，尤其是人類基因編輯）應具備的倫理準則——這既指發明者或創建者精心或無意嵌入機器中的準則，也包括機器可能隨時間推移自主學習和進化形成的準則。
但這仍然遠遠不夠。誠如貝索斯所言，我們需要注重不變的地方。人性亙古不變，倫理作為人類長期進化來的一種管理人性的機制，如何在人機衝突中演進以解決這些重大問題，恐怕還得回到對人性的探究和倫理學本身。所以，與其說是智能時代的人文危機，倒不如說是倫理學承載著新的關於人類命運的使命。
本文原刊於2019年11月30日《21世紀經濟報導》，秦朔朋友圈發布前作者進行了補充修訂。
「 本文僅代表作者個人觀點 」
「 圖片 | 視覺中國 」
秦朔朋友圈id：qspyq2015 開白名單：duanyu_H