技術對於世界的革命性意義早為人類共知，而對技術革命的人文反思卻相對關注寥寥。作為國內較早從事人工智慧歷史研究的學者之一，科學史博士、上海交通大學科學史與科學文化研究院客座研究員陳自富長於從哲學和倫理角度反思新技術，並試圖將這種反思置入更為日常化、脈絡化的場景中。
發布會現場在文化縱橫雜誌社、東方出版社和南都觀察共同舉辦的沙龍暨文化縱橫書系之《賽先生的夢魘：新技術革命二十講》新書發布會上，陳自富就以曾受到廣泛關注的人工智慧軟體「阿爾法狗（AlphaGo）」和人類基因組編輯事件為例，詳解他對新技術的種種人文反思。
反思技術變革的必要性陳自富首先強調，不論是專業人士還是普通民眾，對於技術革命或重大科技變革等議題進行討論和反思都有其必要性。普通民眾常被認為在知識上無法與專業人士進行平等討論，即便是專業人士中，不同專業乃至同一專業中的不同領域的人也存在認知上的分歧，但是這些都不影響大家共同享受信息文明帶來的成果，共同承擔其中的責任，共同思考其中的意義。
這種反思既包括對技術內容本身，也包括對其在社會、人文意義上更深層次的思考。前者拓展技術，後者則能夠幫助形成和強化人類在擴展自身邊界時的「問題意識」，並從人與自然如何相處的問題意識延伸到技術重新定義人類反身性的問題意識。這樣的問題意識，在以尋求知識增長為目的的自然科學領域和謀求人類平等、幸福的社會科學領域都是至關重要的。
技術革命大大拓展了人與自然的關係，創造了很多自然本不存在的東西，人類的邊界不斷延伸，人與技術也不斷融合，人類必須重新思考自身的定義。而對技術進行人文反思的過程一方面能夠幫助我們提問，另一方面也讓問題意識浮現，提供多維視角，告別封閉性討論，不斷擴大問題領域的外延，促使全社會不斷接近最大程度的共識，讓科技真正服務於人類福祉。
至於技術革命，陳自富解釋說，當前被很多人稱為「第四次工業革命」乃至「智能革命」時期，且不細究說法，但回顧歷史可以發現，科學和技術實際上是並列關係，科學並不能代表技術。
回顧技術革命工業革命之前，人類從最初學會使用火的蒙昧時代發展到實現畜牧業和農業分離、農業和手工業分離和商人出現的野蠻時代，而進入早期文明時代後，私有制開始出現，產生以城市為標誌的定居文明，還出現了龐大的祭司階層，但是人口增長與戰爭卻始終交替出現。直到第一次工業革命時期，蒸汽革命將生產的「動力」徹底革新，畜力和水力被取代，冶金和機械製造成為重心，資本家開始出現。這是一次以英國為核心的單源性工業革命，並由此產生了工匠文化和商品輸出。
第二次工業革命是電力革命，電力的使用極大地推進了包括汽車業在內的重化工業發展，工業革命的範圍開始延伸，城市化腳步開始加快。也正是在此過程中，科學和技術的關係開始變化。作為工匠的瓦特身處於技術和科學並行的時代，但到了二次工業革命時期，化學、冶金等技術行業則仰賴於科學。阿爾文·託夫勒（Alvin Toffler）稱之為「第三次浪潮」、至今餘韻未絕的第三次工業革命，以信息革命為主要特徵，還包括核技術和航空航天技術以及農業革命的發展，全球化程度越來越高，貧富差距也在拉大。
而當前，信息革命正在向所謂的「智能革命」推進，儘管第四次工業革命尚無公認的說法，但人工智慧、生物科技、航空航天和清潔能源等技術面向已經越發突出，這些過去認為完全不同的領域之間也在加速融合。以火星探測為例，由於距離帶來的時間延遲，導致無法進行實時操縱，必須賦予火星上的探測器一定的自主判斷能力，也就是與人工智慧發生緊密的結合，這一技術也會慢慢影響到地球的其他技術行業。
因此當前這種跨領域的技術革新與前三次工業革命有了巨大的差異，具有跨領域特性的技術有極強的「正反饋」效果，技術的發展速度特別快，適用的人口範圍也特別廣。其重大意義在於，人類的認知邊界將被全面拓展，向外進入太空，向內則進入人類基因編輯層面。
但也正是在此狀況下，目前的技術革命並沒有得到科學的全面支援與支撐，我們尚缺乏各方面的準備，原理上的茫然將帶來更大的未知，其影響也無法預知。正如蒸汽革命時期倫敦大力發展煤炭工業後帶來的嚴重汙染，就是典型的解決實際問題，卻因不理解原理而無法預測其發展軌跡，進而陷入困境。陳自富指出，只有具備科學理論基礎的技術在發展時才更有規律性，其後果和邊界才更容易澄清，便於人們做出理性選擇，對其技術路線的預測也會相對更加準確。蒸汽機的製造與利用和核技術的發展已完全不可同日而語，後者必須建立在相對論這樣的理論基礎之上。
難以解釋的問題所以大多數時候，科學不等於技術，人也不總是理性。目前認知科學對於智能的理解和生物科學對於人類基因組修飾的所知都十分有限，但技術上嘗試的步伐似乎在不斷加速。一般而言，人類會對技術的發展作科學的算計，以求實現技術決策中的利益價值比較，也就是所謂的「兩害相權取其輕，兩利相權取其重」，然而在沒有相應科學基礎的情況下，盲目決策出現的概率大大提高了。
以「阿爾法狗」為例，其在實踐上戰勝了人類最強棋手，在基於規則的博弈領域達到前所未有的高度，這樣亮眼的表現卻並不能說明人工智慧已經作為人造物開始模仿人類智能運作，因為人類自己對於大腦運作的原理也尚處於十分抽象的解釋階段，包括阿爾法狗在內的智能技術進展仍屬於缺乏足夠理論支持和知識基礎的工程實踐。
陳自富認為，這種「難以解釋的生物智能或人工智慧」就是我們當前面臨的現狀，其中存在很多的問題。「知識就是力量」，如果將知識作為智能的核心來源，那麼由於認識論是哲學的研究範疇，人工智慧就與哲學有了糾纏；如果不考慮知識的核心地位，正如當前人工智慧深度學習所依賴的路徑本質上與知識沒有太大關係，仍舊缺乏理論基礎。但需要指出的是，人工智慧儘管沒有掌握所謂的知識，卻在棋類博弈遊戲、定理證明、圖像識別等一些腦力活動領域有了重大進展，比之人類呈現出壓倒性優勢，與過去蒸汽、電力的工具性利用相比，人類要如何面對這樣的進步？
人類與人工智慧曾經，機器取代人力導致工人失業，但總體而言工具性利用始終還被框限在「改造自然」的範圍內，但隨著人工智慧的技術發展，人類被取代的焦慮將會日益深重。要解決這一問題，需要明確的是，應該如何定義人工智慧？
人類似乎總在為自己尋找一個穩定的哲學定義，人會利用工具、製造工具，人是符號動物、理性動物、知識動物……這些似乎可以證明人類唯一性的特質正在隨著技術的發展和認識的深入不斷退縮，人工智慧的突出表現更使得人類開始懷疑是否連「創新」都並非人類的本質。因此，問題恐怕也要繼續回溯，是否從一開始，人類執著於思考自己的本質就已經錯了？
陳自富指出，之所以會出現人工智慧挑戰人類的問題，正是由於人類從一開始就試圖通過本質主義來定義自身，進而定義人工智慧，以準確地區分人類和非人類。但這種對本質的追求可能會導致一種永遠沒有答案的遞歸，還有可能出現對人類肉身的超越，即這樣完美的人類定義是否真的存在？因此他認為，人類只有放棄這種本質主義的幻想，將智能、意識這種心理學詞彙設想為生物體與環境交互的過程，使之與人類的定義脫鉤，才能避免滑入這一困境中。
那麼，如何理解人類與人工智慧的概念和關係呢？
關於「人類」，實際上不存在靜態、固定的概念，勞動、符號、理性、文化等都只刻劃了人類的某一方面，他進一步指出，所謂的「人類」指的是具有獨特基因組的人類與其環境組合的產物，而環境的變化導致了在不同的歷史階段「人類」都有不同的內涵和外延。當代生物學和哲學對於人類的物種概念，甚至人類是否是一個物種，迄今未能達成一致，因此在這一 意義上討論人工智慧對人類的取代或競爭，其實是一個不恰當的問題。
與此同時，人工智慧也不像人類一樣存在有性生殖變異的基礎，存在著宏觀上生命與非生命的區別；並且人工智慧的複雜程度比之人腦的功能模塊，也不在一個數量級上，在相當漫長的時間內，人工智慧都無法成為獨立的主體，也就無法作為生命體承擔責任，其缺陷或成就都將指向其人類設計者。
總的來說，區別於人工智慧，有性生殖、社會性、語言能力、倫理責任等是人類作為高等生命的主要特徵，而如科幻小說或電影中為人工智慧或機器人賦予生命特徵的例子，恐怕只能視之為一種隱喻或類比。
數學家和控制論先驅諾伯特·維納（Norbert Wiener）早年在其名作《人有人的用處》中提到一個如今科幻作品中常見的設定，即把人通過信息渠道傳輸到另一處，陳自富將之稱為「把人存儲起來」，前卡內基梅隆大學移動機器人實驗室主任漢斯·莫拉維克（Hans Moravec）曾試圖實現這一構想，也就是人類的機器化（mind as machine），個體的人可以以信息的方式儲存和傳輸；而家喻戶曉的圖靈測試（The Turing test）試圖判斷機器能否模擬人，反映的是計算機擬人化（machine as mind），二者截然不同卻都是把信息作為人的本質，這與現今流行的基因觀點產生了聯繫，人都有獨一無二的基因，以一段基因序列作為一個人唯一的標誌，這似乎可以作為人類與人工智慧在信息上的聯繫。
如果說信息是人的本質，那麼再加上個體和環境交互的歷史信息，人類社會可以基於信息重建，這個猜想或者說隱喻就構成了信息本體論的一種形式。這與拉·梅特裡（La Mettrie）在《人是機器》中提出的隱喻一樣，都在一定程度上反映了一種萬物均可形式化的機械世界觀，而其背後都是實證主義的哲學觀。
除了哲學上的考慮，陳自富還談及如今的技術帶來的倫理挑戰，例如以藉助神經網絡技術為照片人物脫衣的DeepNude和可以進行人體圖像合成以偽造圖片的Deepfake這樣的技術作惡，利用算法強化社會偏見或不公的算法歧視等。不僅如此，沒有過程性因果解釋的算法是否能夠替代人類決策，對人類的生殖系基因修飾是否構成對人類的生物學改造，花費巨額代價為罕見病開發基因療法是否值得等問題都困擾著人類。
儘管人類可以用強人類中心主義或人類沙文主義來說服自己，用更透明的技術治理結構來規訓技術，通過驅除哲學上的本質主義以謹慎支持生殖系基因修飾……但總體而言，在人類已經無法進化出更多新物種，也不可能再通過自然選擇以獲得更好基因型的情況下，人類不能在驚愕和茫然中坐視技術革命的自主發展。
陳自富最後強調，人類必須對未來的技術發展作出規劃和選擇，更好地進行思考和提問以應對技術的快速變革。
(本文來自澎湃新聞，更多原創資訊請下載「澎湃新聞」APP)