何懷宏：在人工智慧的危險面前，你不能相信人性

人工智慧有一天會統治人類嗎？在享受科學技術帶來的方便之時，北大教授何懷宏表達了自己的憂思。

人腦不斷植入晶片，或能成為長生不老的超人，但我們還會有屬人的豐沛感受和無限創意嗎？人工智慧給世界帶來巨大便利，但會不會某一天越過奇點轉而操控、替代並加害人類？基因編輯生殖細胞，或能治療許多疾病，但會不會危及人類基因庫與自然的生物世界？凡此種種，對人類來說，到底是福音還是噩耗？

倫理學家、北大哲學系教授何懷宏自2017年開始，對科學技術和人類生活的改變做出了深度思考。在廣西師大出版社出版的《人類還有未來嗎》一書中，何懷宏教授既有對人與物的重新界定，也有對超級人工智慧的憂思，既包括基因編輯潛藏的技術風險和倫理問題，也有對《三體》中宇宙社會學和黑暗森林的生存法則的剖析。

近代以來，科技的進步給人類生活帶來了巨大的便利。但是，這並不意味著人類可以拒絕接受它的副產品，甚至可能面臨的危機。何懷宏從底線倫理和中西傳統文化智慧的角度考察了人工智慧和基因技術與我們的現實關係，並提出了預防性的道德與法律規範設想。高科技的種種挑戰，使我們不得不思考：何以為人，何以為物？人曾何為，人將何為？

對以上問題感興趣的，不妨來看看這篇訪談。

何懷宏 哲學博士，1954年12月生於江西樟樹市，曾任中國青年政治學院副教授，中國文化研究所研究員，現為北京大學哲學系教授，倫理學教研室主任，博士生導師，主要從事倫理學、人生哲學、社會史等領域的研究。

來源：《燕京書評》

採寫：張弘

「在控物能力和自控能力面前，不能相信人性」

燕京書評：在古希臘，哲學家同時也是科學家，但到後來，哲學、倫理學就和科學分開了。你對人工智慧等高科技的憂慮，顯然是哲學家式的思考。那麼，你如何看待哲學（倫理學）和科技之間的關係？

何懷宏：上個世紀50年代，人文學科和自然科學有過一場爭論。這場爭論顯示，兩大學科相當隔膜，自說自話，有時甚至互相衝突。英國物理學家、小說家查爾斯·珀西·斯諾提出「兩種文化」，希望促進交流。目前的形勢是，科技越來越把握主導話語權，人文其實是更加冷落下去了。我也還是比較讚許斯諾所說的，自然科學在幾個世紀以來大大提高了人們的物質生活水平。在斯諾之後，這幾十年看得更清楚了，即使是比較窮的國家，人均壽命、營養水平都可能超過上世紀初發達國家的水平，像平克、赫拉利都說到了這些情況。這些科技的成就，大家都看得見。但是，科技的危險是潛藏的，而且科學家自己可能不容易看得見。

我們每次跟科學家對話，都會感到他們很興奮、很樂觀。他們有一種非常大膽的探索精神，覺得很多東西不試試怎麼行呢？哪怕不知後果如何。但科學本身就是嘗試過來的，我們從讀小學開始就有一個根深蒂固的觀念，覺得人總是會有辦法，不管出現什麼問題，或一些意料不到的障礙或危險，人最後都能夠克服，人有辦法能夠戰勝這些困難。

像以前人遇到的一些問題和障礙，其實更多的是人的控物能力問題。比如說人們能不能跑過馬、比風更快，或者是移山填海這樣的事，最後覺得還是人更有辦法。但現在的問題不是這個，而是科學技術單邊突進。其實，人控制物質的能力是越來越強了，這方面倒反而沒有太大的憂慮；但人控制自己的能力，是不是也是在同步增長？甚至，有沒有可能大幅度的增長？

我們並沒有看到這方面相應的進步。更悲觀者認為，人性就是人性，這裡主要指的是人的道德性，它不像人的智能（也就是控物能力），能夠有一種累積性的增加和突飛猛進。一般來說，今天還是惡劣的人，不遇到什麼強刺激，不大可能明天就洗心革面或者立地成佛。可能，在很少數人身上，會發生這種心理轉變、我也不否認頓悟，哪怕是漸進地發生一種根本性的轉折也行，但很難說大多數人，更別說所有人，都能發生這樣一種大轉變。

就像修昔底德在《伯羅奔尼撒戰爭史》裡所說的，人性就是人性。在所有地方和所有人群中，人性的差別都不大，經過千百萬年也差別不大。像希臘雅典有那樣的光榮和輝煌，但一陷入戰爭和內亂，你會發現他們依然回到固有的人性惡的一面。比如說雅典人跑到其他城邦去，他們一定要這些城邦支持自己，甚至中立都不行——雅典就把這些中立的城邦給滅了，毫不含糊。這個時候，你會發現，它完全是一種強權邏輯。我們說雅典人足夠文明、足夠強大、足夠光榮，但人性的根本性改變並沒有發生。當時希臘那些城邦的對立，比如民主的城邦和寡頭的城邦，包括發生在城邦內部的民主派和寡頭派之間的互相殘殺，非常血腥。

所以，從古到今，很難期望人性的根本轉變或者提升。就在這一百多年，尤其是最近幾十年，人類控制外物的能力確實有非常大的提升。現在我們就擔心，就像有些人經常比喻的那樣，會不會像一個孩子拿到了新式武器，他不知道利害，但他掌握著它。他會做出什麼，我們不知道——這是意料不到的。這就是我反覆強調的，人的控物能力和人類的自控能力好像是越來越不平衡，越來越不相稱了。

這就面臨著危險。這個危險不是來自某一個局部，或者人工智慧，或者基因工程，或者是核武器，而是來自整個科技。因為整個科技是互相結合、連貫發展的，你不知道從哪個地方會出現一個大的威脅，當然這也是一個大的突進，你很難及時預測後果。這是一個根本性、持續性的矛盾，就是人的控制能力和自控能力的不平衡，人的智能單一的發展和人的其他能力——包括道德能力、精神方面其他能力的發展不平衡。

所以，真正的憂慮是在這兒。一方面，這些新科技帶來了非常大的便利，也帶來了物質、財富的繁榮發展；另一方面，也帶來了各種各樣潛在的、今天可能還沒出現的巨大危險。我們容易看到前面的成就，但看不到潛在的危險。

《人類還有未來嗎》，何懷宏著

廣西師範大學出版社2020年8月

點擊可了解更多

「科技是更大的利維坦，整個人類都無法迴避」

燕京書評：你強調了人類控物能力和自制能力之間的衝突機制：人類對於科技的需求永無饜足，不可遏制地期望更多、更高、更方便，但人的道德能力不會隨著控物能力大幅提升。於是，人類控物能力和自制能力的距離越來越大。科技發明除了核武器，可能還有更隱蔽的生化武器，而基因工程、編輯嬰兒、人工智慧都可能給人類帶來危險。你憂慮的問題可能離一般民眾比較遠，但這種危險卻真實存在。但是，有人對此保持樂觀——基於科技在過去給人類帶來的便利，樂觀者相信，科技使生活更美好。這種經驗主義的態度似乎也有合理性，但明顯不同於你的憂患意識。那麼，赫胥黎《美麗新世界》中描述科技扭曲人類生活的情形，真的會在現實中發生嗎？

何懷宏：是不是會發生，我們誰也不知道。但是，即使有1%的可能發生，而這個發生就可能帶來不可逆轉的結果。哪怕發生的概率很低，也不得不預先防範。這個不可逆轉有好幾層含義：第一，過去的文明還沒有出現現代人這般的巨大能力，它們的衰落也不是完全的毀滅，它們還可能恢復乃至復興；第二，過去是同時存在幾個相互隔離的文明，即便其中某個文明衰落，但其他的文明可能基本不受影響，比如公元之初，漢朝大亂，但羅馬還在興起；後來，古羅馬帝國衰落大亂，也不影響到中國朝代還可能保持和平或進入盛世。

在當下，全球化導致人類變成了統一的文明，一旦發生災難，有可能就變成全球性的乃至徹底的災難，整個人類都無法迴避。過去戰亂了，你躲到山裡可能就躲過來了；如果現在爆發了核戰爭，哪裡都沒辦法躲；甚至，可能還有比被打回「石器時代」更大的災難。如果人工智慧變成超級智能機器，就像馬斯克幻想移民到火星都不一定能夠逃脫。

為什麼基辛格、霍金、馬斯克都對人工智慧憂心忡忡？基辛格偶然聽到關於人工智慧的講演，就認為人工智慧是很大的危險。這些都是世紀智者類型的人，人工智慧能夠觸動它們，這不是虛張聲勢的危險，而是真實潛藏的危險。我們不知道危險什麼時候到來，也不知道危險發生的概率，也不知道將會發生什麼樣的危險。但是，少數人有這樣的危機意識誕生出來，也許對人類是有益的。哪怕最後證明他們擔心錯了，就像羅馬俱樂部當年的悲觀預言，對世界的經濟、人口進行了比較陰暗的前景描述，後來的情形也比他們所說的樂觀。但恰恰可能正是他們的預測激發了處理方式，刺激了預防措施，預言的災難才沒有發生。有預警總是好的，哪怕這些預警者因此而承擔更焦慮、更沉重的負擔，但還是有必要的。

從經濟而言，今天的科技是一個更大的利維坦，無所不包，無孔不入；從危險來說，猿人對森林危險茫然無知，可能就被毀滅了。如果有猿人意識到森林裡有危險，它可能就開始逃離，像最早的一批人從森林逃離到平原，開始很艱難，但後來活過來，就變成現代智人的祖先，這也是有可能的。各種可能性都存在。

燕京書評：前幾年，人們都還在談論手機依賴症，現在已經沒有人探討這個問題了，智慧型手機幾乎成為了人們的必配，人們消耗了過多的時間在包括微信在內的手機應用上。人們在享受科技帶來便利的同時，對這種便利又缺乏足夠的警惕。甚至，有學者專門寫過告別微信的文章。你剛才說到，人類的精神文化比科技發展稍顯落後。在使用科技便利的同時，又對它保持警惕性，這好像是個悖論。你怎麼看？

何懷宏：有的學者和藝術家不使用微信，甚至是決心一年不使用手機，到山裡搭個房子住下來，就是想試驗一下不使用現代便利條件能不能夠生活下來，但確實很艱難。因為技術的特點是無孔不入、無所不包，不可能再像過去的隱士一樣自給自足，或者鄰裡友好，物物交換。這確實是個矛盾。

我們作為力量微薄的個人，很難抵制技術及其籠罩性影響，甚至有時乾脆不抵抗了。但我覺得，心裡還是要有些警醒的。另外，我也抱著一個期望，希望能夠放緩技術發展，甚至哪天停止某些技術開發，不要年年更新，甚至月月更新。但這確實很難，有時要遇到堅硬的牆才會停止往前，甚至遇到災難才會使人有所警醒。

當然，我希望這種災難不至於使人陷於無法挽救。其實，在抵抗方面，並沒有成功的希望，只會帶來更多的不便利。有時你只能在某些方面隨眾，但不斷發出聲音也許是個辦法，當然也隨時準備和大家一起採取某種措施。

對那些嘗試不用智慧型手機或電子產品的人，我們可能一方面佩服，一方面不屑，但在真遇到災難時，這些人也許成為積累了經驗的先行者，甚至成為面對新局勢的榜樣。至少，他們讓我們看到有人嘗試過，這樣也能活下去。

燕京書評：《人類還有未來嗎》開篇就對人和物做了定義，認為人的意識除了理性，還有感情和意志等，機器在這方面沒有辦法相提並論。在人和物、人和自然的關係上，你幾處提及自己支持比較溫和的人類中心主義。此前，有一些環保主義者和生態學學者對人類中心主義持批評態度。那麼，你傾向於人類中心主義的理由和原因在哪裡？

何懷宏：如果在人類中心主義太強勢的情況下，嘗試跳出人類中心主義的視野，試圖像動物一樣去感受，用動物的感受去思考時代，用動物的眼光來感受世界，其實是挺有意義的。但落實到實踐中，比如想說服政府或社會採取某些對策或者政策，完全用非人類中心主義的理由是很難說服政府和大眾的。一百多年前美國設立國家公園，等於把大片的地皮圈起來不讓開發，倡議者開始時遇到重重阻力，他們採取了很多人類中心主義的說法，說是為了人類的長治久安、代際正義，為後代留下一塊淨土，更有益於人的健康發展。這是用這些人類中心的理由去說服其他人，取得了相當的成功。如果完全用非人類中心主義的理由去說服其他人，我覺得很難成功。

在思想和實踐中，可能還會有些不一樣：非人類中心主義，可以幫助我們跳出固有的框框和視野，採取某種達觀的態度，甚至天人合一的觀點；但在實踐中，尤其是在公共政策中，可能會有不同的進路。

圖片來源：攝圖網

「人文素養或許能夠改善人類，但也無法阻擋邪惡」

燕京書評：《人類還有未來嗎》提出了一個令人憂慮的歷史現象，就是人類精神文化滯後於科技方面的發展，即工業革命以來，科技發展迅猛，而精神文化顯示出落後和停滯的跡象。近代之前的13-14世紀，西方有義大利文藝復興；17-19世紀，藝術、哲學等領域基本可以和科技並行；20世紀，開始走下坡路；21世紀，科技遠遠領先於精神文化的發展。那麼，造成這種現象的原因，是物質主義和消費主義的興起，還是現代化不可避免的結果？

何懷宏：在某種意義上，這是很難避免的。在中世紀，整體的價值取向都是朝向彼岸，主要的精力、最聰明的頭腦、最努力的行為，都是朝向未來的永生；到文藝復興前後，轉向俗世，關心人間。像「文藝復興三巨人」達文西、拉斐爾、米開朗基羅，可以說是人類憋足了勁以後的一次迸發。他們既有的才華，再加上古希臘、羅馬原有的輝煌遺產，這種活力一旦湧現，就結成了燦爛的花朵。那是我們今天難以逾越的高峰，但後來其他方面又有新的高峰湧現，像莎士比亞的戲劇、19世紀的俄羅斯文學等，都是人類藝術創造所能達到的高峰。另外，還有很多哲學家，像德國古典哲學等，都是思想和精神文化的高峰。

但是，近些年越來越崇拜的是什麼？是物質，是身體。今天最大的明星甚至也不是科學家，而是運動明星、娛樂明星。物質主義和消費主義越來越流行，這背後的原因是什麼？有些知識分子因此痛恨資本或市場，但資本和市場只是滿足人們物慾的手段工具，市場是發展經濟最有效的經濟制度；加上技術的火車頭作用和全球化的貿易，都在推動和改善人們的物質生活水平。

社會結構為什麼會發生這種變化？我跟一些西方知識分子對話，他們大多批判資本或市場，就覺得找到了原因。但是，可能恰恰是他們追求的平等目標才是原因。過去的傳統社會是等級制，意味著佔統治地位的思想是統治階級的思想。統治階級是少數人統治，他們的物質狀況相當不錯，超過一般老百姓。因此，他們的思想不是把經濟、物質作為首要目標或主要目標。比如說，中國儒家可能是希聖希賢，在古希臘是榮譽，在古羅馬是功業輝煌，在中世紀是成聖永生。雖然追求這些目標的人是少數，但因為他們是統治階級，導致他們的價值追求成為了社會的主導價值追求。

在價值平等、社會平等之後，多數人的追求會慢慢成為主導，價值平等不是走向價值多元，而是會自然形成價值一元，考慮更多的是物質生活的改進，對物質期望值越來越高。這是一個強大的動力，這個動力的釋放和平等的潮流很有關係。包括今天經常以正義之名追求的很多平等，無論是身份政治還是福利國家，背後仍是為了試圖滿足物質欲望或提高某些群體的地位，而不是精神性方面的需求。

在這兩個目標之間，西方知識分子往往對物質主義、消費主義痛恨不已；他們沒想到，只要現代社會走向完全的價值平等，那肯定要關懷多數，多數人不管政體是民主還是威權，首要的都是滿足大家不斷改善物質生活的經濟欲望。這是很難避免的結果。精神文化的衰落也是自然而然的事情，沒有必要抱怨或憤怒，大可達觀地看待。我們要追求平等，就要準備接受這個結果。

燕京書評：從現實情況來看，科技的地位變得更加重要，人類精神越來越遠。按道理來說，如果人類精神要與科技發展相匹配，那麼包括哲學在內的人文學科就非常重要。但現在，不管是在中國還是在其他國家，人文學科都遠遠比不上理工科。日本文部科學省前幾年敦促各國立大學縮小或廢除人文社學學科，目的是讓國立大學將教育資源轉向「社會需求較高的領域」。理工重、人文輕的現象在中國也非常嚴重，你怎麼看？

何懷宏：對。大潮流和大趨勢是改變不了的，比如越來越注重實用，越來越技術化。我們不能再創造出前人那種輝煌藝術或哲學成果來，但只要人文還保留一塊飛地或象牙塔，努力把薪火傳承下去可能就滿意了。我從來不希望人文有多大的復興，幸好有些好的大學還保留著一塊地方，讓人文知識分子還有個落腳之地。我倒是覺得，也不需要去特別重視人文學科的發展，只要留點地方就可以了，因為社會要發展經濟，要提高生活水平，就是要發展技術，走向實用。

燕京書評：前些年到現在，不管是西方知識分子還是中國知識分子，都在談論二戰時有很多的德國官兵也有很高的文化修養，有人剛彈完貝多芬鋼琴曲就去摁下毒氣室的開關。在這裡，人文修養和科技的應用形成了邪惡的組合，你對此有何見解？

何懷宏：道德、藝術和人文修養不完全重合，有時甚至不太相關。在任何一個群體，藝術家、白領或體力勞動者，很難說哪個群體的道德特別高尚；當然，藝術家群體可能物慾更淡些，相對來言，他有藝術追求，不用光追求物質，但這也不影響他行大惡。比起普通人來，他造的孽可能更大，這都是有可能的。

總的來說，提升個人的文化修養，確實有可能淡化物慾；淡化物慾，就有可能不與別人處在你死我活的衝突之中，可能有助於改善他的狀況。我們很難避免某些制度或某些人形成邪惡的組合，那是反常現象。

燕京書評：《人類還有未來嗎》提到，有的科技工作者為了商業利益，有的為了追求名聲，有的僅僅是因為對未知領域的好奇心，就不管不顧地投入各種違背科學倫理的研究和試驗。賀建奎基因編輯嬰兒事件爆發後，在中國和國際上引發了軒然大波，事後也受到了嚴厲的處罰。你在書中提出了兩重約束手段：自律和他律。同時，你也認為真正構成自控能力的是道德與信仰，而道德常常也必須外化為制度與法律約束。但在現實中，科技領域總有研究者會逾越道德、倫理和法律的約束。正如你所說，至少在短時間內看不到人性的改變，這種情形似乎無法避免？

何懷宏：在很多情況之下，只能亡羊補牢，也就是事後懲罰。事後懲罰也許可以為後來者豎立標杆，警示禁區，使他們知道衝破禁區可能會帶來身敗名裂的危險，但不可能完全阻止人以身試法。

有些人到了科學研究的臨界點，哪怕不能給自己帶來利益，甚至只會帶來惡名，但他很可能他僅僅出於好奇而想看看實驗到底會造成什麼結果。困難就在這裡。僅靠自律是不夠的，得靠他律。這不僅僅包括道德信仰，還要變成制度和法律；但即使這樣，也不可能完全奏效。但是，有他律存在，總比沒有好。以後還可能出現賀建奎，但可能出現得少一些。如果對賀建奎基因編輯事件不做任何處理和懲罰，很快就會出現越來越多的類似現象；不管採取怎樣的措施和處理，這種現象就會少一些，至少有部分人會有所顧慮或者畏懼，但不可能完全杜絕。

圖片來源：攝圖網

燕京書評：另一方面，哥白尼和伽利略做科學發現時，受到非常嚴厲的教會懲罰；但事後來看，應該支持哥白尼和伽利略。在科學研究和社會秩序等方面，有時似乎會面臨一種選擇困境。你怎麼看？

何懷宏：因為哥白尼和伽利略的科學發現，會動搖人們的宗教信仰。比如哥白尼提出的「日心說」，打破長期以來居於宗教統治地位的「地心說」，甚至會在一段時期內造成很大的社會動蕩。

但是，第一，科學真理還是局部的。有時我們自信自傲，好像由此發現了太陽系的真理，但我們很難解釋宏觀世界，像銀河系和外星系統，更別說宇宙的誕生，但根本的東西是無法解釋的。微觀世界也是如此，我們現在就被小小的病毒折磨到全世界驚恐不安。還有很多諸如人類靈魂、意識誕生的問題，我們以為能解決，但不一定能解決。包括進化論，也只是一些外在的解釋。更深的奧秘，還在我們的知識之外。科學真理，還是有局限性的。

第二，哥白尼和伽利略發現的，畢竟是純科學的真理。但是，像賀建奎所做的基因編輯是很實用的技術，不僅僅可以直接看到社會後果，還會直接產生技術後果。比如經過他基因編輯的嬰兒可能的確能防愛滋病，但對其他疾病更為敏感了，這個後果是預料不到的，更不要說進入了人類基因庫後會發生怎樣的後果。比如他真製造出了一個超人，同時也出現很多怪物；因為他很可能失敗，怎麼對待這些生命半成品的怪物，或者說果真出現了超人，他會怎麼對待原生人？種種後果都很難預料。在技術上深入一步就自以為發現了真知，這是人駕馭不了、掌握不住的危險。你可以發現某種秘密，但你不可能知道全部後果。

「儘管一己之力很難改變現狀，但中國需要認真的人」

燕京書評：你在書裡談到了劉慈欣的《三體》，尤其分析了書中涉及的道德問題。你對書中的宇宙社會學和黑暗森林生存法則有些懷疑，認為宇宙文明不會總是生存死局。你這種態度是平克式的樂觀，還是自信道德倫理和規則在整個宇宙中普遍存在？

何懷宏：第一，劉慈欣所說的危險不是那麼現實，或說概率極小。這跟他的願望有關，他似乎很希望人類優先發展太空科學和太空事業。這裡有一個問題，對過於遙遠和概率極小的危險，是不是要把它放到恰當的位置上？

第二，我不敢說宇宙存在著普遍的道德規律，但我也更懷疑宇宙間普遍存在著一種像他所描繪的你死我活的生存競爭定律，要超前地把比自己弱的勢力消滅掉。他在書中描述，技術有時會跳躍發展，有的勢力現在比我弱，但過些時候可能突然超過我；為了防備，得先把它滅了。我覺得沒有這種生存鬥爭的普遍規律，尤其是這種生存鬥爭還需要預先超前地消滅對方。

第三，相反，至少我們在地球上看到，人類是靠道德律延續至今的。如果沒有那些基本的模型，比如《摩西十誡》之類，強調不可殺人等等，人類延續不到今天。你有可能陷入生存競爭、你死我活的時代，但人類內心的道德律還是會很快起作用。像在秦末項羽、劉邦相爭的過程中，其中有一點大家可能容易忽略，這就是劉邦的「約法三章」——這對他得天下幫助很大，哪怕他不是完全真誠的，但他還是說了「殺人者死」。這樣的「約法三章」，比項羽火燒阿房宮更吸引民心。民心不管怎樣，首先是想保存自己的生命。所以，它還是起了作用。

道德能把人類從崩潰狀態解救出來，使人類文明延續到今天。

燕京書評：《人類還有未來嗎》談到了人工智慧的奇點，就是指機器智能超過人工智慧的那一刻，或者說智能爆炸讓人工智慧超越初始創造它的主人的智能的那一刻。我曾經聽過一個哲學學者的演講，他認為人類絕不能讓機器人（人工智慧）獲得自主意識，否則就有可能陷入危險。但也有其他學者批評這一觀點，認為這是典型的主奴思想。你怎麼看待這兩種觀點？

何懷宏：這就涉及到人類中心主義和非人類中心主義，某種人類中心主義是沒法避免的。無論是個人的還是小群體的，甚至是大群體、整個人類，某種自保是沒法避免的。

在人類和自己創造物的人際關係之間，在機器還沒有獲得自我意識之前，在不知道自保的情況下，也可能就沒那麼多痛苦和焦慮，這時候不如讓它不出現。等到它的自我意識、主體意識誕生以後，幾乎可以斷定是鬥不過它的。在它還沒有自我意識、自覺意識，沒有那些痛苦焦慮之前預先防範它，還是可取的。

燕京書評：與人工智慧等科技領域可能面臨的問題相比，我更擔心某些國家利用高科技對公民實施控制乃至犯罪。可以設想，如果希特勒當年搶在盟國之前發明了原子彈，那麼世界的格局會完全不同。預防濫用國家權力掌控最頂尖的高科技，才是最應該擔心的問題。你怎麼看？

何懷宏：西方也有不少人反對人臉識別或其他技術，也是出於這種擔心。在這裡有一些權重，可能隨著不同國度、不同地區的差異而出現不同的考量。比如說，在控制新冠肺炎的措施方面，有些國家或地區可能會把保命放在第一位，不管怎樣管制，只要能保命就接受。還有些人不能接受為了防範新冠肺炎就完全犧牲自由。

這裡還涉及到全面的權衡：到底危險對生命的威脅有多大？如果危險很大，出門就要染病而可能死亡，那我相信絕大部分人都不會出門；如果不是這樣，是否有必要禁止公民出門，這就會有各種各樣的對自由和生命的不同權衡，還有發生衝突的概率等。很大程度上，各國採取的措施往往是適合各國的民情和民意，從各國民情民意的抵抗程度就能夠看出來。在有些時候可能和個人的價值觀有衝突，但你可能也沒有辦法，不同的人群要考慮不同的措施。如果你覺得自由更可貴，你也可以發聲，也可以儘量提升你所處人群中的自由意識及其平衡意識。但有時候，在管制面前，微薄的一己之力很難改變現狀。

圖片：攝圖網

燕京書評：馮象教授在《我是阿爾法》中設想出現一種全新的文明：人機關係和諧融洽，其社會關係、人與人、人與機器、機器之間都由共同的「大公無私」的世界觀、價值觀維繫，也就是「人機大同」的社會。他認識到資本的貪婪和人類不斷增強的物質欲望所帶來的危險，寄希望於國家權力和全盤公有化。但我感覺，這有可能是哈耶克所說的「通往奴役之路」，你在書中也簡要批評了他的觀點。在美國，有三個歷史時期曾經出現過很多小團體的烏託邦實驗，但絕大多是都宣告失敗，那些存活下來的實驗組織，在組織方式、財產權和教育等方面都已與當初的烏託邦設想相差了十萬八千裡。所有這些事例都告訴我，應該警惕國家權力和全盤公有化，在人工智慧方面同樣如此。你在書中剛對此談得不多，可否再延伸一下？

何懷宏：肯定要同時警惕。但有時也得藉助某些力量，比如說一些關鍵的少數：如何能夠讓第一線科學家具有人文意識或憂患意識。因為他經費多，項目大，太忙了，很難聽進去，但不管怎樣，第一線的科學家有人文修養是好事。

第二個就是掌握資本的投資人。當然，在有些國度，金錢和權力緊密地聯繫在一起；在另一些國家，它們是分離的。這些人掌握著投資，因此也要謹慎。

第三個就是國家。我們要客觀看待，相對來說，政府比科學家個人或投資者個人的視野更開闊，政府關心的方面要更廣泛一些，有可能脫離局部的限制，能夠從整體考慮問題；當然，政府也要儘量不帶私心，天下為公，不從特殊集團的利益去考慮問題。但是，政治的力量是很大的，權力在一些國家遠遠超過資本的力量，科學家的活動也主要在國家的制度之下，如何善用和約束權力極其重要。當然，也可能會出現你所說的那種情況。我們可能對權力一方面要抱有警惕，另一方面有時也要藉助這種力量，從法律上去約束和節制技術與資本的活動。

最後，就是像我們這樣遠離科技第一線也遠離權力和資本的知識分子和媒體人群體，我們要有些空閒去思考和反省這一切，我們所能做的可能就是儘量的發聲。

-END-

本文轉載自《燕京書評》

這是我們為你準備的第1791次推送

如需轉載註明出處 合作請聯繫後臺