人工智慧介入基因科學帶來哪些倫理挑戰

2020-12-19 人民政協網

李江

近日,在第13屆全球蛋白質結構預測競賽上,舉世聞名的AlphaGo(阿爾法狗)的開發者DeepMind公司,憑藉其最新開發的人工智慧程序AlphaFold擊敗其他97種算法奪得冠軍,贏得43個參賽蛋白中的25個單項最佳模型,成功預測了蛋白質的三維結構。那麼,該成果對於生命科學研究特別是基因科研的發展意味著什麼?又將帶來哪些倫理挑戰呢?本期我們邀請權威專家為您詳細解析。——編者

人工智慧的介入已成為生命科學研究發展的必然

基因是生命的藍圖,蛋白質是生理功能的執行者、生命現象的直接體現者。預測蛋白質結構,有助於了解蛋白質的作用,了解蛋白質如何行使其生物功能,認識蛋白質與蛋白質或其他分子之間的相互作用。這無論是對於生物學還是醫學和藥學,都是非常重要的。尤其是深入了解蛋白質摺疊與錯誤摺疊的關係,對於闡明人類諸多疾病,如糖尿病、帕金森症和阿爾茨海默病等的致病機制以及尋找治療方法將大有裨益。

但解析蛋白質結構一直是生物學領域的大難題。主要是耗時費力,如果手動模擬蛋白質的每一種可能結構,要花的時間預計比宇宙的年齡會更長。想要獲得一個蛋白質的結構,需要的不僅是經驗與技術,有時還需要碰運氣。儘管科學家們為提高預測效率和質量投入了大量的資金和精力,但此前尚未尋找出理想的方法。

此次人工智慧系統AlphaFold通過深度學習,根據所包含的胺基酸計算預測蛋白質的結構且準確程度遠遠高於現有預測方法,雖未像AlphaGo戰勝圍棋世界冠軍那樣引起全球民眾關注,卻讓人工智慧、生命科學等相關領域的專家深受鼓舞與震驚。可以說,人工智慧系統又一次樹立起了「裡程碑」,而且這一次是在更加複雜、專業的生命科學研究方面。因而,其形成的衝擊在程度上不亞於當年的AlphaGo。據悉,2017年底,谷歌還拿出了一款名為DeepVariant的人工智慧系統,旨在運用最先進的人工智慧技術,建立更精確的人類基因組譜圖。那麼,人工智慧的介入對生命科學研究特別是基因科研的發展意味著什麼?

我想,人工智慧的介入已成為生命科學研究發展的必然。它極大地推動了基因科學研究的發展,我們應認真對待,揚利抑弊,使之為生命科學研究甚至推動人類進步服務。

人工智慧使疑難疾病的識別和施治更有效

從純粹的科學研究角度來說,AlphaFold成功預測蛋白質三維結構可以證明,人工智慧的介入為生命科學研究迅猛發展插上了翅膀,已經成為基因科學家的得力研究助手。人工智慧是基於大數據、基於對很多過去的經驗積累的深度學習產生的智能體,可以幫助人類拓展視野,甚至改變思維方式,進而增強認識事物的能力。藉助人工智慧算法的輔助指導,研究人員可更好地尋找並優化研究方向,提高研究效率。在研究過程中,人工智慧可以承擔閱讀文獻、設計和運行實驗,並分析實驗結果的工作,處理研究人員希望擁有但又極感頭痛的海量數據。海量數據的機械性處理不僅枯燥、緩慢,還容易出錯,而人工智慧因具有算法優勢且無需休息而有力地克服了這些問題。據統計,人力每周大約能完成10次試驗,而機器可以完成1000次。

從科學研究成果應用來看,正是基因科學和人工智慧的興起與蓬勃發展,促進了現代醫學技術的巨大進步。研究表明,除了外傷性疾病,所有的疾病或多或少都是基因的改變、突變和表達的改變造成的。因此,科學家一直不遺餘力地尋找基因和疾病的對應關係,人工智慧通過出色的機器學習能力加速了這一進程,推動形成相應的治療或檢測技術。目前,在預防性篩查方面已經基本實現了人工智慧、基因檢測和深度檢查的結合,而且人工智慧的日益普及正讓這種深度檢查價格迅速下降。

隨著人工智慧的進步,疾病治療有望徹底成為一項信息+基因的科技,依靠人工智慧和基因技術重塑患者體內組織和器官的活性,還能夠開發出相應藥物,直接鎖定一種癌症背後的代謝流程。同時,因為有了基因技術、蛋白檢測等這一系列手段,通過人工智慧對疾病特徵的數字性因果描述與定義,結合每個人特有的基因組信息,可以使疑難疾病的識別和施治方式更有效,最大限度地遏制過去經驗醫療模式下的誤診誤治率,真正實現「精準醫療」,從而幫助人類戰勝疾病、保障健康甚至得到永生。

人工智慧的介入可能加劇基因研究領域的倫理爭議

人工智慧與基因科學的「強強聯合」,有助於全面掌握人類的基因結構、功能及其調控機制,將極大地推動基因科學研究的發展,甚至可以使之發生革命性的變化,從根本上改變人類的健康和生活狀況,但同時也帶來新的倫理衝突,並使該領域原來存在的某些倫理問題進一步顯現。

在新產生的倫理衝突方面,一是關於人的尊嚴問題。人工智慧參與基因研究,事關人的生命健康,具有極強的倫理價值傾向,在其運用之時,應高度關注對倫理價值的評估,但目前尚無普遍的倫理規範,依舊是完全拋開人類的心理和社會屬性,因循生物醫學模式,從而把基因醫學研究又一次推向了極端。而其研究成果的應用,更是涉及「人能像其他客體一樣被設計製造」等對人的本質、價值、尊嚴進行幹涉的問題,還有具體使用中諸如「算法歧視」等歧視性濫用問題,都需要我們審慎對待。

二是責任倫理問題。人工智慧必然日益向高智能、精準化方向發展,在生命科學研究與應用中發揮的作用日益強大。隨之而來的問題是,誰應對其作為一個智能系統的工作過程與工作結果負責?人工智慧的設計者、製造者、維護者、使用者、監督者對此應各負怎樣的社會責任,成為我們不得不面臨的難題。據報導,矽谷已經出現全部由人工智慧操作的「未來」實驗室,其創始人稱該實驗室的「未來」之處在於「我不知道這些機器人在做什麼實驗。因為這些實驗完全是由一個人工智慧程序設計的。」若真如此,誰應對它們的工作過程和結果負責,該負怎樣的責任,如何防止人工智慧系統工作失控帶來的危害,不能不讓人深思。

三是人工智慧成果應用的公平性問題。人工智慧參與開發的檢測與治療技術在應用之初的一段時期付費將比較昂貴,因而其主要消費者也僅限於少數群體,會導致多數普通患者不能接受人工智慧醫療檢測,會在一個階段存在使用上的不公正,甚至可能出現「誰將生存」的問題。但隨著大規模的使用,其費用將會下降。

四是關於人工智慧系統對科研、醫療從業人員就業的結構性衝擊問題。人工智慧有可能取代科研、醫療人員中以機械性、可重複的腦力勞動為主要職業的人員,然而其應用也會創造新的就業崗位。所以在可預見的未來,基因研究與應用領域「機器排擠人」的現象並不絕對存在,但提示我們在人工智慧時代要學會適應新的工作要求,不斷提升自身能力。

除了上述新出現的問題,人工智慧的介入還加劇了基因研究領域一些本已存在的倫理爭議。

一是基因科學研究成果共享問題。雖然基因研究成果的共享性早已為大多數國家所公認並接受,但由於種種原因其真正實施一直困難重重,因此如何保障基因科學研究成果充分平等地造福全人類成為更加迫切需要解決的議題。

二是隱私權保護問題。人工智慧系統在採集信息後會自動進行儲存分析,使用後即便手動刪除了涉及個人隱私的信息,但依然存在找回的可能。而且人工智慧的研究與應用同大數據緊密關聯,涉及海量數據且範圍更加廣泛。因此,人工智慧時代誰應該擁有與基因相關大數據的所有權、使用權,由誰來負責監管以保證其被合理合法使用,如何保護隱私和信息安全等就成為基因科學研究與應用中迫切而又極其棘手的問題,如何設置權限管理用戶保證數據在合法範圍內使用,防止數據資源被濫用造成數據隱私洩露的問題也將更加突出。

三是基因專利權問題。基因是一種有限的資源,按照現行國際規則,對發現的新基因和明確已知基因的功用都可以申請專利。儘管對人類基因實行專利的做法一直存在道德譴責的聲音,認為它違背了「人是目的」的原則,但在各種利益尤其是商業利益的驅使下,隨著越來越多的人類基因及其功能被鑑定,圍繞基因專利權的爭奪會變得愈發激烈。

四是對基因研究的科研倫理要求更加強烈。基因研究及其技術成果應用會深刻影響到人的健康、生命尊嚴與幸福,乃至人類的未來,全世界對此都應慎之又慎。人工智慧的應用使許多研究由慢變快,甚至從不可能變為可能,因此基因科學研究與技術開發將會藉助人工智慧走向何方,難免讓人有些惴惴不安,故而對科研倫理的要求顯得更加強烈。科研人員應嚴肅對待人類的這種「不安」,深刻認識、充分理解基因科學研究及技術開發的倫理要求,以及人工智慧研究與應用的「阿西洛馬23條原則」等規範,嚴格接受相應的倫理道德的約束和調整,保證基因科技研究按照有利於提升人類尊嚴與根本福祉的軌道發展。在這方面,不久前發生的「嬰兒基因編輯」事件應成為強烈的警醒。

相關焦點

  • 應對新興科技帶來的倫理挑戰(大家手筆)
    基因技術、3D列印、人工智慧、大數據、納米技術等新興科技在為人類社會帶來巨大便利的同時,也可能帶來巨大風險和挑戰。例如,人工智慧技術可以讓人類從一般的智能活動中解脫出來,集中精力從事各種創新性發現、發明活動。
  • 人工智慧的倫理挑戰
    原標題:人工智慧的倫理挑戰   控制論之父維納在他的名著《人有人的用處》中曾在談到自動化技術和智能機器之後,得出了一個危言聳聽的結論:「這些機器的趨勢是要在所有層面上取代人類,而非只是用機器能源和力量取代人類的能源和力量。很顯然,這種新的取代將對我們的生活產生深遠影響。」維納的這句讖語,在今天未必成為現實,但已經成為諸多文學和影視作品中的題材。
  • 倫理:面對先進科學的挑戰
    面對基因研究可能帶來的不利影響,我們是應該尊重人類社會的倫理準則,還是甘冒難以預想的風險勇於人類前沿技術的探索呢?    現在,全世界都在爭論不休的就是基因研究引發的倫理話題,全世界出現最頻繁的詞彙就是「基因研究」、「克隆」和「幹細胞」。然而,究竟什麼是「基因研究」、「克隆」和「幹細胞」呢?
  • 人工智慧時代對倫理的挑戰
    今天小編提出的問題是在人工智慧的時代,我們的倫理會遇到什麼樣的挑戰?我自己並沒有答案,我有的只是問題,提出來,跟大家一起探討。我們先講一個當我們在做出選擇的時候,背後合理性依據是什麼?倫理學會講到「電車難題」。
  • 科學研究怎樣守好倫理之門
    在日前舉行的中國科學院學部2019年科技倫理研討會上,中國科學院院士裴鋼指出,科學道德和科技倫理已經成為科學技術發展的重要領域和方面。在這場以「國際背景下中國科技倫理問題的挑戰和應對」為主題的研討會上,來自國內外自然科學、社會科學、科技管理等不同領域專家學者各抒己見,直指當前科技發展帶來的全新倫理問題並探討應對之策。
  • 科學發展面臨倫理與宗教的新挑戰
    科技日報特拉維夫9月6日電(記者 田學科) 歷史上,每一次科學技術發展的飛躍,幾乎都會在不同程度上給人類的物質生活和精神生活帶來重大影響,同時,在倫理道德和宗教信仰方面也會造成巨大衝擊,當年哥白尼的日心說和愛因斯坦的相對論等都是如此。
  • 中科大教授:人工智慧還遠沒到挑戰社會倫理的程度
    陳小平表示,人們對人工智慧有太多「腦補」的成分。目前人工智慧的發展水平還遠遠沒到挑戰社會倫理的程度。中國應該擔心的不是人工智慧帶來製造業工人失業,而是應該擔心製造業本身無人可用的問題。60S要點速讀:1、中國產品的生產特點是低成本,不像國外利潤率很高。企業要不搞低成本,人家搞低成本就把你搞死了。
  • 人類基因編輯技術飽受倫理爭議
    記者:根據「人類基因編輯國際峰會」形成的科學家一致聲明,科學家們倡導「儘可能使得該技術能夠為人類健康謀求福祉」,同時對可能帶來的科學、倫理和社會問題也提出倫理準則。您認為,目前形成的聲明是否足以化解基因編輯技術遭遇的倫理道德難題?
  • 人工智慧倫理三問:如何對待機器和自身的關係?
    對人工智慧的討論足夠了嗎 迄今為止,我們對人工智慧可能會帶來的挑戰仍知之甚少,嚴肅的公共討論還十分缺乏 要理解人工智慧的社會影響,首先要認識人工智慧在社會發展中的獨特作用。在人類發展進程中,知識的增長和社會協作體系的擴展起到了重要作用,而這一切都離不開人類大腦提供的智能基礎。
  • 中國社科院舉辦「人工智慧的社會、倫理與未來研究」研討會
    過度依賴社會機器人將帶來一系列的家庭倫理問題。為了避免人工智慧以機器為中心,需要法律和倫理研究參與其中,而相關倫理與哲學研究也要對技術有必要的了解。召開這次會議的原因一是我們對人工智慧的發展後果越來越重視,而我們已有大量知識並不能很好地應對。二是面對人工智慧所帶來的社會、倫理問題和人機共生社會的未來挑戰,我們所掌握的知識變得不夠用了。
  • 人民日報整版探討:信息化帶來倫理挑戰
    當前,以網際網路、大數據、人工智慧為代表的新一代信息技術蓬勃發展,深刻改變著人類的生存方式和社會交往方式,有可能帶來倫理風險。我們應當認真研究思考並樹立正確的道德觀、價值觀和法治觀,有效提升公眾誠信意識和社會信用水平,統籌兼顧人工智慧應用和個人隱私保護。本期觀察版的幾篇文章圍繞資訊時代的倫理挑戰進行探討。
  • 周濤教授:大數據時代可能帶來三方面的倫理挑戰
    中青在線重慶8月25日電(中國青年報·中青在線記者 田文生)今天,電子科技大學教授、成都市新經濟發展研究院執行院長周濤在此間舉行的中國國際智能產業博覽會上表示,數據時代的倫理困境。他認為,我們從一個信息高度匱乏的時代,到所謂的大數據時代、人工智慧時代,僅短短幾十年,我們可能都沒有真正為這樣一個巨大的快速的時代變化做好準備。    他認為,大數據可能從三個方面帶來倫理挑戰:    第一是數據中立性問題。很多人直觀的覺得技術一定是中立的,數據因為客觀所以中立,並非如此。
  • 人工智慧倫理問題的時代鏡像與調適
    人工智慧技術自一出現,便伴隨著倫理爭議和道德評判。正因為人工智慧發展前景的不確定性,及其可能導致的倫理後果難以預測,人們對人工智慧問題爭議不斷。作為一種具有顛覆傳統、重塑未來強大力量的技術,人工智慧所帶來的倫理問題已引起學界的廣泛關注。
  • 上海交通大學科學史與科學文化研究院舉辦「人工智慧、倫理與文化...
    10月31日上午,由上海交通大學馬克思主義學院科學史與科學文化研究院主辦,上海交通大學文科建設處資助的「人工智慧、倫理與文化高端論壇」在上海交通大學閔行校區圖書信息樓9層會議室召開。上海交通大學馬克思主義學院科學史與科學文化研究院院長李俠主持開幕式,上海交通馬克思主義學院黨委書記王震致歡迎詞。
  • 人工智慧讓人類尷尬:倫理道德法律框架設計滯後
    在近日召開的「人工智慧的技術、倫理與法律的關鍵科學問題」的香山科學會議上,中科院科技戰略諮詢研究院研究員李真真舉索菲亞的例子,是想提出一個問題:在技術高歌猛進的同時,人工智慧不斷模糊著物理世界和個人的界限,不斷刷新人的認知和社會關係,延伸出複雜的倫理、法律和安全問題,但相應的規範和制度設計還存在盲區,這是一個極大的挑戰。
  • 如果人工智慧和基因科學結合,未來會發生什麼神奇變化?
    人工智慧最擅長的是在大數據中進行深度學習,並且快速進步。人類的智商已經習慣了線性發展,而人工智慧則更擅長指數級發展。這是難以想像的,如果它和我們生命密切相關的基因科學結合。
  • 人工智慧的出現會面臨哪些倫理問題?
    作為一種革命性的新技術,人工智慧的新特徵需要得到足夠的關注。隨著人工智慧技術的發展及其在電子商務、自動駕駛、傳媒、金融、醫療、政府等越來越多領域和場景應用的不斷擴大和深入,人工智慧的倫理風險已經出現不少。該節梳理了已有人工智慧應用出現倫理問題和治理挑戰的一些典型案例。
  • 人工智慧引發倫理問題,科技巨頭成立倫理委員會
    本文屬於本次Emtech Digital人工智慧峰會獨家精選隨著人工智慧的發展,機器承擔著越來越多(來自人類)的決策任務,這也引發了許多關於社會公平、倫理道德的新問題。俗話說:權利越大,責任越大。人工智慧技術正變得越來越強大,那些最早開發和部署機器學習、人工智慧的企業現在也開始公開討論其創造的智能機器給倫理道德帶來的挑戰。在《麻省理工科技評論》的EmTech峰會上,微軟研究院的常務董事埃裡克·霍維茨(Eric Horvitz)說:「我們正處於人工智慧的轉折點,人工智慧理應受到人類道德的約束和保護。」
  • 人工智慧,以法律和倫理為界
    通過對人工智慧相關法律、倫理和社會問題的深入探討,為智能社會劃出法律和倫理道德的邊界,讓人工智慧服務人類社會  得益於中國在網際網路、大數據、雲計算等領域的卓著進步,人工智慧在國內發展迅猛。8月23日,以「創新創業創造,迎接智能社會」為主題的2017世界機器人大會,在北京亦創國際會展中心正式開幕。
  • 人工智慧給法律帶來哪些「變」與「不變」
    人工智慧產品進入現實生活 已出現利用新技術犯罪案件  人工智慧給法律帶來哪些「變」與「不變」  在第四屆世界網際網路大會上,人工智慧成為熱議話題。   現階段尚未改變現有法律關係   「人工智慧的飛速發展,帶來了應用的快速落地,產生了貨幣的兩面效應。一方面,降低了風險,另一方面也帶來了新的風險。以自動駕駛為例,一方面可以顯著降低由於人工駕駛產生的疲勞駕駛、誤操作帶來的交通致死率,另一方面也可能因為網絡入侵帶來慘烈的交通事故。