新技術引發倫理爭議 專家呼籲強化全球治理

2020-11-09 今日科學

「關於基因編輯的文章,2012年只有7篇,2018年達到2750篇,作者超過36000人,分布在92個國家,從屬於3600多所大學和研究機構。對他們的問卷調查發現,40%的人從沒聽說過已有的60多個基因編輯相關宣言,真正研究過那些共識條款的人不足20%。這就是我們的現狀。」11月8日晚,第二屆世界科技與發展論壇以「科技倫理與科學文化」為題舉辦高端對話,清華大學蘇世民書院院長薛瀾現場分享了一項研究。

他進一步說,在參與調查的全球科學家中,有30%同意「暫停基因編輯研究」,超過50%反對,「科技工作者內部都是分裂的,可見從業者並沒有對基因編輯的倫理問題進行深入思考。」

基因編輯之外,人工智慧、腦機接口、自動駕駛……在現代科技快速迭代和社會應用不斷創新的今天,技術和產業創新緊密結合,在推動社會發展的同時引發一系列倫理問題,衝擊著人類傳統的倫理觀念。正如世界工程組織聯合會主席龔克所言,「挑戰已經近在眼前」。

基因編輯、人工智慧等倫理爭議最受關注

根據中國社科院組織的相關調查,在科技倫理領域最受關注的問題中,基因技術排在首位,機器人、人類增強、人工智慧等分列其後。

作為生殖醫學科學家,北大第三醫院院長喬傑院士身處技術和倫理衝突的「第一線」。她表示,倫理知識體系建設的起點就是醫學倫理,「一定要關注新技術可能對人類生理心理、權益尊嚴、道德法律的影響。科技推動社會進步,倫理是對社會的保障。」

她以所在領域為例:輔助生殖給不孕症患者帶來福音,但基因歧視、可能的篩選甚至嬰兒定製等都值得深思,遺傳學的父母和社會學的父母背後的倫理法律風險也需要討論。而新摘得諾獎的基因編輯技術更是倫理爭議「重災區」,「分子剪刀廉價又高效,但用它剪什麼?在缺乏嚴格倫理審查的情況下,後果不可預估。」喬傑說。

「科學家開展前沿醫學科學研究必須做出一個判斷,我們要用什麼樣的倫理規則處理人類胚胎,這樣的規定對於醫學進步非常重要。」中科院腦科學與智能技術卓越創新中心學術主任蒲慕明院士表示,「像腦機接口,可以解讀大腦中的活動,改變人的行為模式甚至控制人。像新藥研發,藥物不再只是幫助人類治癒疾病,還有可能增強人體機能,這會不會導致社會進一步分化?」

在人工智慧領域,倫理問題相伴相生。微軟首席科學家埃裡卡·霍維茨一一列舉:AI系統的可信度、安全性、公平性、透明度,數據中深埋的偏見、歧視等不一而足。

在薛瀾看來,新興科技帶來的倫理挑戰主要集中於不可控的風險如基因編輯對人類身體和後代的影響;侵權的風險如數據隱私和保護;責任性的風險如自動駕駛事故以及社會性的風險。「都是必須思考,找到解決方案的倫理問題」。

需跨國跨領域跨圈層合作治理

「二戰後到現在,從事科研活動的人數劇增,且來自不同國家不同文化不同宗教,傳統的科技倫理治理機制已經失靈。」薛瀾坦言。

是否有建立新機制的可能?所有人的回答都指向對話與合作。

「去年擬定在工程領域負責任地運用人工智慧和大數據的原則時,我們對全球各大企業的相關做法進行了比較,結果發現極大相似性。在最基本原則上,大家的認識是相同的。」龔克說。蒲慕明同樣表示,從克隆技術、原子彈技術的發展史來看,在新的爭議技術上建立全球性倫理行為準則是可以實現的。

在聯合國教科文組織UNESCO人工智慧倫理委員會召集人、荷蘭特文特大學教授保羅·維貝克看來,確定共同的倫理治理框架是最重要的,因為「技術的影響不局限於某個國家,它是全球的。而好的倫理規則適用於所有技術和國家,需要相互了解共同開發」。他表示,通過建立溝通平臺,開發技術影響的預測評估工具,可以進行技術規制。

薛瀾表示,要實現科技倫理的全球治理,深入的研究和對話是首要的,各個國家、企業、社會組織、科學家團體都要參與其中,更坦誠地溝通甚至「交火」。其中,龔克特別強調了科學共同體的作用,「科學共同體不僅要在技術創新上走在前面,也要在倫理上走在前面」。

科技倫理建設是全球性議題。去年7月,《國家科技倫理委員會組建方案》審議通過,我國科技倫理建設全面啟動。

「全球科技倫理治理是我們的必修課。我們需要在科技倫理方面更多交流、達成共識。」微軟公司前執行副總裁、美國工程院外籍院士沈向洋說,「這是人類共同的責任。」

(科技日報北京11月8日電)

相關焦點

  • 可辨別性取向的人工智慧引發爭議,專家稱應用需符合倫理道德
    可辨別性取向的人工智慧引發爭議,專家稱應用需符合倫理道德 澎湃新聞記者 於瀟清 劉樂凱 2017-09-14 17:54 來源:澎湃新聞
  • 專家:曾引發致癌爭議
    這則「看上去很美」的消息迅速引發質疑,質疑焦點主要在基因編輯技術所引發的倫理問題。《環球時報》記者就此採訪北京大學醫學部免疫學系教授王月丹,他對這則消息表示遺憾,因為「基因編輯技術現在用於新生兒的編輯有點太魯莽了」。中科院北京基因組研究所研究員雷紅星則表示,目前的基因編輯技術還遠遠沒到這則消息所說的水平,基因編輯看上去門檻低,但想要精準操作難度很大。
  • 劉衝,鄧門佳:新興生物技術發展對大國競爭與全球治理的影響
    引子近年來,新興生物技術與跨領域高新技術快速融合發展,應用前景廣闊,潛在風險突出,生物技術制高點和生物安全能力建設成為大國競爭新焦點。新冠疫情凸顯各國生物安全體系的弱點和全球生物安全治理的短板,進一步催化大國競爭,加大全球治理難度。
  • 基因編輯、人工智慧、自動駕駛等新技術遭倫理拷問,怎麼破?
    基因編輯、人工智慧等倫理爭議最受關注根據中國社科院組織的相關調查,在科技倫理領域最受關注的問題中,基因技術排在首位,機器人、人類增強、人工智慧等分列其後。作為一名生殖醫學科學家,北大第三醫院院長喬傑院士身處技術和倫理衝突的「第一線」。
  • 基因編輯、人工智慧、自動駕駛……新技術遭遇倫理拷問,怎麼破?
    ,在推動社會發展的同時引發一系列倫理問題,衝擊著人類傳統的倫理觀念。她表示,倫理知識體系建設的起點就是醫學倫理,「一定要關注新技術可能對人類生理心理、權益尊嚴、道德法律的影響。科技推動社會進步,倫理是對社會的保障。」
  • 2020迎來AI治理之年 全球AI十大事件背後折射出啥
    點評:面部識別技術正日益成為我們生活的一部分,人們在日益感受到「刷臉」的便利之外,也漸生隱憂。面部識別技術為何引起爭議?無外乎擔憂公民自由權,對強化警察執法的憂慮,以及這項技術自身的帶來的「偏見」,如性別歧視等。然而,對於一種新技術和應用而已,我們要做的是「擁抱」它,而不是「逃避」它。
  • 聚焦AI治理|邱勇:大學對塑造AI價值倫理有不可替代作用
    聚焦AI治理|邱勇:大學對塑造AI價值倫理有不可替代作用 澎湃新聞記者 張唯 2020-12-18 12:00 來源:澎湃新聞 「大學要積極推進大跨度的學科交叉融合
  • 曠視印奇在《全球人工智慧治理年度觀察2019》發表署名文章
    ,以及各國專家對2019年全球人工智慧治理總體形勢的判斷與看法。圖:《全球人工智慧治理年度觀察2019》英文版發布,曠視印奇發表署名文章作為全球首份由全球業內頂級專家共同參與撰寫的人工智慧治理報告,也是首份由我國智庫發起、全球參與的人工智慧治理報告。
  • 如何治理科技發展中的倫理問題?
    中國倫理學會副會長江暢認為,當前亟須健全科技倫理治理體制,包括完善科技倫理治理學術研究機制,健全科技倫理監管制度,建立科技人員自律機制。  完善科技倫理治理學術研究機制 完善科技倫理治理學術研究機制,是健全科技倫理治理體制的重要基礎。
  • 生命科學兩用研究的治理 ——以H5N1禽流感病毒的研究與爭議為例
    國際學界從2004年後開始逐漸關注兩用研究的倫理與治理,如Atlas等人在2006年發表的一篇高被引論文中指出了兩用研究的三個層面的問題,以及如何從生物安全與生物安保的角度去消解這些難題。[2]一些學者從已有的倫理規範中尋找適用於兩用研究的倫理框架,如起源於環境治理中的預防原則(pre-cautionary principle)[3]。
  • 科學研究怎樣守好倫理之門
    當前,隨著科學技術的不斷發展,我國科技領域倫理爭議和倫理事件時有發生,引發了社會各界的密切關注。在日前舉行的中國科學院學部2019年科技倫理研討會上,中國科學院院士裴鋼指出,科學道德和科技倫理已經成為科學技術發展的重要領域和方面。
  • 人類基因編輯技術飽受倫理爭議
    ——訪北京協和醫學院人文學院教授張新慶   至2015年以來基因編輯技術(CRISPR)廣泛運用於生物學等多個領域由此引發學界大量哲學與倫理學思考,CRISPR的倫理和監管問題作為研討焦點。這一興起不到30年的基因醫學技術何以讓人們「想說愛她不容易」?
  • 「世界首例基因編輯嬰兒」引發爭議,項目申請人賀建奎名下有多家...
    同時,這也被認為是中國在基因編輯技術用於疾病預防領域實現的歷史性突破。不過,消息釋放不久之後,在倫理道德爭議之外,也引發其合法性方面的質疑。基因編輯技術爭議基因編輯技術指能夠讓人類對目標基因進行「編輯」,對DNA序列進行修剪、切斷、替換或添加等操作。
  • 「管理科學」人工智慧體引發的倫理困境
    但是隨著人工智慧技術的發展,人工智慧體的性能不斷豐富,出現了越來越多的倫理性問題。因此,對於目前的人工智慧技術研究而言,找到走出人工智慧體倫理困境的方法至關重要,這也已經成為技術研究人員關注的重點。1.人工智慧技術概述人工智慧即AI,是一種可被應用於各個領域中的模擬人的機器,極大程度地推進了社會進步和經濟發展。
  • 中國科學家成功修改人類胚胎基因 引發倫理爭議
    基因技術的成熟,使得基因可以人為的被「進化」,此前國內外都只限使用於動植物或人類的體細胞,但是近日中國科學家突破了這一限制。  在中山大學副教授黃軍的帶領下,中山大學的科研人員利用最新的基因編輯技術,修改了人類胚胎基因,試圖修改人類胚胎中可能導致地中海貧血的基因,這在世界上尚屬首次,相關成果也在學術雜誌《蛋白質與細胞》上發表。
  • 引發倫理爭議、法律無依據
    專家表示,在遺體上進行的這一手術,並不能證明活體「換頭術」的可行性。  突破?  合作研究者、義大利都靈先進神經調節組織的神經學家塞爾焦・卡納韋羅接受英國媒體採訪時介紹,手術分為兩部分:首先,把一人的供血系統與另一人的大腦連接;然後,把頭切下來,使用名為聚乙二醇(PEG)的生物凝膠把神經和血管連接到新的身體上。對神經的電刺激證明在遺體上進行的「換頭術」是「成功的」。
  • 人造生命引發倫理擔憂 美國國會舉行聽證會
    文特爾等人造生命研究專家定於27日在國會就引發倫理擔憂的人造生命研究作證。擔憂:流出實驗室怎麼辦?文特爾率領的研究小組20日在最新一期美國《科學》雜誌上報告說,他們首次培育出由人工合成基因組控制的細胞,從而向人造生命形式邁出關鍵一步。
  • 回溯全球AI十大事件,2020年AI治理或將是行業重頭戲
    在過去近十年內,得益於算法、算力和通訊技術的提升,人工智慧技術迎來了前所未有的發展機遇期。從理論到實踐、從實驗室走向產業化,人工智慧技術在全球範圍內展開了一場集「產學研」為一體的比拼較量。毋庸置疑,人工智慧技術使社會生產效率顯著提高,也讓人類生活變得更加舒適便捷。
  • 後疫情時代全球治理的挑戰、趨勢與對策
    對人類文明的進程而言,需要構建新的全球治理倫理和價值體系,以應對各種挑戰和危機,這一新的全球倫理和價值體系要改變近現代以來形成的以國家利益交換為主的商業文明觀,而要形成包括人本、平等、尊重、合作、互信在內的新的人類命運共同體觀。
  • 科學家在《自然》雜誌刊聯名信呼籲暫停所有生殖系基因編輯
    記者 | 田思奇面對有關基因編輯嬰兒的爭議,部分科學家決定團結以呼籲全面叫停。在3月13日發表於《自然》雜誌的聯名信中,包括兩位CRISPR-Cas9基因編輯技術先驅——張峰和查彭蒂爾(Emmanuelle Charpentier)在內的18名科學家及生物倫理學家聯名呼籲暫停生殖細胞基因編輯的臨床應用,直到各國制定出國際規則來指導這項技術的使用。這些專家來自中國、美國和德國等7個國家。