蒲慕明發問:顛覆性技術是否帶來倫理問題?人類終將被替代?

2020-12-05 澎湃新聞

蒲慕明發問：顛覆性技術是否帶來倫理問題？人類終將被替代？

澎湃新聞記者 賀梨萍

2020-10-30 18:14 來源：澎湃新聞

包括腦科學領域的顛覆性技術是否會帶來倫理方面的問題？在AI時代人類是否將無用武之地？10月30日，在上海舉行的第三屆世界頂尖科學家論壇「科學前沿與顛覆性技術」論壇上，國際著名神經生物學家、中科院院士蒲慕明向其他三位腦科學和AI領域的頂尖科學家拋出上述問題。

國際著名神經生物學家、中科院院士蒲慕明在第三屆世界頂尖科學家論壇「科學前沿與顛覆性技術」論壇現場發言

2014年諾貝爾生理學或醫學獎得主愛德華·莫索爾認為這類擔憂可能還為時尚早。他說道，幾年之前已經有人問類似的問題，「我們的技術可能帶來了一些倫理方面的影響，我仍然認為離真正可以操縱人的思想，特別是通過刺激腦細胞等方式，實際上還是很遙遠的。」

愛德華·莫索爾還提到，實際上，像心理學、精神科領域，幾十年來甚至更久之前都在使用一些方法去改變人的思想，而現在的神經科學家通過一些技術去改變人的腦活動，「我們只是改善某些問題，去解決和治療一些問題。」

他一再強調，科學家現在的發現距離實際應用還有很長的路要走。

2014年諾貝爾生理學或醫學獎得主梅·布萊特·莫索爾在贊同上述觀點的同時補充道，在科學領域總會遇到倫理學的問題，科學家使用電極或一些方式對某些腦細胞進行一些刺激，在這些過程當中會對大腦進行一些幹預。但在她看來，人類未來將由自己決定是否使用這些技術。

她同時提出另一方面的倫理問題，「如果我們不去發展這種科學，那有更多的人比如兒童會喪失生命，比如沒有自動駕駛，那有更多的人會因為車禍失去生命。」

2016年京都先進技術獎得主金出武雄對AI是否替代人類的思考則較為樂觀。他提到一種可能的未來，如果在這個世界上只有機器人去工作，我們人類沒有工作，機器人進行生產但沒有人有錢去買，這個世界就無法運轉了，「那就要去創造一些新的社會制度來適應機器取代人的時代。」

他認為，機器取代了一些人的工作，但這些人不會永遠處於失業狀態，「他們總會找到新的工作。」

(本文來自澎湃新聞，更多原創資訊請下載「澎湃新聞」APP)

關鍵詞 >> 腦科學,AI,倫理,人工智慧替代,第三屆世界頂尖科學家論壇,諾獎得主

相關推薦

評論（18）

相關焦點

  • 中科院神經科學研究所所長蒲慕明:前沿科技發展面臨諸多倫理問題
    中國科學院神經科學研究所所長蒲慕明出席論壇並做主旨演講。蒲慕明介紹，現在大部分的疾病都找到解決方案，但神經頭腦疾病仍然沒有一個有效的治療方法。他說，實際上，現在已經有很多的醫藥公司正在開發這種可以提升人們認知功能的藥物，而這些藥很有可能會操縱人類的大腦。這時需要考慮，對於人類大腦的調控要到什麼樣的程度？
  • 新技術引發倫理爭議 專家呼籲強化全球治理
    他進一步說，在參與調查的全球科學家中，有30%同意「暫停基因編輯研究」，超過50%反對，「科技工作者內部都是分裂的，可見從業者並沒有對基因編輯的倫理問題進行深入思考。」基因編輯之外，人工智慧、腦機接口、自動駕駛……在現代科技快速迭代和社會應用不斷創新的今天，技術和產業創新緊密結合，在推動社會發展的同時引發一系列倫理問題，衝擊著人類傳統的倫理觀念。
  • IT峰會高端對話:哪些顛覆性技術關乎人類未來?
    鍾玉表示，1995年哈佛商學院克裡斯教授首先提出了顛覆性技術的機遇、浪潮當中，定義了顛覆性技術。在他的定義中，顛覆性技術能夠顛覆傳統技術的產業和市場，起到一種顛覆性效果。而這種創新恰恰有兩類，一類是完全獨闢蹊徑的創新性技術，比如數位相機替代了膠捲。第二類是現有技術在跨領域、跨學科的應用型創新。這兩類創新帶動了時代變革、產業變革和市場變革。
  • 基因編輯、人工智慧、自動駕駛等新技術遭倫理拷問,怎麼破?
    基因編輯、人工智慧等倫理爭議最受關注根據中國社科院組織的相關調查，在科技倫理領域最受關注的問題中，基因技術排在首位，機器人、人類增強、人工智慧等分列其後。作為一名生殖醫學科學家，北大第三醫院院長喬傑院士身處技術和倫理衝突的「第一線」。
  • 基因編輯、人工智慧、自動駕駛……新技術遭遇倫理拷問，怎麼破？
    ，在推動社會發展的同時引發一系列倫理問題，衝擊著人類傳統的倫理觀念。>在科技倫理領域最受關注的問題中，基因技術排在首位，機器人、人類增強、人工智慧等分列其後。中科院腦科學與智能技術卓越創新中心學術主任、高級研究員蒲慕明院士表示，「像腦機接口，可以解讀大腦中的活動，改變人的行為模式甚至控制人。像新藥研發，藥物不再只是幫助人類治癒疾病，還有可能提升人的認知能力，增強人體機能，這種產品商品化之後會不會讓服藥的人更快通過考試？這會不會導致社會進一步分化？」
  • 聚焦AI治理|邱勇:大學對塑造AI價值倫理有不可替代作用
    聚焦AI治理｜邱勇：大學對塑造AI價值倫理有不可替代作用 澎湃新聞記者 張唯 2020-12-18 12:00 來源：澎湃新聞 「大學要積極推進大跨度的學科交叉融合
  • 美國權威機器人專家Hod Lipson:機器人終將擁有自主意識,倫理問題...
    如果機器人真的有了意識，又回到一開始的問題：它會不會對人類帶來危險？這個可能關乎人類未來的問題，目前無解。Hod Lipson承認，想確保人工智慧完全用於好的事情，並不容易。研究AI多年，他說，任何這樣的問題都沒有一個簡單的答案。但是，我們必須走上這樣一個歷程，並且正在一步一步往前走。我們現在唯一能做的，就是要公開討論機器人可以做什麼，不可以做什麼，要不斷地進行研究。
  • 人類基因編輯技術飽受倫理爭議
    比如如何看待基因編輯技術的價值中立性與否？它所可能實現的基於人們主觀意願的「獨家定製」遺傳基因，以人來控制自身進化能否實現優於自然選擇的進化？是否可能造成生物物種不平等性觀念？請您談一談基因編輯技術可能帶來的倫理道德難題。 　　張新慶：對於諸如基因編輯技術這樣有可能影響到人類基因庫多樣性的「攻擊性」強的嶄新形態，有兩個倫理問題需要深入思考：該不該做？應該如何做？
  • 基因編輯帶來了技術革命,也帶入了倫理困境
    對此，戴維·劉說：「我們正在努力使鹼基編輯技術能夠運用到治療領域。」此外，他承認仍然存在許多安全和執行方面的問題。英國弗朗西斯·克裡克研究所的羅賓·巴奇教授認為，這種鹼基編輯器50%的效率讓人很興奮，但仍有待提高，以後還需要更多的研究來驗證該方法的安全性。儘管基因編輯技術可能帶來各種治療疾病的新可能，但是它所涉及的倫理問題卻不容忽視。
  • 人類基因編輯技術及其倫理問題
    與現有的基因編輯技術相比， CRISPR使基因編輯更容易、更精確、更快、更便宜和更全面，甚至被認為是改變幾乎所有生物基因組的突破性手段。隨著新型冠狀病毒肺炎疫情（COVID-19）的大流行，研究者們已經開始著手應用CRISPR以對抗大流行帶來的挑戰。長遠來看，利用CRISPR的力量能提升人類健康和福祉，但CRISPR也存在一定的倫理問題亟需解決。
  • 關於陰莖移植的倫理問題
    陰莖移植是器官移植和免疫學發展的結晶，是異體器官移植領域內新的突破，為陰莖缺失的患者帶來了新生，對患者心理、家庭和社會有著重大影響。但目前異體陰莖移植剛剛起步，技術尚不成熟，且陰莖是一特殊器官，涉及到的倫理道德問題很多，我們試圖從受者、供者、醫生和法律等方面討論陰莖移植所面臨的倫理道德問題，希望陰莖移植能真正造福於人類。
  • 從摩爾定律到孟德爾的遺產:我們如何運用顛覆性技術,推動人類進步?
    毫無疑問:我們必須討論新技術的影響。從人工智慧到基因編輯，嚴重的潛在風險需要得到解決。 問題是:我們如何看待這場辯論?現代社會的正確答案是什麼? 對我來說，毫無疑問，在短短幾年內，顛覆性的新技術可以使人類取得前所未有的進步。要找到這種巨大潛力的一個好例子，我們不需要看得太遠。
  • 中科院神經所所長蒲慕明:寫論文指出
    比如，同一個實驗室，如果發現別人的不端行為是否要舉報？吹噓和造假的界限究竟在哪裡？現實科研實踐中，灰色地帶的問題很多，造假的也不少。為了讓未來的科研工作者從一開始就對科研不端有個清醒的認識，蒲慕明主動要求開設了這一課程。之前，他曾經在美國的學校開過科研倫理課程，但學生興趣不是很高。
  • 前沿熱點丨人類基因編輯技術及其倫理問題
    長遠來看，利用CRISPR的力量能提升人類健康和福祉，但CRISPR也存在一定的倫理問題亟需解決。一、突破性手段CRISPR作為可以改變幾乎所有生物基因組的突破性手段而聞名於世，與現有的基因編輯技術相比， CRISPR使基因編輯更容易、更精確、更快、更便宜和更全面（圖1）。
  • 機器會取代人類嗎?解局人工智慧技術的倫理風險
    來源：經濟觀察網原標題：機器會取代人類嗎？解局人工智慧技術的倫理風險丨數據政治經濟觀察網 劉志毅/文 目前的人工智慧技術發展，主要是以計算機為載體推動自動化技術的發展。基於數據的人工智慧的技術可以幫助我們用各種自動化裝置取代人們的各種生產活動，從而提升社會整體發展效率。人工智慧帶來巨大的效能提升的同時，也會帶來巨大的風險。
  • 發問區塊鏈:會成為新風口嗎?與你我有何相關?
    發問區塊鏈：會成為新風口麼？　　新華社北京3月26日電 題：發問區塊鏈：會成為新風口麼？　　新華社記者何雨欣、高亢、安娜　　每一項新技術的誕生都自帶問號，而新技術的演變常常不會寫下句號。　　發問區塊鏈的過程就是了解區塊鏈的過程。在未知大於已知的時代，直面未來。
  • 第四次工業革命帶來顛覆性影響
    為了理解這個問題，我們必須明白技術對就業產生的兩個相互對立的影響：一方面，技術對就業是有破壞效應的，因為技術帶來的顛覆和自動化會讓資本取代人工，從而導致工人失業，或者把他們的技能用到其他地方；另一方面，這樣的破壞效應也伴隨著資本化效應：對新商品和新服務需求的增加，會催生全新職業、業務，甚至是全新行業。
  • 【光明日報】顛覆性技術的預測與展望
    「顛覆性的（disruptive）」意味著有秩序的過程被打斷、打亂，也有結構上的混亂、錯亂和劇變的意思，這個詞意味著不一致性、不連續性。顛覆性技術是指能夠帶來突發的或意料不到的效果的創新技術。　　顛覆性技術具有兩面性，既可能產生正面結果，也可能帶來負面影響。它可能對已有的技術和市場帶來革命性影響，甚至改變世界力量平衡。
  • 研究人員探討圍繞腦機接口技術的倫理問題
    北卡羅來納州立大學的研究人員發表了兩篇新論文，探討了圍繞BCI技術的倫理問題兩篇新論文的共同作者Veljko Dubljević指出了植入物特別棘手的問題，他表示：侵入性設備更有效率，因為它們可以直接從大腦中讀取信號。然而，它們也引發了更多的倫理問題。例如，侵入式BCI技術會帶來更多相關風險，如手術、感染和膠質疤痕--而且隨著技術的進步，侵入式BCI設備將更難更換。
  • 工程視野下的腦計劃及其倫理問題思考
    此外，隨著腦科學及相應的腦庫建設，以及神經技術與計算機技術、認知科學的整合與會聚，神經工程技術逐漸浮出水面。需要指出的是，雖然神經科學研究及臨床應用中的倫理問題已經得到學界的重視和較為充分的討論[3-5], 但作為大型工程項目的腦計劃的倫理、社會、管理和哲學問題尚未得到應有的重視和研究。