最前沿丨胡志堅:目前的治理模式下 人工智慧可能會讓人類集體失智...

2020-12-06 第一財經

中國科學技術發展戰略研究院院長胡志堅26日在演講中表示，現有的創新政策存在缺陷，是一種單維度的創新，無法應對新的經濟形態和新的全球範式帶來的挑戰。他同時指出，人工智慧不是拼命發展就是好事，一定要負責任的發展，但目前國際尚未達成一致。

胡志堅

中國科學技術發展戰略研究院院長

現有創新政策模式也有缺陷，我們知道中國從90年代引進OECD的創新系統，80年代整個世界由科學技術政策轉向創新政策，這些實際上都是圍繞著高科技產業競爭想獲得冠軍這樣一個目標去做的，是一種單坐標的、單維度的創新。

同時現在的新技術快速發展，又帶來了新的治理難題，老的治理難題還沒解決，新的治理難題又來了。科技創新進入無人區，帶來了前所未有的治理挑戰，包括數位技術、生物技術、人工智慧。

如何治理這些東西，必須要有國際協同。如果你遵守規則,別人不遵守規則，這個世界將是非常恐怖的。人工智慧一樣，人工智慧看上去是一個非常能夠提高經濟效率的政策，但它同樣會讓人們思維模式極端化、輿論極端化、整個社會極端化、分裂化，會讓人們集體失智發瘋，這種風險對人類是很大的。怎麼治理？包括就業的問題，包括人類的自由性和尊嚴將來怎麼得到保護的問題等等等等，當然有很多新的問題。不是拼命發展就是好事，一定要是負責任的發展，但是這個沒有達成一致。

（以上內容為胡志堅在2019浦江創新論壇上的演講節選）

監 制： 傅 嬈

制 片人： 吳 磊

責 編： 許姍姍

編 導： 臧 哲 周寶平

相關焦點

  • 中國哲學如何看待人工智慧?儒釋道立場有別丨專訪宋冰
    撰文丨新京報記者 董牧孜一兩百年後，或許我們即將迎來奇點，進入強人工智慧或超強人工智慧時代。很多人對強人工智慧懷有生存級別的恐懼感，哲學家、思想家對此也各有說法，我們的思維範式或許還將面臨根本性的挑戰。《人類簡史》作者、歷史學家尤瓦爾·赫拉利曾指出，我們不僅僅在經歷技術上的危機，也在經歷哲學的危機。
  • 探索人工智慧社會治理的中國方案
    但也應該看到，人工智慧在創造經濟發展新引擎、推動人類文明邁上新臺階的同時，模糊了虛擬與現實、數字和實體的界限，給人類社會的法律規範、道德倫理、公共治理等方面帶來了挑戰。人工智慧時代呼喚全新的治理理念和治理形式。當前人工智慧技術正深入發展，人工智慧應用場景不斷豐富，人工智慧開放創新平臺、人工智慧創新發展試驗區建設正如火如荼推進。
  • 監管科技:平臺治理的路徑與模式
    發言《監管科技：平臺治理的路徑與模式》近年來，大數據、雲計算、人工智慧、區塊鏈等為代表的新興技術的發展，推動了新一輪科技革命和產業經濟革命的到來，無論是實體產業，還是網際網路產業，平臺經濟模式成為各產業各領域轉型和發展的主流模式和關鍵要素。
  • 《人工智慧與國家安全:人工智慧生態系統的重要性》報告
    同樣的，在AI開發中也沿襲了這一模式。然而，為了支持人工智慧生態系統的健康均衡，美國政府必須確定政府投資在哪些方面發揮著私營部門投資無法履行的關鍵作用。尤其是那些對國家安全至關重要的AI技術開發方面，以及能夠提升國家安全能力的AI生態系統。 政府對人工智慧的投資包括眾多計劃、預算和舉措，其中一些明確側重於人工智慧，而另一些側重人工智慧和其他軍事能力，如網絡技術和計算能力。
  • 科學網— 人工智慧治理,我們還能做些什麼
    在數據的使用問題上，中國科學院院士、清華大學人工智慧研究院名譽院長張鈸表示，人工智慧的發展必須依賴大量數據，但這些數據同時也存在著大量需要解決的問題，如隱私問題、智慧財產權問題、偏見問題、汙染問題、漏洞錯誤等。 「比如，在某個視頻監控的場景中，如果要用計算機監測電網周遭環境的危險情況，我們只需要在某處布置一點很簡單的噪聲幹擾，就可以讓計算機誤認為該地區有火情。
  • 人工智慧是當今科技領域最前沿的課題_三領域獨角獸整裝待發
    打開APP 人工智慧是當今科技領域最前沿的課題_三領域獨角獸整裝待發 發表於 2018-03-21 20:21:00 作為新一輪科技革命的重要代表之一，人工智慧是當今科技領域最前沿的課題。
  • 探索前沿腦科學 盛趣遊戲布局腦科學與人工智慧前沿領域
    》報告認為，人機智能協同是未來主要趨勢之一，同時，面向解析腦認知功能神經原理的腦科學受到各國政府高度重視，中國腦科學研究也進入能夠搶佔國際領先地位的時機，對人的意識、人腦工作模式的解析，將促進人工智慧質的飛躍。
  • 華西醫院副院長龔啟勇:腦醫學與人工智慧發展前沿丨CMAI 2018
    近日，2018中國醫學人工智慧大會暨第一屆人工智慧雁棲高端論壇在中國科學院大學雁棲湖校區舉行來自全球的20多位專家學者、醫生和產業界代表齊聚一堂，圍繞人工智慧+醫療、醫學圖像分析、機器學習等熱點領域開展了歷時兩天的深入交流與探討。作為大會上午醫學人工智慧前沿環節的重量級嘉賓，龔啟勇教授向與會觀眾分享了題為「腦醫學與人工智慧發展前沿」的精彩專題報告。
  • 前沿研究丨人工智慧輔助COVID-19影像學識別——AI技術從實驗室走向臨床
    經過幾年的技術儲備，目前AI技術正逐漸走出實驗室，走向臨床及公共衛生應用。比如在這次COVID-19疫情中，由約翰·霍普金斯大學勞倫·加德納副教授與中國博士留學生董恩生創建COVID-19追蹤系統，成為全球最為權威的、引用最多的數據系統。
  • 霍金預言目前正在印證,人工智慧或威脅人類地位,該怎麼辦?
    霍金的名號可謂是家喻戶曉，他生前給人類創造了無數成就，他逝世後所遺留下的預言被大家討論津津樂道，甚至還頻繁創造熱點話題，一時間大家逐漸相信了霍金預言，對霍金所留下的預言更是深信不疑，與其說是他對未來所留下的預言，不如說他提前預料到人類正常發展速度。
  • 大數據和人工智慧浪潮下的未來進化
    未來人類進化的方向是什麼？人工智慧的發展將會給社會帶來怎樣的衝擊？它會和人類和諧共處還是會取代人類？智能和意識如果可以分離，他們孰輕孰重？假使技術的發展使得人類大規模失業，我們到時該如何自處？在新技術的衝擊下，未來商業形態又會向何處演化？
  • 量子科技前沿科普——量子計算機的「奧秘」是什麼?丨湘聲大講堂
    12月4日下午，湖南省政協舉辦湘聲大講堂第十二期「量子科技前沿科普——量子計算機」專題講座。湖南省政協老委員諮詢團成員、湖南師範大學物理與電子科學學院教授方卯發用生動有趣的方式對這些問題進行了逐一解答。湖南省政協副主席戴道晉、胡旭晟出席，省政協秘書長卿漸偉主持講座。全省政協委員通過政協雲可收看圖文直播。
  • 目前已擁有超越人類的潛意識
    人工智慧正在以人類難以預料的速度發展，目前所有人都在關注的問題，就是機器人會不會擁有自我意識，以及擁有自我意識後人類如何應對。在神經科學研究的最前沿，科學家們已經找到一些可行性的方法，或許將在不遠的未來令人工智慧擁有堪比人類的自我意識。
  • 新歷史觀中的人工智慧與人類未來
    如果說從諮詢型守門人演變至工具型守門人是人類社會分工不斷發展的結果，那麼人工智慧作為工具型守門人的高級形態，則可以被看成是人類分工發展的一種極端形式，因為它正使得人類之間的一些分工轉變成人類和機器之間的分工。儘管一些人認為人工智慧目前的水平只是對人腦思維的一種簡單模擬，但很多人堅持認為，人工智慧在超越人類心智能力方面正在取得突破性進展。
  • 宋冰專訪:中國哲學如何看待人工智慧?儒釋道立場有別
    撰文丨新京報記者 董牧孜一兩百年後，或許我們即將迎來奇點，進入強人工智慧或超強人工智慧時代。很多人對強人工智慧懷有生存級別的恐懼感，哲學家、思想家對此也各有說法，我們的思維範式或許還將面臨根本性的挑戰。《人類簡史》作者、歷史學家尤瓦爾·赫拉利曾指出，我們不僅僅在經歷技術上的危機，也在經歷哲學的危機。
  • 人工智慧可以替代法官判案嗎？
    人工智慧在為人類生活帶來便利的同時，對社會提出了新的挑戰。著名理論物理學家霍金曾說過：「發明AI（人工智慧）可能會成為人類歷史上最大的災難，如果管理不善，會思考的機器可能會為（人類）文明劃上句號。」人工智慧的研究、開發、應用涉及社會多個方面，也衝擊著法律與社會倫理，該以何種恰當形式進行合理規範和引導，以便將這些技術真正推向前行並最終服務於全人類？
  • 形成人工智慧健康發展有效路徑
    作者：科技部黨組書記、部長　王志剛　　自1956年人工智慧概念提出以來，經過60多年的演進，特別是在移動網際網路、大數據、超級計算、傳感網、腦科學等新理論新技術以及經濟社會強烈需求的共同驅動下，人工智慧加速發展，呈現深度學習、跨界融合、人機協同、群智開放、自主操控等新特徵
  • 在人工智慧幫助下,人類畫出了迄今最全面最精準的大腦圖譜
    在人工智慧幫助下，人類畫出了迄今最全面最精準的大腦圖譜 澎湃新聞記者 王心馨 2016-07-21 22:26 來源
  • 前沿技術頻現生命科學領域,人工智慧及其解決方案是核心價值
    近年來，前沿生物技術的爆發式應用，在人類生命科學領域湧現出諸多革命性突破；尤其是其與人工智慧的結合下的解決方案，受到業內人士的普遍關注。據悉，該公司已與國內首家手術機器人公司天智航合作開發了CARLO（冷消融機器人引導式雷射切骨術）產品，並預計將通過海外併購的方式進入美國市場；這意味著搭載了人工智慧的醫療器械，能夠在更開放的經濟環境和市場需求中完善發展模式。
  • 類腦計算:從神經網絡到真正的人工智慧丨 CCF-GAIR 2019
    他表示，計算神經科學在腦科學和人工智慧之間起到了橋梁的作用。目前，深度學習在靜態物體的識別上已經超過了人類，但還有很多的工作是深度學習做不好的，其中之一就是時空動態的模式識別。這個問題對人腦來說是非常簡單的，但深度學習並不擅長這個。為什麼時空動態模式識別特別重要？