中科大教授:人工智慧還遠沒到挑戰社會倫理的程度

2020-12-19 網易財經


網易研究局·大師

·聚焦國際思想市場·解析財經新聞熱點·對話國際經濟學大師


大師 NO.015

對話中國科學技術大學機器人實驗室主任、國際RoboCup Federation理事陳小平


首屆未來哲學論壇於11月23日-24日在上海舉行。中國科學技術大學機器人實驗室主任陳小平接受了網易研究局·大師的專訪。陳小平表示，人們對人工智慧有太多「腦補」的成分。目前人工智慧的發展水平還遠遠沒到挑戰社會倫理的程度。中國應該擔心的不是人工智慧帶來製造業工人失業，而是應該擔心製造業本身無人可用的問題。

60S要點速讀：

1、中國產品的生產特點是低成本，不像國外利潤率很高。企業要不搞低成本，人家搞低成本就把你搞死了。

2、網際網路經濟情況確實非常好，實體經濟真的可悲，有的利潤不到10%，想要把工人的工資提高，實現不了。

3、如果人工智慧真的發展太快，那確實要限制，但如果真的是因為發展快而限制它，相對還是比較容易的，但現在的情況是大量崗位沒有人幹。

4、人工智慧最有希望和最危險的都是這條路：自我進化。進化的方向沒辦法控制，這是最危險的，現在從理論上看仍然是這樣。

5、從技術上講，人工智慧可以實現自我進化。但除非把圖靈編碼改掉，那時候人工智慧可能自我進化，現在還沒有到達那樣的程度。

以下為採訪精編：

網易研究局·大師：您認為目前人工智慧的發展水平還沒有達到對倫理構成挑戰的程度？   

陳小平：沒到那麼嚴重的程度。首先，現在還是有必要開始做這方面的研究，畢竟做倫理規範是很難的，是長期的工作，不能等到風險已經非常明顯才開始做，提前就要開始做一些準備性工作。我們和哲學家是兩個領域，共同語言其實比較少，我們雙方要達到互相能夠理解的程度，這就需要比較長的時間。我覺得現在應該開始做這個工作，所以我們現在開始策劃在中國做一系列的研究。

這個研究的短期重點不是放在技術風險，而是關注一些更複雜的問題。目前工人不願意在生產線崗位上就業，這不是人工智慧引起的，是其它原因引起的，但現在已經非常普遍。

過去五年我去了很多生產線，感覺是不一樣的。我自己想像，讓我一輩子天天擰螺絲我願意嗎？不是因為我是科學家我不願意，即使我是普通工人我願意嗎？我肯定不願意。管理層也都是這個看法。現在工人是流動的，工人覺得在手機行業幹得不好，到筆記本行業是不是好呢？他們換一個行業工作，不行就再換一個行業。現在有些工人都換了好多行業。

有人說企業是不是應該給工人更高工資？企業給不了，為什麼？只有汽車行業是自動化在整個行業規模化應用，別的行業都是少量工種加上一點自動化體系，而不是整個生產體系自動化作業。這是因為中國產品的生產特點是低成本，不像國外利潤率很高。企業要不搞低成本，人家搞低成本就把你搞死了。雷軍的狠就在於其把低成本做到最低，沒有人的低成本能超過他，沒有人能把他搞死，只有他把別人搞死。中國的生態就是這樣。

現在我們了解到的情況是，除了汽車行業，別的實體經濟行業（如手機、筆記本電腦）非常可憐。網際網路經濟情況確實非常好，實體經濟真的可悲，有的利潤不到10%，想要把工人的工資提高，實現不了。現在這些企業必須用機器換人，但好多地方機器還換不了人。

在這種情況下，人工智慧倫理該怎麼做？其實這個問題非常複雜，不完全是人工智慧的問題。我了解到的情況是國家要求各個部委都在做這方面的調研，比如機器人未來發展會代替多少工人，但沒有人願意接這個調研的活兒。

網易研究局·大師：他們不願意幹的原因是什麼？

陳小平：還是幹不了。過去我們沒到生產線看，我們的想法就是去國外看，國外做個難的，中國一定要做個比它更難的，不管中國是不是需要。現在不一樣，我們現在是從中國的實際需要出發。

如果人工智慧真的發展太快，那確實要限制，但如果真的是因為發展快而限制它，相對還是比較容易的，但現在的情況是大量崗位沒有人幹，馬上就面臨一個問題：未來十年中國製造還有沒有？沒有人承擔這些製造崗位，怎麼能有中國製造？

網易研究局·大師：人工智慧未來可以自進化嗎？

陳小平：人工智慧最有希望和最危險的都是這條路：自我進化。進化的方向沒辦法控制，這是最危險的，現在從理論上看仍然是這樣。人類讓人工智慧從能力上超越現在，允許它變成一種最危險的可能，這是一種自我進化。但目前短期從技術上看不到這種可能性，現在人工智慧的進化不是根本上的進化，只是表層的進化。

打個不恰當的比喻，現在人工智慧的進化程度相當於它的「基因」沒有改變，甚至從根本上說連「突變」都沒有，連「突變」都沒有那還有什麼危險的進化呢？

「基因」比思維更深。我現在講的是思維，沒講「基因」，人工智慧的「基因」是在我講思維之前那個階段研究的。圖靈編碼是目前人工智慧的「基因」，因為所有智能的東西最終都要靠計算機實現，計算機根本的理論模型是圖靈機，而圖靈機的「基因」是圖靈編碼。除非把圖靈編碼改掉，那時候人工智慧可能自我進化，但現在沒有。「基因」改不了就沒有「突變」，沒有「突變」我們就沒什麼可擔心的。

網易研究局·大師：也就是說，人工智慧的自我進化在技術上還是可能的？

陳小平：完全有可能。所以還是要有限制的。

陳小平簡介：陳小平現任中國科學技術大學教授、國際RoboCup Federation 理事、Journal of Artificial Intelligence Research和Knowledge Engineering Review編委等。「女神機器人」佳佳之父。

網易研究局是網易新聞打造的財經專業智庫，整合網易財經原創多媒體矩陣，依託於上百位國內外頂尖經濟學家的智慧成果，針對經濟學熱點話題，進行理性、客觀的分析解讀，打造有態度的前沿財經智庫。

移駕微信公號 看這裡看不到的內容

【精彩推薦】點擊進入網易研究局>>

【精彩推薦】點擊進入大師>>

本文來源：網易研究局 責任編輯：楊澤宇_NF6036

相關焦點

  • 中國社科院舉辦「人工智慧的社會、倫理與未來研究」研討會
    人工智慧的未來發展應該是從自上而下到自下而上的融合，社會倫理問題與兩條路徑融合的前景相關聯。中國人民大學教授劉大椿中國人民大學一級教授劉大椿教授在報告《人工智慧倫理考量的必要性和局限性》中指出，首先提出一個問題，即「為什麼人工智慧的倫理考量它具有必要性？」
  • 人工智慧的倫理挑戰
    原標題：人工智慧的倫理挑戰 　　控制論之父維納在他的名著《人有人的用處》中曾在談到自動化技術和智能機器之後，得出了一個危言聳聽的結論：「這些機器的趨勢是要在所有層面上取代人類，而非只是用機器能源和力量取代人類的能源和力量。很顯然，這種新的取代將對我們的生活產生深遠影響。」維納的這句讖語，在今天未必成為現實，但已經成為諸多文學和影視作品中的題材。
  • 貴大教授李傳兵:防控倫理道德風險 保障人工智慧健康發展
    習近平總書記強調：「要整合多學科力量，加強人工智慧相關法律、倫理、社會問題研究，建立健全保障人工智慧健康發展的法律法規、制度體系、倫理道德。」保障人工智慧健康發展，需要採取合理有效的舉措，防範人工智慧技術可能帶來的倫理道德風險，讓這一技術更好服務於經濟社會發展。人工智慧發展存在倫理道德風險。
  • 人工智慧時代對倫理的挑戰
    今天小編提出的問題是在人工智慧的時代，我們的倫理會遇到什麼樣的挑戰？我自己並沒有答案，我有的只是問題，提出來，跟大家一起探討。我們先講一個當我們在做出選擇的時候，背後合理性依據是什麼？倫理學會講到「電車難題」。
  • 周濤教授:大數據時代可能帶來三方面的倫理挑戰
    中青在線重慶8月25日電（中國青年報·中青在線記者 田文生）今天，電子科技大學教授、成都市新經濟發展研究院執行院長周濤在此間舉行的中國國際智能產業博覽會上表示，數據時代的倫理困境。    周濤表示，我們現在處在數據爆炸性增長的時代，但擁有這麼多數據並不代表我們就能夠駕馭這些數據，從很大程度上，我們所獲得的絕大部分信息都是來自於我們的信息中介。一個普通人獲取數據的甄別能力已經遠遠不能匹敵現在數據增長的速度，「這是我們大數據時代一個最大的挑戰。」
  • IBM等紛紛「暫停」人臉識別 人工智慧如何面對倫理法律挑戰?
    ，也帶來了倫理、法律等各方面的挑戰。　　10日的2020世界人工智慧大會雲端峰會之人工智慧治理論壇上，海內外專家們就此熱議。 　　AI向善，致力未來。 　　圖靈獎獲得者、康奈爾大學教授John Hopcroft表示，AI將從根本上改變世界，還將改變我們生活的諸多方面。許多技術含量較低的工作將實現自動化，自此退出歷史的舞臺。這一過程將創造大量的財富，但相應也會引發一些問題：如何分配這些財富？
  • 人工智慧導致的倫理衝突與倫理規制
    作者簡介：孫偉平，上海大學社會科學學部教授。上海200444原發信息：《教學與研究》第20188期內容提要：人工智慧是一種遠未成熟的革命性、顛覆性技術，可能導致的倫理道德後果尚難準確預料。人工智慧的應用範圍極其廣闊，人形智慧機器人正在解構傳統的人倫關係，數據搜集和分析、智能機器取代人工作正在引發各種倫理衝突，智能駕駛、虛擬實境正在帶來各種倫理難題。我們必須立足時代和社會的重大變遷，對人工智慧進行理智的價值評估，對人工智慧的研發和應用進行有效的倫理規制。
  • 人工智慧介入基因科學帶來哪些倫理挑戰
    想要獲得一個蛋白質的結構，需要的不僅是經驗與技術，有時還需要碰運氣。儘管科學家們為提高預測效率和質量投入了大量的資金和精力，但此前尚未尋找出理想的方法。此次人工智慧系統AlphaFold通過深度學習，根據所包含的胺基酸計算預測蛋白質的結構且準確程度遠遠高於現有預測方法，雖未像AlphaGo戰勝圍棋世界冠軍那樣引起全球民眾關注，卻讓人工智慧、生命科學等相關領域的專家深受鼓舞與震驚。
  • 防範倫理道德風險 保障人工智慧健康發展
    保障人工智慧健康發展，需要採取合理有效的舉措，防範人工智慧技術可能帶來的倫理道德風險，讓這一技術更好服務於經濟社會發展。 人工智慧發展存在倫理道德風險。在新一輪科技革命和產業變革中，人工智慧是一項戰略性技術，具有很強的「頭雁效應」，在有力推動經濟社會發展的同時，也帶來一系列風險與挑戰。其中，倫理道德風險是一個重要方面。
  • 人工智慧倫理問題的時代鏡像與調適
    另外，在日常生產生活領域，人工智慧在增強人類能力的同時，也日益凸顯出其對於人類自身解放的重要作用。機遇與挑戰並存，人工智慧發展在取得巨大成就的同時，也面臨著嚴峻的倫理挑戰。從人與技術的關係來說，人工智慧在一定程度上威脅著人的主體性。控制論之父維納就曾預言：「這些機器的趨勢是要在所有層面上取代人類，而非只是用機器能源和力量取代人類的能源和力量。」
  • 專家:一些技術走得太遠 社會倫理挑戰貫穿研究中
    科學讓未來大步跨出人們的想像，卻也讓在場的一些與會者陷入沉思——虛擬和現實的邊界越來越難以確定，大數據把每個人都變得透明，基因和人工智慧的發展，已經觸及社會倫理的底線。　　「一邊期盼，一邊擔憂」，這是在場許多人對「未來」的感受。
  • 人工智慧讓人類尷尬:倫理道德法律框架設計滯後
    在近日召開的「人工智慧的技術、倫理與法律的關鍵科學問題」的香山科學會議上，中科院科技戰略諮詢研究院研究員李真真舉索菲亞的例子，是想提出一個問題：在技術高歌猛進的同時，人工智慧不斷模糊著物理世界和個人的界限，不斷刷新人的認知和社會關係，延伸出複雜的倫理、法律和安全問題，但相應的規範和制度設計還存在盲區，這是一個極大的挑戰。
  • 「人工智慧的治理與倫理」學術研討會在滬舉行
    人民網上海12月9日電（馬作鵬）近日，一場關於人工智慧應用在社會科學領域的探討在上海開展，與會院士、科學家、社會學者共同探討了人工智慧、科技進步與社會倫理之間的關係，並提出具有前瞻性的學術觀點。據了解，由華東政法大學人工智慧與大數據指數研究院主辦的第二屆智能社會科學論壇暨「人工智慧的治理與倫理」學術研討會，邀請了包括北京大學、清華大學、中國科學院、復旦大學、浙江大學、武漢大學、中國社會科學院、上海交通大學、上海社會科學院和華東政法大學在內的十多位學者參加。會議採取了線上和線下相結合的方式，眾多觀眾通過線上直播觀看了本次會議。
  • 第二屆智能社會科學論壇暨「人工智慧的治理與倫理」學術研討會...
    在主旨演講環節，清華大學智能社會治理研究院院長蘇竣教授作了題為「智能社會的風險、脆弱性與社會實驗」的演講。他從智能社會的風險與不確定性、人工智慧的社會風險、建設有溫度的智能社會三個方面介紹了智能社會對人類社會所產生的影響，並對人工智慧社會實驗的基本原理與研究進展進行了詳細介紹。他提出，學術界應開展積極有效的學術研究和交流，倡導建立有人文溫度的智能社會，推進智能社會的精神文明建設。
  • 人民日報整版探討:信息化帶來倫理挑戰
    我們應當認真研究思考並樹立正確的道德觀、價值觀和法治觀，有效提升公眾誠信意識和社會信用水平，統籌兼顧人工智慧應用和個人隱私保護。本期觀察版的幾篇文章圍繞資訊時代的倫理挑戰進行探討。從倫理學角度看，當大數據和人工智慧的發展改變甚至顛覆人類活動的主體地位時，傳統倫理就會發生解構，人具有排他性主體地位的倫理時代就可能結束。 資訊時代的倫理進步 信息技術已滲透到人們的日常生活中，也深度融入國家治理、社會治理的過程中，對於實現美好生活、提升國家治理能力、促進社會道德進步發揮著越來越重要的作用。
  • 人工智慧倫理三問:如何對待機器和自身的關係?
    對人工智慧的討論足夠了嗎 迄今為止，我們對人工智慧可能會帶來的挑戰仍知之甚少，嚴肅的公共討論還十分缺乏 要理解人工智慧的社會影響，首先要認識人工智慧在社會發展中的獨特作用。在人類發展進程中，知識的增長和社會協作體系的擴展起到了重要作用，而這一切都離不開人類大腦提供的智能基礎。
  • 人工智慧時代的新聞倫理
    人工智慧系統非常有效地通過用戶日漸增多的網絡行為數據進行精準內容推薦，公眾是被動接受偏好的信息從而陷入信息繭房，還是有意識地通過綜合使用媒體平臺，形成更加理性而多元的社會認知，其重任日益集中到個體自身。因此現階段至少可以相對確定地說，公眾作為新聞倫理的行動者，在人工智慧時代所肩負的責任將更加重大。
  • 人工智慧,以法律和倫理為界
    通過對人工智慧相關法律、倫理和社會問題的深入探討，為智能社會劃出法律和倫理道德的邊界，讓人工智慧服務人類社會　　得益於中國在網際網路、大數據、雲計算等領域的卓著進步，人工智慧在國內發展迅猛。8月23日，以「創新創業創造，迎接智能社會」為主題的2017世界機器人大會，在北京亦創國際會展中心正式開幕。
  • 人工智慧引發倫理問題,科技巨頭成立倫理委員會
    本文屬於本次Emtech Digital人工智慧峰會獨家精選隨著人工智慧的發展，機器承擔著越來越多（來自人類）的決策任務，這也引發了許多關於社會公平、倫理道德的新問題。俗話說：權利越大，責任越大。人工智慧技術正變得越來越強大，那些最早開發和部署機器學習、人工智慧的企業現在也開始公開討論其創造的智能機器給倫理道德帶來的挑戰。在《麻省理工科技評論》的EmTech峰會上，微軟研究院的常務董事埃裡克·霍維茨（Eric Horvitz）說：「我們正處於人工智慧的轉折點，人工智慧理應受到人類道德的約束和保護。」
  • 人工智慧或衝擊法律規範道德倫理 你會愛上機器人嗎
    人工智慧在迅速發展的同時，也帶來了一些困惑和挑戰。人工智慧會產生自主意識和情感嗎？會不會因此給人類社會帶來衝擊？ 法律爭議 假設無人車傷了人，那麼是開發者負責還是駕駛公司負責 關於人工智慧帶來的「倫理困境」，讓很多專家感到糾結。