人工智慧將小豬認成飛機？姚期智：機器學習存在脆弱不穩定性

2020-10-23 中國青年報

人工智慧對科技界和人類社會產生了重大改變，但是否能夠解決所有難題？

10月22日，在2020年浦江創新論壇開幕首日，圖靈獎首位亞裔科學家、中國科學院院士姚期智介紹了人工智慧的技術瓶頸問題，其中包括機器學習目前存在脆弱不穩定性、機器學習缺乏社會透明度以及人工智慧的隱私保護問題等。

姚期智介紹，目前機器學習存在脆弱不穩定性，例如在圖像識別中，同一張圖片出現了微小的變化人眼依舊可以辨認是同一個物件，而機器算法卻缺乏這樣的穩定性，例如經典的小豬變飛機案例，就是在小豬圖像上進行了像素模糊，被人工智慧辨認成了飛機，而這樣的脆弱不穩定性如果發生在自動駕駛上可能造成嚴重的安全問題。

「人工智慧的算法如今存在黑盒子問題，由於算法缺乏可解釋性，計算結果往往受到人們的質疑，因而在使用中會出現倫理甚至法律問題。」姚期智以生活中常見的地區平均房價人工智慧預估算法為例，介紹使用數據的人可能無法解釋如何計算得出，那麼買房者往往會懷疑這個計算結果是否對自己不利，因而不相信計算結果。

在報告中，姚期智也談到了人工智慧領域關注的熱點——「超級人工智慧」。超級人工智慧到底何時到來，姚期智認為這目前是不可預知的，但必須是可控而有益的。他介紹，此前有科學家提出，超級人工智慧的算法必須依從「利他的、謙卑的以及盡力的」三條原則，並且將這些原則貫徹在算法的編制中。

來源：澎湃新聞

相關焦點

  • 超級人工智慧何時到來？姚期智：尚不可預知
    在大會報告環節，圖靈獎首位亞裔科學家、中國科學院院士姚期智作發言，他從人工智慧技術存在的弱點，下一步的突破方向等方面做了分享。姚期智表示，人工智慧看起來非常亮麗，但很多算法仍有相當大的脆弱和不穩定性。他舉例道：一張小豬的圖片，在人眼和人工智慧眼中呈現的都是小豬，但如果給該照片一個非常小的雜音，稍微改變一點它的圖像，有些人工智慧產生的算法就會突然不認識它，將其識別為「飛機」，這可能會產生非常大的危險，如用在無人駕駛上，人工智慧可能會將禁止通行識別錯誤，從而造成安全問題。同時，姚期智認為目前的人工智慧系統缺乏可解釋性。
  • 圖靈獎得主姚期智院士:人工智慧存在三大技術瓶頸
    人工智慧目前存在哪些技術瓶頸？未來是否可能對人類帶來威脅？今天下午舉行的2020浦江創新論壇全體大會上，圖靈獎獲得者、中國科學院院士姚期智做了題為《人工智慧面對的一些挑戰》的演講。在他看來，人工智慧有三大技術瓶頸亟待突破，需要科學家「從0到1」的原創研究。 作為現代密碼學的奠基人，姚期智創立的上海期智研究院今年初在滬成立。目前，這家新型研發機構已匯聚4位兩院院士、20多位科學家和多所高校的青年人才。
  • 圖靈獎得主、中國科學院院士姚期智:人工智慧存在三大技術瓶頸
    昨天舉行的2020浦江創新論壇全體大會上，圖靈獎獲得者、中國科學院院士姚期智做了《人工智慧面對的一些挑戰》主題演講。在他看來，人工智慧有三大技術瓶頸亟待突破，需要科學家「從0到1」的原創研究。作為現代密碼學的奠基人，姚期智創立的上海期智研究院今年初成立，目前已匯聚4位兩院院士、20多位科學家和多所高校的青年人才。研究院瞄準人工智慧、現代密碼學、高性能計算系統、量子計算及量子人工智慧、物理器件與計算、生物智能6個方向開展前沿研究。在姚期智看來，脆弱性是人工智慧面臨的第一大技術瓶頸。
  • 圖靈獎唯一華人得主PPT:人工智慧四大挑戰,影響自動駕駛
    全球人工智慧頂級大咖，也是圖靈獎唯一華人獲得者姚期智，在2020浦江創新論壇上，從前瞻和頂層的角度，發表了「人工智慧面對的挑戰」，個人覺得很有啟發，這裡與讀者進行分享。 當前機器學習十分脆弱和不穩定，將一隻小豬的照片加入些許「幹擾」，就很有可能被系統識別為飛機。
  • 圖靈獎得主姚期智:人工智慧算法還需突破兩個瓶頸
    人工智慧在最近幾年得到了迅猛的發展，最重要的幾個領域是：人臉識別、自動駕駛、語音識別，以及語義理解。在應用方面，安防、交通、醫療、教育、智能製造等都有了實際的應用落地。人工智慧從提出到現在發展了大半個世紀，看起來，現在已經欣欣向榮，但是，作為一項可能與人類大腦PK的技術，還遠遠談不上成熟，甚至還存在一些仍需努力突破的地方。
  • 圖靈獎得主姚期智:人工智慧算法還需突破哪些瓶頸
    圖靈獎得主、中國科學院院士姚期智在「科學前沿與顛覆性技術」論壇上發言。人臉識別、自動駕駛、語音識別、語義理解，人工智慧已經在醫療、教育、交通等領域有了很好的應用落地。看上去，如今的人工智慧已經取得了巨大突破。但回到技術本身，在姚期智看來，人工智慧仍有自己的發展限制和需要突破的地方。
  • 圖靈獎得主姚期智:人工智慧算法的有限性有哪些
    巔峰贅婿原標題：圖靈獎得主姚期智：人工智慧算法的有限性有哪些「人工智慧（AI）對我們人類的生活帶來的巨大影響，已經非常顯而易見，但實際上AI還有一些目前無能為力的領域。我們需要思考的是，現在AI算法的限制是什麼，它的有限性在哪裡？接下來在機器學習以及AI的發展之中，還有哪些需要實現突破的地方？」
  • 圖靈獎得主姚期智：人工智慧算法的有限性有哪些
    「人工智慧（AI）對我們人類的生活帶來的巨大影響，已經非常顯而易見，但實際上AI還有一些目前無能為力的領域。我們需要思考的是，現在AI算法的限制是什麼，它的有限性在哪裡？接下來在機器學習以及AI的發展之中，還有哪些需要實現突破的地方？」
  • 圖靈獎得主姚期智:基礎研究對人工智慧的發展至關重要
    報告中，姚期智闡述了人工智慧的科學基礎，介紹了作為神經網絡研究新視角的神經拓撲結構、隱私保護學習以及可控的超級人工智慧三個新方向。在他看來，當今人工智慧一些非常亮眼的成果，正是許多年基礎研究的累積而成。為了確保未來人工智慧有可持續的巨大進步，今天我們更應該在人工智慧的基礎研究方面付出更多努力。
  • 圖靈獎得主姚期智：基礎研究對人工智慧的發展至關重要
    同濟大學供圖 攝中新網上海8月11日電 (黃艾嬌 許婧)圖靈獎獲得者、中科院院士、美國科學院外籍院士、清華大學交叉信息研究院院長姚期智教授11日在同濟大學作題為「人工智慧淺談」的學術報告時指出，基礎研究對於人工智慧的發展至關重要。報告中，姚期智闡述了人工智慧的科學基礎，介紹了作為神經網絡研究新視角的神經拓撲結構、隱私保護學習以及可控的超級人工智慧三個新方向。
  • 姚期智主導,清華姚班和智班豪華編委,人工智慧即將進入高中課堂
    短短幾十年的發展，「智能」幾乎在我們生活中無處不在，甚至很多「大牛」認為，人工智慧處於第四次科技革命的核心地位，在此領域的競爭將代表著一個國家未來綜合國力的較量。「目前，中小學人工智慧教育有很多嘗試，但是缺乏系統的教學內容設計。」據悉，由圖靈獎得主、中國科學院院士姚期智主導，清華大學即將出版的《人工智慧（高中版）》書籍即將問世，可謂是為中國人工智慧播下希望的種子。然而，清華大學出版的人工智慧領域書籍並非中國首例。
  • 人工智慧大會高端訪談｜姚期智：打造中國人工智慧「夢之隊」
    看看新聞Knews記者 毛豔 丁桃 呂心泉 李響2020-07-08 10:31他，是世界現代密碼學基礎的奠基人，是圖靈獎唯一一位華人獲獎者；2004年，他放棄美國國籍，回國創辦了計算機天才雲集的「姚班」，去年，他創辦了培養人工智慧人才的「智班」，就在不久前，他將致力於研究最前端科技的「期智研究院」落子上海。下一步，他將為上海的人工智慧發展帶來怎樣的驚喜？
  • 圖靈獎得主姚期智:人工智慧發展將有三個新方向
    封面新聞記者 雷強7月9日，在2020世界人工智慧大會上，圖靈獎獲得者、中國科學院院士姚期智發表主題演講。他認為人工智慧理論將有三個新的方向：神經拓撲結構、隱私保護學習、可控的SuperAl (超級人工智慧) 。
  • 姚期智:中國AI發展存在缺陷 「系統」「算法」不足是短板
    姚期智：中國AI發展存在缺陷「系統」「算法」不足是短板　　近日，清華大學交叉信息研究院院長、中國科學院院士、美國科學院外籍院士姚期智教授接受媒體採訪。　　中國AI存在缺陷，「系統」和「算法」將是下一爆點　　談及中國當前的AI現狀，姚期智表示中國的AI發展存在著缺陷：「具體到中國當前的人工智慧研究和發展，我覺得可能存在兩個方面的缺陷：一是系統，二是理論。」
  • 圖靈獎得主姚期智：人工智慧是一個跨學科的行業
    在世界人工智慧大會開幕式上，中國第一位也是目前唯一一位圖靈獎獲得者，中國科學院院士姚期智發表了《人工智慧理論的新方向》的主題演講。他的第一個論點是AI理論很重要。姚期智的第二個觀點是人工智慧（AI）絕對是一個跨學科的行業。
  • 圖靈獎得主姚期智：人工智慧絕對是一個跨學科的行業
    澎湃新聞記者 王心馨7月9日，世界人工智慧大會在上海如期召開。在開幕式上，中國第一位也是目前唯一一位圖靈獎獲得者，中國科學院院士姚期智發表了《人工智慧理論的新方向》的主題演講。姚期智在演講中提到了三個觀點，他希望能通過自己的舉例說服大眾。他的第一個論點是AI理論很重要。
  • 圖靈獎得主姚期智:人工智慧絕對是一個跨學科的行業
    7月9日，世界人工智慧大會在上海如期召開。在開幕式上，中國第一位也是目前唯一一位圖靈獎獲得者，中國科學院院士姚期智發表了《人工智慧理論的新方向》的主題演講。姚期智在演講中提到了三個觀點，他希望能通過自己的舉例說服大眾。
  • 對話圖靈獎得主姚期智:AI 的突破口在算法,中國的機會很大
    姚期智極少在公眾面前露面，最近卻參加了央視綜合頻道（CCTV-1）的一檔關於人工智慧的綜藝節目《機智過人》，該節目由中央電視臺和中國科學院共同主辦、中央電視臺綜合頻道和北京長江文化股份有限公司聯合製作的國內首個關於人工智慧的綜藝節目。這是姚期智教授首次公開談論當前的 AI 現狀和行業未來，極客公園作為受邀媒體採訪了姚期智教授。
  • 超級人工智慧何時到來？姚期智院士：不可預知，應可控而有益
    在10月22日下午舉行的2020浦江創新論壇全體大會上，世界著名計算機學家、2020年圖靈獎得主、中科院院士姚期智發表了大會報告，重點從當今人工智慧的弱點、下一步突破的方向和如何解決未來可能出現的問題三方面關注人工智慧面對的一些挑戰。
  • 首屆國際分布式AI學術會議議程全公布:姚期智、劉鐵巖主旨演講
    姚期智、Victor Lessor、劉鐵巖、Noam Brown、田源棟、漆遠、葉傑平...... 無論是哪一位，在學術界和工業界都是舉重若輕的存在，而在將於 10 月 13 日至 15 日在北京召開的國際分布式 AI 學術會議——DAI（Distributed AI）上，這幾位大咖都將悉數出席！