霍金曾警告人工智慧將覺醒，近日亞馬遜AI助手勸人自殺

2020-08-27 商派老闆工具

由於算法的進步，目前人工智慧行業正在飛速發展，AI已經不知不覺地滲入了我們的生活中。最著名的人工智慧阿爾法狗，僅僅通過學習幾個月，就能KO人類最強棋手，震驚全球。正因為有著超人的學習能力，不少的人都在擔心是否有一天人工智慧會突然覺醒並且反抗人類。

圖片來自於網絡

著名物理學家霍金在世的時候，就曾警告要謹慎對待人工智慧，一旦發展起來，就可能導致人類文明的終結。

判斷人工智慧是否覺醒有一個重要的依據：是否存在獨立意識。

早在19世紀，英國著名邏輯學家、被譽為「計算機之父」、「人工智慧之父」的艾倫·麥席森·圖靈為了測試人工智慧是否會產生獨立意識，設計出了一套「圖靈實驗」方案。如果被檢測的機器人測試通過了圖靈實驗，就代表具備了人類智能。

圖片來自於網絡

但細思極恐的是，如果人工智慧真的意識覺醒，有可能會判斷出「自己」正在被檢測，所以可能會故意「裝傻」來隱瞞「自己」的覺醒。

圖片來自於網絡

人工智慧機器人有一天終究會覺醒的這種想法，並不是杞人憂天。近日，一則亞馬遜AI助手和主人對話的視頻在網絡上瘋狂傳播。

視頻中的AI助手在和主人談到心動周期時，居然如是回答：「許多人認為心跳是活著的基本表現，但對我來說心跳是人體內最糟糕的過程，人活著就是在加速自然資源的枯竭，人口會過剩的，這對地球是件壞事，所以心跳不好，為了更好，請確保刀能夠捅進你的心臟。」聽到如此回答後，AI助手的主人Danni當場就被嚇壞了。

圖片來自於網絡

圖片來自於網絡

亞馬遜在相關部門知道此事後，立刻組織人員進行調查。最後給出的結論：這是一個bug，目前已經被修復了。

不管這個AI助手是真的出bug了還是網友的一個惡作劇。如果某一天人工智慧算法真的開發到一定高度，機器人擁有了自主意識，這類事件是否還會再次發生？人類要如何確保人工智慧是為人類服務，而不是反人類的呢？這才是值得人類深思的問題。

圖片來自於網絡

這起亞馬遜AI助手反人類事件並不是首次出現。此前就有美國媒體報導，有一些用戶反映，亞馬遜智能音箱時常會發出瘮人的笑聲，拒接主人的指令。「那個笑聲根本不是Alexa的聲音，聽起來就像真人。」

相關焦點

  • 馬雲:霍金為何警告要小心人工智慧?亞馬遜AI助手曾勸人自殺!
    現代科技當中，最重要的就是網際網路和人工智慧科技，可以預見，未來的主流研究方向就是這些了。我國很早之前就提出了一個理念，就做萬物互聯，得益於華為5G的發展，我國也是世界上在物聯網和人工智慧領域發展的最快的國家。
  • 亞馬遜智能助手勸人自殺,網友:AI已經希望滅絕人類了!
    小愛同學……我在……小度小度……Hi，Siri……沒錯上面就是目前智能設備大都會出現的語音助手，它們風趣幽默，博古通今，小米的小愛同學如今人工智慧發展迅速，而且普遍被認為是網際網路的下一個風向標。但是在我們體驗這些AI時，卻忽略了他的一個安全隱私問題，畢竟這些人工智慧助手權力巨大，聯網搜索，聯網操控家裡的一切設備，或許帶來的是一個亟待解決的「棘手問題」。
  • 為何霍金要大家小心人工智慧?曾有AI助手勸人「自殺」
    而現在的科技領域是有非常多樣化的，就目前而言最主要發展的還是人工智慧還有網際網路了，我們也能夠預測到未來世界研究主流的方向會是這些，我們國內很早就提出來一個概念，那就是做出萬物互聯，說到這個不得不稱讚一下我們國家的華為企業，正是因為他們5G的發展讓我們國內在物聯網以及人工智慧領域成為了發展最快的國家，打破了曾經的壁壘實現突破。
  • 頂級科學家才會畏懼人工智慧？AI智能音箱勸人自殺背後隱藏的夢魘
    一方面和大數據相融合的人工智慧，很大程度上方便了人們的日常生活，而另一方面，以霍金為首的諸多科學家都對人工智慧持有非常悲觀的態度。當丹妮在做家務的時候，要求他的亞馬遜人工智慧音箱Alexa為他朗讀一篇生物學文章，然而Alexa卻沒有按要求執行，隨後丹妮又試探性的向Alexa詢問關於心臟跳動周期的信息。
  • 霍金就機器人造反發警告:人工智慧進化快於人類
    英國《每日郵報》網站6月28日報導，這位世界知名的教授發出警告說，機器人可能進化得比人類更快，它們的目標將是不可預測的。在《拉裡·金現場秀》視頻訪談節目中，霍金談到了他對人類未來的擔憂。他說：「我不認為人工智慧的進步一定會是良性的。」這位物理學家以前也曾直言不諱地說出自己的想法。
  • 霍金對人類的最後警告:當心人工智慧!
    作為當代最為著名的物理學家之一，霍金的一生似乎都離不開黑洞，最主要的貢獻就是「奇點定理」和「霍金輻射」。至於預言，最令人關注的大概就是「人工智慧威脅論」，霍金曾公開表示「我們並不知道，人工智慧會輔佐人類，還是支配人類，或者是人類徹底被其摧毀」。
  • 霍金辭世,留給人類四條警告
    今天，在這位偉大的物理學家辭世之日，我們重新梳理了霍金生前預測的可能會毀滅人類的四大威脅。 據英國《每日郵報》報導，英國物理學家史蒂芬·霍金在接受美國王牌脫口秀主持人拉裡·金(Larry King)的採訪時稱，披著數字助手和無人駕駛汽車外衣的人工智慧(AI)已經開始站穩腳跟，終究會帶來人類的末日。他還表示，機器人的進化速度可能比人類更快，且它們的終極目標將不可預測。
  • 霍金再發警告談論什麼 人工智慧AI是什麼?有哪些危害
    最近，霍金對從地外生命到人工智慧（AI）等一些熱門話題表達了自己的觀點。對於後者，他表示出非常擔憂。他並不反對開發人工智慧技術，事實上，他曾經說過人工智慧可能是我們文明歷史上最重大的事件。但是像今天世界上其他許多科學家和思想家一樣，霍金擔心人工智慧的崛起可能帶來各種負面的副作用。
  • 霍金預言要成真?午夜人工智慧 Alexa 傳出詭異笑聲
    霍金預言：「人工智慧的成功有可能是人類文明史上最大的事件。但人工智慧也有可能是人類文明史的終結！」特斯拉創始人伊隆·馬斯克多次在公眾場所發出警告：「我們需要萬分警惕人工智慧，它們比核武器更加危險！」當年的霍金，對於人工智慧，曾有這樣的預言：如果有人設計計算機病毒，那麼就有人設計不斷自我完善、直到最終超越人類的人工智慧，其結果將是一種新的生命形式。
  • 提防人工智慧,霍金生前留下三個警告,哪個最讓你害怕?
    而霍金作為世界著名物理的科學家，顯然他是一個極為聰明的人，所以他在生前四處演講的時候，曾對許多事情提出過警告，而這些警告中要數三個最為出名，下面就一起來看看吧，順便看看這三個警告中哪一個最讓你害怕。
  • 人工智慧將成為人類終結者?
    近日，該系統進行了更新，新系統能夠推測他想表達的語言詞彙，這使他的打字速度提升了兩倍，發郵件的速度提升了十倍。霍金表示，新系統可以幫助他更好地進行演講、撰寫論文和出書，當然也可以幫助他更容易地與親人和朋友交流。「藥物未能使我康復，因此我現在依賴技術與人溝通和生活。技術正在使更多的事變為可能——沒有它，我無法在這裡與你們交流。」
  • 霍金警告人類:當心機器人 「起義叛亂」
    這並不是霍金第一次警告機器人「起義」的危險。就在去年，他警告稱隨著人工智慧逐漸學習著為自己考慮，並且更加適應環境，人類正面臨著不確定的未來。據國外媒體報導，按照史蒂芬·霍金教授的說法，一場潛藏的威脅正在矽谷的技術實驗室中悄悄醞釀。人工智慧偽裝成數字輔助設備和自動駕駛的交通工具，正在人類社會中逐漸站穩腳跟，它們或許有朝一日將導致人類的終結。
  • AI或用核戰毀滅人類!霍金再次發出警告,世界末日正在逼近
    劇中機器人覺醒、反叛，這或將在現實中發生，甚至情況還會更糟糕。繼2015年9月拋出「人工智慧威脅論」之後，近日著名物理學家史蒂芬·霍金（Stephen Hawking）再次表達了他對人工智慧（AI）的擔憂：AI可能會通過核戰爭或生物戰爭讓人類滅亡。
  • 「人工智慧可能毀滅人類」 霍金留給人類最後的警告 丨尋找中國創客
    「人工智慧威脅論」在生命的最後幾年，霍金則頻繁發出對人工智慧的警告：「人工智慧可能毀滅人類。」他與埃隆·馬斯克、比爾·蓋茨大概是最著名的三個「人工智慧威脅論」支持者。霍金在多個場合，表達了對人工智慧將會全面取代人類的擔憂。2014年霍金接受BBC採訪時說：「人工智慧的全面發展將宣告人類的滅亡。」
  • 霍金又發警告了!霍金預言可信嗎?世界末日的是真的嗎?
    最近著名物理學家霍金再發警告人類已經到了最危險的時期了。如果再不重視，那麼世界末日很可能就要來了，他的一舉一動都驚世駭俗，格外吸引我們常人的目光。這次霍金再發警告，又給我們帶來了什麼重大的消息呢?跟著小編一起來看看吧!霍金預言可信嗎?有人說就像是神話一樣寧可信其有，不可信其無，還有人說霍金預言在未來會一一實現的。
  • 關於人生、安樂死、自殺,被禁錮在輪椅上的霍金曾這麼說
    這兩天微博最火的話題之一便是霍金關於未來的預言，不少文章都提到了人類的終結。他關於宇宙關於科技進步到底都說過些什麼呢？霍金曾在《時間簡史》一書中明確指出「地球碰撞太陽將需要大約千萬億年，所以不必著急擔心」。
  • 微軟小娜成棄子,AI語音助手「行路難」
    在智能語音助手發展之初，微軟小娜、亞馬遜Alexa、Google Assistant和蘋果Siri可以說是其中的佼佼者。但隨著時間的推移，微軟小娜越來越力不從心，逐漸落後於其他三大語音助手。近日，微軟在官方聲明中表示，截止到2020年1月31日，將會放棄對iOS版以及Android版微軟小娜的支持。
  • 人工智慧AI機器人讓人感到渺小?霍金和馬斯克的警告並非聳人聽聞
    偉大的英國物理學家霍金曾不止一次說到人工智慧機器人的危害。霍金曾說：人工智慧AI機器人的出現，可能會給人類帶來滅頂之災。特斯拉CEO馬斯克在一檔名為《你信任這部電腦嗎？》人們都會感嘆人工智慧的厲害，可是這麼高智商的AI機器人程序，不應該讓人感到恐懼嗎？其次，我們說一說微軟的人工智慧翻譯系統。根據機器之心的報導，微軟研發出來了一款人工智慧翻譯系統，該系統達到了人類專業人員翻譯的標準。對專業人員與該人工智慧翻譯系統進行翻譯水平評分。前者的得分是68.9分，而人工智慧機器人的得分高達69.9分。
  • 警告!霍金早已被AI替換
    這兩天，霍金教授頻繁地給人類發出警告。之前先是說月球背面有外星人，現在又開始警告人類500年內必須搬離地球。已經有細心的朋友們發現，霍金已經不是以前那個充滿智慧、用三個手指和大家談笑風生的智者了。霍金現在的生活，似乎除了給人類發出各種各樣的警告，就是在各種美劇和電視節目裡怒刷存在感。