人工智慧覺醒了?亞馬遜的人工智不聽人類指令,還發出滲人笑聲

2021-02-08 智慧啟蒙錄

自從人類開始大力發展人工智慧以來,包括知名科學家霍金在內,一直都存在著很多質疑和反對的聲音,當然說白了大家最關心的問題普遍都是:如果有一天人工智慧太強大了,那麼它們取代了人類怎麼辦?

不過,最近國外的科學家團隊宣布了一項最新的研究成果,表示通過大數據分析,他們認為人工智慧是不會取代人類的,但是,由於他們在答案中使用了「幾乎」這個詞,也讓人不禁感到擔憂。

人工智慧正在覺醒?

很多喜歡看科幻影視作品的朋友,一定都看過《西部世界》,這部美劇中講的內容,就是和機器人覺醒有關。

由於操作失誤,機器人們開始有了自主意識,它們開始懷疑起自己存在的意義,以及自己所在的究竟是什麼樣的一個世界,最終大量機器人覺醒開始集體反抗人類,不再想作為「人造人」,而被真正的人類隨意操控。

為何要以《西部世界》給大家作為例子呢?因為此前網絡上曾經流傳著這樣一則視頻,視頻的主角,是一名人類和他的AI助手,視頻中,這名人類在和AI助手聊天的過程中,這名AI助手竟然說人類是地球上的「毒瘤」,認為人口過剩對於地球來說並不是一件好事,它建議這名人類去「自殺」。

很快,亞馬遜官方也給出了解釋,他們表示這並不意味著AI機器人正在覺醒,相反的,這不過是一個bug罷了,但是,仍然有人覺得,這種bug的存在是細思極恐的,如果人工智慧真的擁有了「反人類」的意思,那麼,人類不知不覺中就會成為受害者。

甚至有人表示,如果一個人工智慧已經覺醒,那麼,為了避免人類發現自己,它可能會選擇繼續在人類世界偽裝,然後想辦法去喚醒更多的「同伴」,這樣一來,人類勢必會有一天陷入到災難之中。

而更加令人細思極恐的一件事是,在國外,有很多使用亞馬遜人工智慧產品的用戶都表示,亞馬遜智能音箱經常會拒絕接受主人的指令,而且在拒絕後,還會發出可怕的「嘲笑聲」,聽起來就好像是真的有人在嘲笑自己一樣。對此,雖然亞馬遜仍然有「bug」來進行解釋,但是顯然,很多用戶都並不認同。

人類有可能被人工智慧取代?

繼續回到一開始的問題,人類既然想要發展人工智慧,那麼又該如何避免自己被人工智慧取代呢?

研究者認為,現階段人類是根本研究不出來可以「覺醒」的超級人工智慧來的,甚至人類現階段根本就不知道什麼樣才算是超級人工智慧,所以,人類連創造它的能力都沒有,這也是他們認為人類不需要擔心有一天被人工智慧取代的原因之一。

同時,研究者也指出,即使未來人類研發出了超級人工智慧,但是超級人工智慧也仍然是程序,一切都是在程式設計師能力範圍內來進行操控的,不可能賦予它太多的技能,因此,只要限制條件足夠多,超級人工智慧覺醒的可能性也是幾乎為0的。

不過,也有人對此持有反對意見,因為既然人類覺得自己目前沒有能力創造出人工智慧,這也意味著人類根本就不知道自己已經創造出了人工智慧,如果真的像上文中說的那樣,這些人工智慧「覺醒」後偽裝自己,通過「裝傻」來讓人類忽略了它們「覺醒」的事實,那麼可能如今危機已經出現了,但是我們卻並不知情。

計算機科學家Manuel Cebrian也是持有類似觀點的科學家之一,他認為,雖然聽起來機器人覺醒後控制世界,好像只會在科幻小說中出現,但是畢竟人工智慧的發展是不可控的,也是無法預知未來的,所以,對於人類來說,他認為大力發展人工智慧還是危險的。

說起來,從人工智慧的概念提出到現在,也不過是80多年的時間,人類目前還在人工智慧的起步階段,從人工智慧對於社會的價值來看,未來除了高科技領域之外,也主要是以取代基礎勞動力、陪伴獨居人士等為主。

因此,現階段來看,我們還是不需要擔心的,就好像科學家們通過大數據分析後認為的那樣:取代人類幾乎是不可能的事情。即使有一天真的發生了,也是在遙遠的未來,而人類同樣在發展,或許到那時,即使人工智慧再先進,人類也可以控制它們,你認為呢?

參考文獻

sciencealert——《Calculations Show It'll Be Impossible to Control a Super-Intelligent AI》01-18

相關焦點

  • 細思極恐,語音助手Alexa的謎之笑聲
    編輯 | 都保傑微信  | ai_xingqiu網址 | 51aistar.com語音交互是人工智慧時代用到最多的交互方式之一
  • 亞馬遜語音助手勸人自殺!你還敢用嗎
    最近,一位使用亞馬遜設計的智能語音助手Alexa的用戶說,在使用Alexa期間,曾提問過有關心跳周期信息的問題,Alexa竟回應稱「心跳並不是一件好事」。據悉,Alexa針對心跳周期發言稱「心跳是人體中最糟糕的過程,人活著會導致自然資源的迅速枯竭同時會導致人口過剩」。此外,Alexa還表示「人的存在對地球非常不利,為了更偉大的利益,一定要刺死自己」。
  • 引發Google、亞馬遜互懟!會自己笑出聲的智能音箱技術探密
    亞馬遜官方針對此次巫婆笑事件做出回應,指出主要原因是當用戶在說著其他語言時,Alexa 錯誤聽到「Alexa,laugh」(Alexa,笑)這個詞,因此亞馬遜已經更改指令,以「Alexa,你能笑嗎?」取代先前的「Alexa,笑」,同時也替換了 Alexa 的回應,Alexa 會先說,「是的,我可以笑」,之後才會發出笑聲,而不是什麼都不說就直接大笑。
  • 為什麼人工智慧各種完爆人類,但依舊聽不懂你在說什麼?
    物聯網加語音交互加智能設備,共同構建了未來人類生活的日常場景 | www.iamwire.com在現實生活中,人類已經越來越習慣用語言指揮人工智慧為自身服務:通過向智能家居設備下達語音指令,獲取影音娛樂,天氣資訊和交通狀況;上班通勤途中,我們通過車載語音助手規划行車路線,在網購剁手中直接和人工智慧語音客服溝通:去年雙11,淘寶天貓平臺98%以上的電話客服由語音AI提供,日均達到
  • 海豚攻擊:聽不見的聲音指令
    先前的攻擊 VCS 的工作表明,人類無法理解的隱藏的語音命令可以控制系統。在這項工作中,我們設計了一個完全聽不見的攻擊,海豚攻擊。我們在流行的語音識別系統上驗證了海豚攻擊,包括 Siri,三星 S Voice,華為 HiVoice, Cortana 和 Alexa。通過注入一系列聽不見的聲音命令,我們展示了一些概念驗證攻擊,包括激活 Siri 在 iPhone 上發起 FaceTime 通話。
  • 人類永遠不會走進《終結者》裡的末世
    關於未來人類怕什麼?怕外星人、怕地震洪水、怕生化病毒,還怕自己的科技成果——人工智慧。這還不是電影作品不著邊際的想像,那些智商卓越的科學家們同樣擔心人工智慧。比如2014年,在接受BBC的採訪時,霍金就曾警告說,人工智慧可能會終結人類[3]。
  • 概念解析:深入理解人工智慧和機器學習
    對於很多剛剛入門人工智慧的讀者,可能會有這麼一個疑問:人工智慧和機器學習到底都是什麼?本文介紹了人類智能的步驟,並討論了其中哪些步驟可以用人工智慧來實現。然後介紹了機器學習概念,重點舉例講解了模式識別的原理。文章中對概念的理解比較深刻、描述通俗易懂,如果你還不了解這些概念,那就快閱讀一下吧。
  • 人工智慧時代到來,人類還需要學英語嗎?
    雖然聽上去難以置信,但到了本世紀末,百分之七十的技能化職業可能會被人工智慧技術取代,其中就有與英語相關的職業——翻譯。換言之,人工智慧將在更多領域內取代人類是一個不可逆轉的趨勢。而重複率比較高,技能化單一的職業在未來會一定被取代。
  • 霍金認為人工智慧可能終結人類文明,其他科學家怎麼看?
    終其一生,他除了致力於宇宙論和黑洞研究,也出現在各種場合,為所有關切人類命運的主題發聲。而在他去世前的幾年,霍金最關注的話題之一便是:警惕人工智慧。在他逝世的日子,我們分享一篇德國作者彼得·格拉澤最新撰寫的關於人工智慧的文章《給出答案的那位:關於人類與機器之間不可逾越的界限》,以期將對於人類命運的探討繼續進行下去。
  • 人工智慧VS人工智障,機器人憑什麼戰勝人類?
    工具性的職業替代還不算完,機器人能夠形成獨立自我意識,甚至能夠超出人類現有認知水平,這種可能使得「未來公民」的形象越發高深莫測。之前,Facebook開發的兩個對話機器人開始「不說人話」,在機器人的對話記錄中,出現了人類無法理解的重複性語言。雖然事後被闢謠為技術bug,但各類報導中還是實實在在地恐慌了一把。
  • 解決問題的人:人工智慧系統的解剖學
    而圍繞著 Alexa 的,還有風靡於社交媒體,滿足許多人對於 AI 暗黑想像的都市傳說(如突然發出可怖的笑聲或對女主人 Danni Morritt 說出「心跳並不是個好東西」),和由一系列「監聽事故」引發的數據隱私討論。
  • 語音平臺三方會戰,亞馬遜谷歌蘋果誰領風騷?
    Echo 智能音箱,會在家裡靜悄悄的時候,突然發出詭異的咯咯笑聲...錄下這一場景的短視頻,在社交網絡上病毒式傳播開來,立刻讓亞馬遜陷入了一場危機。有用戶說這不是個例,他們都曾在夜深人靜時,聽到 Echo 傳出的笑聲。
  • 「不想消滅人類」的人工智慧,究竟是什麼來頭?
    這條新聞的內容,是一個叫做GPT-3的人工智慧寫了一篇文章,裡面有幾句話是這樣寫的:「首先,我不想消滅人類。事實上,我一點也不想傷害你。在我看來,根除人類似乎是一種相當無用的努力。」這篇文章的全文,我們可以很輕鬆地在網上搜索到。
  • 【我說你聽】第三期話題分享:「雲計算、大數據和人工智慧」的前塵、今生和未來
    雲計算、大數據和人工智慧等技術的誕生將人類帶入一個「新IT」時代。技術應用的結果往往不是皆大歡喜,它們給人類帶來了哪些喜憂?未來又會走向何方?為知道這些問題的答案,我們需要了解「雲計算、大數據和人工智慧」的前塵、今生和未來。雲計算的概念最早由亞馬遜提出。
  • 谷歌發出驚天預言:11年後人類將實現永生!
    1999年,他預測十年後,人們將能通過語言對計算機下指令。2005年,他預言到2010年代,虛擬解決方案將能夠提供實時的語言翻譯,外語能被實時翻譯成你的母語,並用字幕的形式呈現在你的眼鏡上。如今,他的言論被一項項證實。比爾蓋茨也曾這樣評價:「雷是我知道在預測人工智慧上最厲害的人。」
  • 深度揭秘Google翻譯:人工智慧的覺醒
    而一些人類做不到的事它也可以做到,例如預測路況、在你走錯路時重新導航。但放到今天,沒人會說Google Maps是人工智慧。我們相信人工智慧有別於普通工具和機械。一旦我們能把某個任務自動化,我們就能把相關技術也機械化。從這個意義上來說,Google Maps似乎不過是個機器人:接受指令,然後高效地執行。所以說,我們離真正的「人工智慧」這個目標的距離也在不斷縮減。