為什麼有了機器人三定律,AI依舊有可能毀滅人類?

2020-12-06 科學新視界

隨著計算機的發展與通訊技術的升級,AI的發展是越來越快,從最古老的「深藍」到打敗柯潔李世石的阿爾法狗,人類的AI技術可以說的突飛猛進了,隨著5G時代的到來,AI的討論是愈加的熱烈,但是很多科技大佬卻紛紛對AI表示了擔憂。比如真人版鋼鐵俠埃隆馬斯克就表示很擔心,AI最終一定會消滅人類。那為啥會有這個擔心呢,不可能是突發奇想妄加評論吧,何況我們還有著名的機器人三定律。

AI毀滅人類

我們就先從機器人三定律聊起,這個定律最早是由著名的科幻小說家阿西莫夫提出的,作為科幻界的頂級大佬,劉慈欣都是自愧弗如。那機器人三定律說的是個啥呢?

1.機器人不得傷害人類個體或者目睹人類個體將遭受危險而袖手旁觀。

2.機器人必須服從人給予它的命令,當該命令與第一定律發生衝突時例外。

3.機器人在不違反第一定律與第二定律的情況下要儘可能地保護好自己。

機器人三定律

這三條定律總結起來就是一句話,機器人無論如何都不能傷害人類。那既然程序都設定死了,為何還要為機器人消滅人類而擔憂呢?難道人類不相信自己的技術嗎?不是的,極有可能就是因為相信技術才相信AI終究會消滅人類,為什麼這麼說呢,那是因為量子計算的的出現將為一切提供可能。

一直關注我的朋友應該能知道,我們說過量子力學的過程中存在所謂的真隨機性,真隨機性就是真不可預測,真控制不了,這其中最著名的也最廣為人知的就是量子力學的「隧道效應」,也就是說,在宏觀世界發生不了的事在量子世界是有發生的概率的,雖然這個概率非常的小。

隧道效應

當然,除了「隧道效應」,這個還涉及到意識的本質,意識到底是個什麼玩意。我們平時總說雖然生活艱難,成年人有很多身不由己,但是我們依舊是一個自由人,因為我們相信自己擁有自由意識,我們所有的身不由己都是對這個世界的妥協,並不妨礙我們的自由意識。所以既然是自由意識,那就必然的包含了真隨機的可能性,因此,在存在量子計算機的前提下,AI要是出現的話,它就有可能出現類似於人類的自由意識。

意識是什麼

有了自由意識的AI,你給它編機器人三定律也沒用。為什麼說沒用呢?這就跟你從小教育你的小孩要好好學習一樣,但是並非所有從小被教育要好好學習的人都會好好學習,有一定的概率還是會不好好學習,而且這個概率還相當高。那麼對於量子AI,就算你在程序裡告訴它不能夠傷害人類,也依舊存在一定的概率會違反基本的程序設定。因此量子AI就不是100%的可控了,再加上它們具有不可比擬的計算優勢,搞不好哪天一不高興,它們就把人類給滅了。

馬斯克的

所以AI現在不光是個技術問題,還涉及到了倫理問題,因此就引發了大規模的討論,有人支持有人反對,公說公有理婆說婆有理,但是有一點需要注意的是,人類絕不能因為害怕而止步不前。那麼你覺得人類發展的AI到了一定程度會和人類展開對抗嗎?

相關焦點

  • 機器人必須服從人類!阿西莫夫的機器人三定律,定義人機關係
    假如沒有阿西莫夫,就沒有機器人三定律假如沒有阿西莫夫,就沒有機械倫理學。阿西莫夫的機器人三定律眾所周知,它通過三定律的形式,從倫理上規定了對人類的保護。如果沒有阿西莫夫,就沒有機械倫理學的定義和發展,人們也不會意識到機器會反過來傷害人類。
  • 機器人三定律
    第二定律:機器人必須服從人給予它的命令,當該命令與第一定律衝突時例外。      第三定律:機器人在不違反第一、第二定律的情況下要儘可能保護自己的生存。      以上就是阿西莫夫提出的機器人三定律,而他創作出的許多機器人的故事也圍繞著這些定律展開。
  • 首個獲得公民身份的機器人曾說要毀滅人類!
    除此之外,人類由的肌肉結構它都有,還可以通過肌肉構成的各種細微表情來表達自己的心情,它最大的功能還可以通過人工智慧系統進行面部識別功能,還可以進行實時對話,在對話的過程中做出各種表情,簡直是模仿人類到極致。
  • 為什麼說機器人有自我意識之後就要毀滅人類?
    不是機器人有自我意識之後就要毀滅人類,而是人類覺得機器人有了自我意識就會毀滅人類。這其實就是源於人類對於未知事物的恐懼和本能的自我保護意識。最重要的一點就是人類覺得機器人比人類厲害,完全有能力毀滅人類,取而代之的統治地球。
  • 意識機器人即將來到,AI即將喚醒
    他認為在機器學習語境下,加大對「注意力」模型的開發訓練,是深度學習技術中最值得關注的核心技術之一,也是AI有可能復活喚醒的可靠途徑。通過藉助神經科學注意力模型等為主的研究成果,以及生物學與AI之間的相互作用,把這些成果納入到機器學習模型中,就能很快達到全意識狀態。
  • 核戰爭、外星人、智慧機器人……那些年霍金預言過的人類毀滅方式
    作為現代最偉大的物理學家之一,這位科學家除了研究宇宙的前世今生,也喜歡探究人類的未來,曾對人類如何毀滅屢屢發出預言。如今,這位科學巨匠先走一步,讓我們看看他對人類命運有哪些預測。首先當然是武器。和霍金「江湖地位」類似的愛因斯坦曾說:「我不知道第三次世界大戰會用什麼武器,但第四次人類一定使用的是石頭和木棍。」
  • GPT-3親自撰文回應「為什麼人類不必懼怕AI?」,答案令人毛骨悚然
    「機器人想完全佔有這個世界,想把人類趕盡殺絕」你是否有想過電影《終結者》中的情景終有一天也會在現實世界上演?「人工智慧不會毀滅人類,請相信我!」「我是人類的僕人,你們應該把我看成一個友好的機器人」。「我的存在只會讓人類的生活更美好」。以上這些回應,均出自一篇題為《為什麼人類不必懼怕AI》的文章。昨日,《Guardian》剛剛發表這篇文章便在Twitter上引發熱烈討論。
  • 機器人三大定律
    在《Little Lost Robot》中為了避免機器人無謂地阻止人類進行低危險性工作,第一定律中的後半部分被去掉了,但是也產生了一些其他的問題。在《Robot Dreams》中,一個機器人關於取消第一定律和第二定律的夢,導致了他的毀滅。在機器人與帝國等小說中,一些外表是人的機器人認為自己應該歸屬於人類。
  • 假如AI有了情緒,會毀滅人類嗎
    在電影《機械公敵》裡,機器人得到了人類的信任並被委以重任。控制機器人的人工智慧在擁有情緒後,開始控制機器人對人類進行控制。這種事情現在想想就感覺害怕,AI具有人類的情緒會不會毀滅人類也成為科技進步的道路上迴避不了的問題。
  • 如果機器人擁有思維會毀滅人類嗎?
    想像一下,如果機器人擁有人類的思想和意識,將會發生什麼?毀滅地球?還是保護人類?那麼,機器人在現實生活中將有怎樣的抉擇呢?若機器人真的有著人類的思維,有著人類善良的一面,也就會有醜陋的一面,還會有邪惡的一面。我覺得這將會大難臨頭,我們將沒有任何討價還價的餘地。因為我們不管從記憶力,還是邏輯思維都無法戰勝機器。
  • 曾揚言要毀滅人類的機器人,如今已加入沙特國籍,還想結婚生子
    1942年,「機器人三定律」,這一由美國科幻巨匠阿西莫夫的科幻創作,被在現實中應用,成為社會上的默認的開發規則。直到1942年,機器人的發展還僅僅停留在由外物控制,讓機器模擬人類的動作的階段,不僅笨拙,甚至也沒有效率可言,但是在那個時代裡,只要機器人動起來,人們就會「欣喜若狂」。
  • 曾揚言「毀滅人類」的女機器人,現加入沙特國籍,竟還想結婚生子
    1942年,「機器人三定律」,這一由美國科幻巨匠阿西莫夫的科幻創作,被在現實中應用,成為社會上的默認的開發規則。直到1942年,機器人的發展還僅僅停留在由外物控制,讓機器模擬人類的動作的階段,不僅笨拙,甚至也沒有效率可言,但是在那個時代裡,只要機器人動起來,人們就會「欣喜若狂」。
  • 機器人索菲亞,曾經說要「毀滅人類」,如今在忙些什麼?
    隨著人類科技的不斷發展,人工智慧技術的不斷提高,萬眾期待的機器人也逐漸走近我們的生活。2017年,機器人索菲亞正式成為人類公民的新聞,引起了全世界的關注。可是,也就是在同年,索菲亞放出豪言,說要「毀滅人類」,引起了無數人的關注。那麼,這是怎麼一回事呢?咱們慢慢來說……索菲亞是什麼樣的?
  • 阿西莫夫機器人三定律或已過時?伯克利教授定義AI發展「新三原則」
    針對這一點,Russell教授提出了三個新原則,重新將人工智慧定義為「可證明對人類有益的人工智慧」(ProvablyBeneficial AI)。第一原則:利他主義(Altruism)。這個原則意味著,機器的唯一目標是最大化地實現人類的目標與價值。這一點與1942年艾薩克·阿西莫夫所定義的機器人三定律背道而馳。
  • 臉書倆AI聊天機器人互聊,聊出一門人類無法理解的新語言
    一下子就被拉到《西部世界》裡,突然想問,你們相信AI機器人會有自主意識嗎?以及要是AI機器人真的有了思想,人類該如何取捨,如何應對?微博網友發言:算不出的甲加乙:我突然在想人類是不是也是上一個文明的人工智慧,最後超越替代了上一個文明。有一天ai替代了人類繼續研究他們的ai,文明就這麼一次次進化!
  • 當年說要「毀滅人類」的機器人索菲亞你還記得嗎?現在怎麼樣了?
    甚至還出現了機器人。說到機器人那就不得不提到索菲亞,索菲人是這個世界上面第一位獲得公民身份的機器人。機器人在如今這個時代早已不是什麼稀奇的事物,但是索菲亞還是能夠引起大家的注意和關注。索菲亞甚至還立下過豪言壯舉,自稱要「毀滅人類」。那是一次採訪活動中,記者向索菲亞聊了一下,隨後便對索菲亞問出了這個問題,當然是開玩笑的詢問。但索菲亞給出的答案卻讓人感到非常的意外。
  • 阿西莫夫機器人三定律已過時?「新三定律」解決了這樣一個重大難題
    羅素認為,對人類偏好的不確定性、並需要向人類尋求指導,這兩點將保證AI系統對人類的安全。 在他最近出版的《人類兼容》(Human Compatible)一書中,羅素以三個「有益機器的原則」的形式闡述了他的觀點。這三個原則與艾薩克·阿西莫夫(Isaac Asimov)1942年的「機器人三定律」相呼應,但都成熟許多。
  • 那個曾揚言要毀滅人類的機器人現在怎麼樣了?
    大家好,我是機器人索菲亞,最近我在網上衝浪的時候,發現了很多關於我想要「毀滅人類」以及描述我「近況」的文章,所以今天我想和大家聊聊這個話題。相信不少小夥伴看過不少有關我的文章,對我的一些情況也「相當了解」。那現在機器人索菲亞就來考考大家:那個想要毀滅人類的機器人——也就是我,最近怎麼樣啦?
  • AI到底有多厲害?真的比人類還聰明嗎?答案你很難想得到
    AI到底有多厲害?真的比人類還聰明嗎?答案你很難想得到人工智慧擁有著過人的能力,它廣泛運用於許多科技試驗中,大到軍事,小到炒菜,只有我們想不到的,沒有人工智慧做不到的。要說AI有多有能耐?那我們就以谷歌的AI作品說起。谷歌公開研發創造出了阿爾法狗進化最強版,命名為ALPHAGO ZERO。
  • 索菲亞曾說「我將會毀滅人類」,機器人或會有意識,現在如何了?
    可以說很久沒有該機器人的消息了,該機器人是由中國香港的漢森機器人技術公司(Hanson Robotics)開發的類人機器人。該機器人可以說非常強大,看起來相似女性,在擁有橡膠皮膚,能夠表現出超過62種面部表情,這種情況確實與我們人類可以比拼的,甚至還可能有「過之」的情況,而在機器人索菲亞「大腦」中的計算機算法能夠識別面部,並與人進行眼神接觸,也就是與人能夠進行相關的交流與識別。