人工智慧實驗室 發表於 2020-11-23 09:28:40
超級人工智慧與我們今天所知的軟體不同，我們傾向於認為軟體是我們在計算機上編程以遵循我們所制定的一些規律的東西，也就是說，我們讓它們遇到什麼情況的時候，該怎麼運行，那它就必須怎麼運行。
可是實際上，藉助先進的AI跟機器學習方法，它們終將教會自己該如何「生活」跟如何去改善「生活」。
當它們有了這些基礎的能力，也就相當於說它們擁有了半個意識，這其實也就意味著它們已經擁有了可以背叛人類的能力。
因為無論我們怎麼去給它們設定程序，怎麼去制約它們，怎麼想方設法的阻止它們聯通網際網路，把它們關起來避免它們變得更加的智能，但最終的結果必然還是會失敗的。
這就跟蜜罐策略一樣，你不想讓它走出它被你限制的區域，但卻又因為各種無可避免的問題而不斷地「引誘」它走出來，使它們自然而然地朝著一種想要獲得更多動力的方向去做出一些行動，最終的可能就是它們會突破，並完成它們在人工智慧上的那種裡程碑式的「進化」。
而對於這種「進化」的結果可能就是它們在智力上得到飛躍式的提升，可在智慧上卻遠比不上人類。
因為智慧的本質，更多的是在犯錯的之後獲得的一種認知，然後將這種認知放在事物未來更長的演化時間線上，確保問題不會因為只考慮一些臨時的解決方案而忽略後期可能遺留下什麼災難性的問題。
比如假說我們讓人工智慧去處理一些饑荒的問題，站在它們的角度去思考，可能最簡單有效的方法就是將人類全部殺光，這樣也就不存在飢餓了吧。
可是這種結果完全不是我們想要的，因為我們還有一些它們僅通過學習訓練智力也無法擁有的一種叫價值觀的東西。
對於這種情況，其實我們未來要發展人工智慧，那必不可少的就是如何先給它們創造出一套類似於人類的價值觀，然後讓它們遵循道德的準則，並以我們所認為的智慧方式去解決問題，而不是在任何行動之前，僅考慮把問題解決了就完事了。
那麼，對於人類價值觀的問題，這要怎麼在未來的人工智慧上體現呢？也許我們的未來會無可避免的去形成一種趨勢，人工智慧未必全部都是從無到有的誕生出來的。
如今，不知道有多少人已經開始意識到了，其實我們大多數人已經成為了半個機器人。我們越來越缺乏生物該有的特徵，而我們的本身卻越來越被迫的智能化。
我們已經把注意力放在了非生物的東西上，比如說你正在通過看的這個視頻，而手機就是我們拼接在身體上的拓展，跟我們的手腳一樣，它可以在很短的時間內幫我們解決很多的問題，沒有它的話，生活處處是麻煩。
想像一下，假如我們能夠在自己的大腦跟網際網路之間建立一個高速的寬帶連結，那麼我們是不是幾乎就可以跟人工智慧一樣，能夠隨時隨地的獲取地球文明所積累下來的全部知識，然後運用它們使得我們的智商也驟然的提升好多個數量級呢？
我們的大腦由兩個系統組成，一個是負責我們的基本情緒跟生存本能，而另一個則是負責以理性思維來解決問題的意識。
如今我們即將可能會多出來的第三個系統就是人工智慧，這種人工智慧可以籠統的理解為「神經花邊」，意思就是外掛於大腦之外一切智能硬體跟智能軟體。
它們的存在使我們可以用大腦來訪問世界上所有可用的信息，並且以光速傳遞來做到立即訪問到的那種。
也許正因為這樣，人類最終有可能會拋棄自己終究會老死的身體，並轉向於活在這個自己所創造出來的人工智慧的世界中。
當然，這條路還有很長的路要走，但並不意味著我們現在完全不需要考慮到它發生的可能性。
想像一下，萬一哪天這種人工智慧的技術真的實現了，它們運行幾個月的時間所得到的就相當於單靠人類自己需要幾十萬年才突破的技術，那世界將會是種什麼樣的景象？
不過我們可以換個角度來思考，這些推理上可能會發生的未來，實際上也不一定就是真的會發生，因為未來再聰明的人工智慧，可能也無法突破宇宙中的一些基本的物理規律的限制。
責任編輯：YYX
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容圖片侵權或者其他問題，請聯繫本站作侵刪。 侵權投訴