如果機器可以自我思考,人工智慧是否會走向失控?

DataCastle數據城堡聯合四川出版集團、成都市龍泉驛區科學技術協會帶來《大咖說科普》，本期嘉賓為DataCastle數據城堡首席數據官張千明，重點宣傳科學普及知識，傳播創新思維理念，增加孩子們的知識儲備，做新一代強國少年。

▲班豆獨家原創視頻

策劃 | 張鵬、陳學韶、廖龑、毛敏

本期嘉賓 | 張千明（DataCastle數據城堡CDO）

編輯 | 麻豆

排版 | 何森林

後期 | 馬鈺川、何森林

指導 | 豆奶

尚學龍泉，科創未來。大家好，我是來自電子科技大學大數據研究中心的張千明，很高興能夠在班豆平臺給龍泉驛區和全省的孩子們帶來人工智慧知識的科普。

在前面幾個視頻中，我們一起觀賞了在影片中人類對於未來人工智慧的設想，以及在現實生活中什麼是人工智慧、什麼是偽人工智慧這麼一些影像資料。相信大家都會產生一個疑問，人工智慧未來究竟會發展成什麼樣子？會不會超越人類？會不會對人類產生危害？

那這些問題經過一系列的討論，可能會沉澱到更深一層的問題就是「機器會思考嗎」。因為只有會思考的機器才會掙脫人類的管束，去發展出有害於人類的這麼一種智能。

所以，今天我們談論的一個問題就是，機器會思考嗎？這個問題一直以來是人工智慧領域最難回答的一個問題，它從上個世紀五十年代就已經被提了出來，至今七十年過去了，這個問題仍然沒有得到非常準確的回答。所以呢，我也不可能通過這一期的視頻就把這個問題給大家講清楚，只是希望通過這一期的視頻能夠傳達我的一些觀點，並且希望引發大家的思考，通過一些人工智慧案例的學習，讓大家對人工智慧的本質有更加清晰的理解。

01

不同群體的討論

在上個世紀五十年代，人工智慧之父圖靈發表了一篇論文，裡面提出了一個問題就是，機器能思考嗎？在1951年和1952年，BBC連續報導了阿蘭·圖靈對此問題的討論，當然是和先賢的一些大人物們去討論機器能不能思考。

在之後的七十年裡，不管是在科學界，還是在民間，都有關於「機器能思考嗎」這一問題的討論。在專業領域的討論裡邊，都會涉及到非常專業的問題，就比如說哲學方面的問題，或者數學方面的問題。從哲學層面上來看，基本就可以包含「可以用機器代替人來思考嗎」或者說「意識從哪裡來」，那麼更深一層的就是說「知識從何而來」，「知識是如何指導我們行動的」。

那麼，對於這些問題的討論，又會延發到數學上面，產生一些新的學科。就比如說「我們如何用機器代替人的思考」，就產生了邏輯學；「一切事物都是可計算的嗎」，就產生了可計算論；以及我們現在人工智慧有很多算法的基礎，這個基礎就是我們所說的概率論。

另一類呢，就是我們普通人是怎麼探討的。我還記得我在進入人工智慧領域之前，跟一位人工智慧的師兄在討論這方面的問題，他當時就說了一些我完全不認可的話題，那個時候我的討論就十分粗淺。

02

這些需要思考嗎

機器有沒有意識？沒有意識它就不能思考？那機器都是電腦程式，是由人類設定的，又怎麼會脫離人的思想束縛呢。那麼後來有一段時間呢，就變成了這樣一些問題。它會下棋，還會作詩，還會跟人類對話、辯論，就又覺得機器是不是又可以思考了。到底能不能思考呢，我們先來看下面幾個例子。

比如說1234x5678，這個問題，需要思考嗎？會有人說，這個不需要思考，只需要去計算就可以了。

那我們來看下一個題目。這是一道高考題，如果需要把這道題做出來，那是否需要思考呢？

那我們再提一個問題，能不能基於「天府成都」這四個字去作一首詩；以及我給出一幅畫面就能寫出一篇作文；再給出一個棋盤，如果讓你手執白子，下一步該下哪裡，能不能作出一個快速的解答呢？

帶著這些問題，我們來看人機大戰。從一些具體的應用來去看人工智慧是怎樣去完成這項任務的。

03

人機大戰

人機大戰——高考

第一個就是我想要提出的高考這個例子，在2017年，有兩個人工智慧的產品去完成了北京卷和全國卷的文科試卷。其中有一個機器人，它用了十分鐘的時間完成了試卷，獲得了134分的成績。134分的成績出來之後引起了社會各界的廣泛討論，也有人去深挖這134分的成績是真是假。

所以就有人挖掘出了這個機器人的解題成績，它的解題過程是不是合理的。有人發現，它在解題過程中存在一些瑕疵，仍然獲得高分，就懷疑是不是作假。那我們先不管它是不是作假，我們單看它在其他類型的題中所取得的成績，就比如說選擇題、填空題，還有一些沒有爭議的解答題，那是不是能說明它能夠去做題呢？

不管怎麼樣，我們還可以去看另外一個例子，另外一個產品呢，它是在大家監督的情況下去完成了答題和最後做一個批改。這是人工智慧在高考領域它能取得的一些成績，這時候我想問，機器能思考嗎？

人機大戰——醫療

人工智慧在醫療方面的應用。醫療一直以來都是一個非常就敏感的話題，也是人工智慧很難涉足的一個領域。誰都不願意把自己的生命交到一個冷冰冰的機器手裡，這是一個很難逾越的障礙，因為覺得機器犯起錯來，可能命都沒有了。

我曾經去跟身邊的一些醫生朋友聊過天，他們對於人工智慧的接受度要超過我們的想像，為什麼呢？因為他們清楚，人工智慧的功效能夠達到一個什麼樣的程度。

人機大戰——創作

第三個人機大戰的例子，我想說一下創作，當然這裡的創作呢一個是看圖寫作，一個是給定主題寫詩。從微軟的第一個人工智慧產品開始，它就可以通過對一幅畫裡面的人物、景象作一些解析，然後去編出一個故事。

在這裡，我給出了一個例子，大家可以看到這是一張非常開心的人的圖像，微軟的這個產品基於這幅畫寫了一個驚悚的故事，裡面涉及到了一些十分恐怖的事情。從這個角度來講，它是不是開始有了一些創作的思想在裡面，因為它編出的故事好像與這幅圖像相距甚遠。如果讓我去給這張圖片編一個驚悚的故事，至少我是不知道該怎樣去編寫的。

另外一個例子是川小妹，這是微信上的一個小程序。在這個小程序上，你輸入任何的比較常見的詞語，它都會基於這個詞語給你作一首藏頭詩。就比如說「天府成都」，你讓我去作一首詩，一天、兩天我都不一定能作出一兩句來，但它只要幾秒鐘就給你生成一首看起來有點意思的詩。

人機大戰——對抗

那麼最後一個例子呢，我想給大家展示的是對抗，對抗的第一個案例就是圍棋。大家肯定都記得AlphaGo和李世石大戰的那一天，以及和柯潔大戰的那一天。

第二個我想說明的例子是辯論，辯論不管是從語言的表達還是邏輯的比拼，它都是人類歷史上最能展示人類語言能力的競技場。那對人工智慧來說呢，它能做到什麼樣的程度？這個Project Debater就是一個非常厲害的人工智慧辯手，它在跟人類的辯論過程中，它能夠做到論點清晰、論據充實、邏輯嚴密，不亞於專業的辯手。

04

依賴於機器的「大腦」

我們生活中大家所討論的人工智慧的大腦，這個大腦是什麼呢？簡單來說，這個大腦就是一系列的機器學習的算法模型，包括決策樹、支持向量機、人工神經網絡……有非常多的算法在。

神經網絡是一種模擬人腦的神經網絡以期能夠實現類人工智慧的機器學習技術。

深度學習是用於建立、模擬人腦進行分析學習的神經網絡，並模仿人腦的機制來解釋數據的一種機器學習技術。

或許有同學說，這還是太抽象了，那我們還可以再做一下簡化，嘗試把這個問題轉化成我們生活中常見的一個問題。

這裡呢，我提了三個問題。我們先看第一個問題，找規律、填數字。0，1，0，1，0，1，0，1，0，1，（），（）。幾乎所有人可以脫口而出，就是0和1。

第二個就是拋硬幣，我得到的結果是：正，反，反，正，正，正，反，正，反，反，正，正，反，正，反，反，（）。直到最後，有人說，它有一半的可能性是正，一半的可能性是反。

那麼我們再看第三個呢，就說是：正，正，正，正，正，正，正，正，正，正，正，正，正，正，正，正，（）。那最後填什麼呢？這個時候，還是有同學說這個不確定，有一半的可能性是正，一半的可能性是反。如果有同學說一定是正，那麼你對於人工智慧預測的這個思想有了一個初步的了解。

那我們就可以把這個問題分成兩類，第一類是問題一和問題三，他們都有非常強的規律；第二類就是完全隨機的情況，完全不知道未來的情況是什麼。

05

機器會思考嗎

人工智慧或者算法模型的一個核心的目的就要要去找到這種規律，然後去對未知的事物進行預測，這種預測不是百分之百準確，而是存在一定的隨機性。那麼我們可以簡單總結一下，我們現在的人工智慧的這種思想基本上是在現有的信息基礎之上，依照一定的方法或規律對未知的事物進行預測。

機器會思考嗎？不知道現在大家是否有了自己的答案，那我自己來講的話，從原來沒有接觸人工智慧，到現在接觸人工智慧，並且作了一定的研究，我的思路是越來越清晰了。我現在也認識到，這個問題，需不需要回答呢？

我們可以看看當初提出這個問題的圖靈是怎麼回答的。圖靈作了一句回答，大概就是「機器能思考嗎，我相信這個問題不值得思考，不值得去討論」。

我希望大家不必為此問題去糾結，更重要的是去看一看我們人工智慧的發展是什麼樣的，通過去思考人工智慧是怎樣去解決這些問題的，從而提升對人工智慧的認識。如果能做到這些，我們本節視頻的目的也就達到了。

那麼在下一節的視頻裡邊呢，我想給大家帶來開篇所提到的這些問題，人工智慧會超越人類嗎？人工智慧會傷害人類嗎？面對人工智慧的發展，我們要怎樣做呢？

以上就是本期的主要內容，請大家繼續關注，了解更多科普知識。

- DataCastle -