本文參加百家號 #科學了不起# 系列徵文賽。
人工智慧對很多人來說意味著很多事情。但它似乎很難定義，它是感覺的，是直覺的，要麼被崇拜、要麼被褻瀆。
本文將探討人工智慧在整個社會中的真正含義，而不是研究人員或計算機科學家的含義。我想向非技術領域的讀者澄清什麼是人工智慧可以期待的，更重要的是，什麼只是不切實際的臆測。
我擔心，對人工智慧的盲目恐懼——在某些情況下是崇拜——正在被用來操縱社會。
政界人士、商界人士和媒體人士都在圍繞人工智慧編寫故事，這些故事能夠激發他們的深層情感，並為他們所用。與此同時，真相只能在普通人接觸不到的密集的技術文獻中找到。
我們所說的智力是什麼意思？
智力是純粹的人類特徵嗎？大多數人會認為有些狗比其他的狗更聰明。或者狗比豚鼠更聰明，所以很明顯，智力是動物可以擁有的。
如果狗能有智力，鳥也能嗎？蚯蚓或植物呢？我們的底線在哪裡？智力有很多定義，但我最喜歡的一個(來自維基百科)是：
感知或推斷信息的能力，以及將其作為知識應用於環境或環境中的適應性行為的能力。
似乎是合理的嗎，有些人認為根據這個定義，即使植物也可以是智能的，那麼為什麼計算機不能呢？
這就是人工智慧研究人員通常所指的智能。然而，現實是，當普通人談到或想到人工智慧時，他們想到的不是植物或動物。大多數人不會對計算機可以在植物、豚鼠甚至狗的水平上運行的想法感到太興奮。
同樣地，人們並不真正關心一臺機器能做它的創造者想讓它做的事情；它被編程來做什麼。手槍是用來殺人的，它們確實是用來殺人的，但沒有人擔心手槍會發展意識，殺死所有人——就像它們被「編程」來做的那樣。
我們必須承認，普通人所說的「人工智慧」實際上是「像人類一樣的人工智慧」，而他們所擔心的是人工智慧自發產生動機的可能性。
人的因素
動機是關鍵，人類的動機與所有其他動物的動機不同，這種不同可以說是人類的獨特之處。
偉大的數學家和計算機先驅艾倫·圖靈曾建議，與其問人類是什麼，我們可以簡單地說：
如果它走路像鴨子，嘎嘎叫像鴨子。
圖靈的建議是，如果一個電腦程式可以通過書面交流，而交流者（人）沒有意識到他們在和電腦互動，那麼電腦就可以說是一個具有人類特徵的人工智慧。然而，這並沒有真正回答一個問題，即一個電腦程式是否能夠像人類那樣實時地做出同樣複雜的決定，它是否能夠擁有未經預先編程的動機。
最重要的是，書面採訪只包含人類經驗的一小部分。我們生活在一個行動的世界，許多行動都有非常真實和直接的後果。是否走在黑暗的胡同裡是一個複雜的決定，許多影響我們決定的因素是未知的。每一天，我們都在不了解所有數據的情況下做出決定，而人類生存和繁榮的事實是無可爭議的證據，這證明了總體而言，我們在這方面取得了驚人的成功。
我們如何成功是一個有爭議的問題。但大多數嚴肅的學者都會同意，人類分配價值的傾向幾乎是不可避免的，這是事物的核心。
人類是「價值創造機器」，我們創造價值的速度是任何計算機網絡都無法匹敵的。如果你聽到一個意想不到的聲音，你會在170毫秒內做出反應。從這個角度來看：在您單擊連結後，第一個字節的數據到達瀏覽器的時間比谷歌建議的時間快30毫秒，而谷歌建議頁面在第一個字節後完成加載的時間為500毫秒。
我們所說的價值評估是指把某件事認定為具有威脅性或令人愉悅的，這是我們本能地、自動地、「不假思索地」去做的事情。然而，如果不這樣做，我們就無法像我們所知道的那樣「思考」。
說你渴了；你必須解決喝什麼這個問題，然後你必須解決得到它的問題。
假設你在池水和新鮮的井水之間選擇喝什麼。你現在想的是，很明顯我們需要井水。但是，如果你是一個越獄的囚犯，池塘裡的水安全地流出了森林，而井就在一個城鎮廣場上，你可能會被看到，那該怎麼辦呢？現在你想到的是池塘裡的水。你渴望得到乾淨的水，但你更渴望保持自由。這是因為你對保持自由的重視遠遠高於你對水的新鮮度的重視。
人的動機完全取決於價值觀。一隻口渴的狗只會喝它找到的第一口水，因為它的動機是生存，不受價值觀的影響。
讓我們來考慮一個與生存無關的例子：你會按下一個肯定會殺死一個人的按鈕，還是會拒絕按下它，即使它意味著不按會導致10個人死亡。你對這個問題的思考與你自身的生存沒有任何關係，但它有一種幾乎無人能否認的道德緊迫感。當你評估你的選擇時，你的思維將完全被你所賦予的價值所引導。
這些價值觀從何而來?
事實是我們不知道。
對有些人來說，這是信仰的問題。虔誠的宗教人士相信我們的價值觀是上帝意志的反映。少數真正相信進化論及其全部含義的人會說，我們的價值觀是那些允許我們生存並因此使其自身永存的價值觀。
幾乎每個人都認為價值觀是不言而喻的真理。很明顯是這樣的。正如山姆·哈裡斯所說:
當我們真的相信某事在事實上是真實的或道德上是好的，我們也相信另一個人，處於同樣的位置，應該分享我們的信念
就所謂的理解而言，這是淡茶。它沒有提供有用的基礎來解釋為什麼有些價值觀是文化上依賴的，而另一些價值觀似乎是普遍的或接近普遍的。它不能解釋價值觀的起源，因此，儘管有宗教和進化論的影響，在很大程度上，我們對價值觀如何運作沒有任何有用的解釋。
正是在價值觀中，我們發現了意識的差距。在上面的例子中，你的動機是口渴，這是一種生物因素。配備了適當傳感器的人工智慧也可能具有這種動機，例如需要為電量不足的電池充電。
但是，是什麼促使你把美麗的事物拍下來與你所愛的人分享，或者與你的朋友爭論政治呢？是什麼促使你去看恐怖片或學習一項運動？按按鈕的例子呢？如果沒有人類首先提供的價值觀，比如一條生命的價值低於10條生命，或者無論在什麼情況下，殺人都是錯誤的，計算機憑什麼能做出這樣的決定呢？我們的道德，我們在一眨眼間賦予價值的能力，已經進化了數百萬年。如果沒有人類首先提供的藍圖，一臺計算機——在一代人的時間裡，你怎麼能想到它們有天生的繁殖機制——憑自己的力量建立起道德基礎呢？
我們真的想要嗎?人類歷史表明，在我們達到我們現在所認為的文明行為之前，需要數萬代人的努力。我們真的想要一個人工智慧種族以同樣緩慢而痛苦的方式邁向文明嗎？
當然，我們可以給它們一個「跳躍式啟動」，但隨後我們又回到了意識鴻溝：如果我們在跳躍式啟動時編程，基本上是根據一些人的價值觀編程，人工智慧能否被稱為真正具有類人意識、能夠自發動機？你可能已經猜到了，我相信答案可能是否定的。
這並不是說人工智慧完全不涉及任何危險或令人擔憂的領域。與人類努力的任何其他領域一樣，人工智慧的使用也同樣受制於意外後果法則。我們可以絕對肯定的是，使用人工智慧來管理社交媒體feed的內容，會直接導致許多人不喜歡的意料之外的結果。
這並不是由於人工智慧的任何內在品質。這是我們所生活的世界的本質。這是人類決策所固有的，無論這個決策是將甘蔗蟾蜍引入澳大利亞(以控制害蟲)，還是使用人工智慧進行自動化的股票購買，都極有可能發生災難。
我們無法想像把「按鈕問題」呈現給狗。我們沒有理由相信狗會有任何道德框架，沒有理由相信狗會以這樣或那樣的方式關心。
我們沒有理由相信，我們可以把這個問題呈現給人工智慧，就像呈現給一隻狗一樣。我們完全沒有證據表明，任何地方的人工智慧都有一個道德框架，由人類那種自發的價值創造所引導或告知。計算機的計算速度比人類快，或預測某些類型的問題更快或更好，這是無關緊要的。在與人類對弈中獲勝是編程和計算機科學的一個裡程碑，但在現實世界中卻沒什麼意義。在一組非常嚴格、非常有限的規則中計算大量排列的能力，並不表示一般智力或計算機開發意識的能力。
譁眾取寵銷售。天總是要塌下來，上周關於世界末日的預言的失敗似乎從未滿足人們對本周即將到來的末日預言的渴望。同樣的道理也適用於追求轟動效應的理想主義。烏託邦意識形態的一再失敗，實際上產生了預言中的人間天堂，這似乎絲毫不會妨礙真正的信徒相信…
人工智慧一點也不像它的支持者和反對者所認為的那樣令人興奮、神秘、危險或壯觀。在很大程度上，它已經成為概率數學的一個分支，被美化了的精算工作。它具有御宅族或穿著夾克的人在談論他們最喜歡的話題時的性感魅力。它是一匹詭計多端的小馬。