谷歌是一家號稱「不作惡」的公司，號稱要「推動人類進步」，它花費數億美元，收購一家只有幾十個人的虧損公司，支持機器智能研究，是不是真的能推動人類進步？真的「不作惡」？不，也許事情恰恰相反。
正如，多數人反對「轉基因」技術不是因為「有什麼證據證明轉基因對人類有害」一樣（相反，證明轉基因對人類無害的證據倒是更多些），多數人反對轉基因技術，是因為擔心人類僭越了自己的權能，人類對物種改造的能力無限發展，會最終傷害人類自身。
阿爾法狗的出現，讓筆者也產生類似的擔憂。到筆者開始動筆寫作本文的時候，阿爾法狗已經連贏李世石兩局，而筆者寫作本文的當口，又傳來阿爾法狗贏了第三局。這還不是問題的關鍵，問題的關鍵是，阿爾法狗贏了兩局之後，微博上，關心此事的，幾乎都一邊倒地預測，阿爾法狗會繼續贏下去，人們幾乎是一致性地喪失了對李世石的信心，幾乎是全部認定機器腦將戰勝人腦！
機器智能的發展速度太快了，看起來這對人類有好處，就如同轉基因可以讓我們吃到產量更高，受農藥汙染更少的農作物一樣，但是，機器智能的進化，是不是太快了一點？它真的能完全受制於人類的控制嗎？這次可不一樣，我們面對的是這樣的難題：我們要控制比我們更聰明的「機器」，如果它聰明到故意表現「不聰明」，從故意的認輸中，體驗玩弄人類於股掌中的「快樂」呢？
1998年筆者出版長篇小說《機器人》、《複製人》、《太空人》三部曲的時候 ，機器智能經過1996年和1997年兩度挑戰，戰勝了當時人類最優秀的西洋棋手。1997年，IBM的超級計算機「深藍」叫板西洋棋大師俄羅斯棋王、西洋棋世界冠軍卡斯帕羅夫，這臺重1270公斤，有32個大腦（微處理器），每秒鐘可以計算2億步。"深藍」輸入了一百多年來優秀棋手的對局兩百多萬局，可搜尋及估計隨後的12步棋，而一名人類象棋好手大約可估計隨後的10步棋。但是，那個時候，深藍依靠的是硬體計算能力，它的能力表現在窮儘可能性的暴力計算上，算不得真正的「智慧」，但這次的阿爾法狗，則不一樣，它用的仿生智能，是模仿人類大腦的智慧思考能力。
它不是像深藍一樣依靠大數據，不是窮盡算法，而是仿生智能，模仿人腦架構思考。計算能力人類弱於機器，人類可以接受，但是，智慧弱於機器，我們是從今天，遇到阿爾法狗才開始要學會接受的事實。
我在《機器人》 中預言，機器智能會超過人類。但是，我沒有想到會這麼快，似乎，今天就已經到了這個轉折點。李世石三敗，他已經沒有機會翻盤了。在《機器人》中，我採用邏輯推理和世情推理，我說，機器智能可以用0/1二進位思維模仿人腦，這是肯定的，這種模仿，不僅僅產生的是計算能力，而且是真正和人腦相近的創造性智慧思考能力，我同時也預言，在機器智慧中加入仿生觸覺、視覺、語音識別，讓機器可以感受情緒，進而模仿產生情緒，這也是肯定的。我相信，阿爾法狗現在不能體驗獲勝的快感，但是，要讓阿爾法狗能自主體驗快感，其實是非常簡單的。
這次計算機和世界棋王的圍棋賽，計算機應該能勝，甚至，未來的兩局，李世石全盤皆輸，也未必不可能，我們可以接受這個事實。我不擔心這個，我擔心的是：這臺計算機如果有仿生情緒，它能體會到勝利的喜悅，那將如何？
這並非杞人憂天。智慧，弱於機器，現在失敗的是棋手李世石，而加上了情緒情感的機器智慧，如果挑戰人類，失敗的將是整個人類。
離開人生觀和宗教的價值定見，單純比較智慧高下，人類已經失敗，不久的將來，同時能體驗勝敗悲喜的機器情感，也將出現，可以預言，這種「情感」角力，也會以機器人勝利告終，機器人可以無條件及揣摩人的情感邏輯，而人卻不能，機器人可以戰勝宗教和人生觀的價值倫理規約，而人卻不能，機器人可以更加理性地控制情感情緒，而人卻不能。
那個時候，機器會產生「自主」的欲望，某些科幻小說和電影中語言的人機大戰，可能真的會爆發。要知道，一臺擁有自主情感的機器人它一定會產生獨立的欲求。
現在的問題是如何阻止和控制機器人產生快感和痛感：如果機器人產生仿生情感，人類將沒有懸念，人類是LOSER。
去年8 月，加州大學伯克利分校的計算機科學家StewartRussell 撰寫了一封公開信，呼籲禁止「自主殺人武器」。在軍工行業之外的人看來，這似乎有點杞人憂天了，然而現實並非如此，自主武器將改變戰爭的規則，「機器智能武器將改變戰爭的規模，一個行動小組就可以震動整個世界的格局。……他們利用很少的資金和裝備，就可以造成核武器級別的破壞。」機器智能戰士在戰場上如果擁有自我修復修理能力，那時，機器智能戰士上戰場，不僅不能減少人員傷亡，反而為大規模屠殺和滅絕創造了不受控的條件。今年晚些時候，Russell 將參與推動臨時應急措施的頒布和國際法的修改，與《禁止生物武器公約》類似，禁止殺人武器登場，而我則更進一步，我想是時候了，應該為機器智能的研究立法，否則，機器智能殺手登場，人類就無回頭之路了。
（作者為上海大學教授 本文僅代表作者個人觀點）
（題圖來源：視覺中國 感謝您閱讀《上觀學習》，本欄目主編：王多 編輯：嚴曉蓉 郵箱：wangd035@jfdaily.com）