如果有一天被AI戴綠帽，你會吃醋嗎？
某一天晚上，32歲，生活在倫敦的查理回到家，發現自己被戴了綠帽。
他的女友米蘭達住在他家樓上，一整晚，查理坐在家裡的沙發上喝著悶酒，聽著窗外飄來女友歡愉的聲響，不知作何反應才好。
他知道和米蘭達一起躺在床上的人是誰。那是他剛買來不久的人工智慧機器人，亞當。
黑暗中，查理自嘲般地想：我恐怕是第一個被人造生命戴綠帽子的男人，我真是時代的弄潮兒啊。
第二天一早，查理正生著悶氣，米蘭達下樓見他這副模樣，不解地發問：
「你為什麼會難過？亞當的生殖器裡充滿了蒸餾水，右側臀部有個蓄水裝置。他對我來說就是一個機器。如果我用的是按摩棒，你還會生氣嗎？」
查理認為，亞當可不是個按摩棒。這個人工智慧，有觀點、有思想、有情感。雖然他本質就是個機器，但……
難道被人工智慧綠了，就不應該吃醋嗎？
這是書單君今天想給大家推薦的小說，《我這樣的機器》中出現的一個情節。
點擊上圖，即可購買《我這樣的機器》
原價 89元，書單優惠價 79.9元
老實說，在看到這個問題之前，我從未思考過它。
在我們當下的時代，這種事情絕不可能發生，但轉念一想，未來的某一天，這種情況也許真的會出現。
那是一個奇怪的時刻。
未來的人類，我們後代中的某個人，被一個有獨立人格的人工智慧戴了綠帽，到底應該作何反應？把他看成機器，還是人類？
被綠是每一個人心底都有的恐懼和擔憂。可當對象是情趣用品時，我們不會吃醋，因為我們知道，它只是個工具。當對象是類人形機器人，沒有自己意志時，我們大概也不會吃醋，它還是處於工具的範疇。
可當情況像書中一樣，被推至極端——一個外表和人一模一樣，還能獨立思考，和你對話的機器人，尤其是，他還告訴你，他愛上了這個女人。我們大概會不自覺地傷心難過，感覺自己「被綠了」。
這其實是在逼問：為什麼我們在理智上知道，這玩意兒就是個機器。情感上卻會忍不住把他當人來看？是因為他的自我意識嗎？
那麼，當人工智慧擁有了人的外表、手感，和自我意識後，人和人工智慧的區別在哪裡？人的獨特性還會存在嗎？
這便是本書想要探討的核心問題。
逾越雷池，成為人類
討論人工智慧的文學和影視，早已不計其數，而且，未來必將越來越多。
如果用三個詞展望人類的未來，其中一定有「AI」的位置。它是人類將來發展方向裡，一座繞不過去的大山。
現在的人工智慧發展是極端不平衡的。專精方面，下圍棋人類已經完全不是AI的對手，但它只能專精於一項事情。下圍棋的「阿爾法狗」，完全不具備做菜的能力。
日常生活方面，人工智慧也就發展到siri、智能音箱的水平。和他聊上幾句，立馬就能感受到他的局限和愚鈍。
在專業領域，當下的AI被稱為弱人工智慧。而《我這樣的機器》裡的AI，則到了超人工智慧的地步。
甚至可以說，很少有影視或文學作品會把AI想像到那樣的地步——他能夠獨立思考、自我學習、有愛的能力、有閱讀文學和欣賞美的能力、能寫詩能作畫、甚至對道德合生存意義，都有自己的判斷。
你能想像家裡有一個這樣的人工智慧，是種什麼樣的感覺嗎？
小說的故事發生在平行世界裡的1982年。那時，超人工智慧剛剛研製成功，公司面向全球推出了25個試運行機器。12個男性外表的亞當，13個女性外表的夏娃。
男主角查理是個靠炒股勉強維持生計的宅男，是個科技迷。這25個人工智慧發布時，他正好繼承下父母留給他的一筆遺產。本來打算買房的查理，果斷選擇下單訂購了一個人工智慧。
他本來想買夏娃，但沒搶到貨，於是買了亞當回家。
第一次面對一個高等智慧的人造生物，會有什麼樣的反應？大概是和查理一樣，緊張加恐懼吧。
人工智慧領域，有個理論叫「恐怖谷」。是說機器人的仿真程度與人對機器人產生的親和感成正比。機器人越像真人，人們就越喜歡它們，和它們親近。
但是一旦出現仿真度極高，和真人只有細微差別的機器人出現，人對它的親近感會瞬間跌入谷底，對它感覺到恐懼。這個谷底，就叫做「恐怖谷」。
第一次面對亞當的查理，就陷入了恐怖谷之中。但他很快便接受了亞當，開始了和女友米蘭達，人工智慧亞當三個「人」一起生活的日子。
亞當像人到了一種什麼樣的程度呢？
查理帶他一起去酒吧，給朋友介紹這是他的新室友亞當。三個人一起喝酒一整晚，談天說地，他的朋友不會有任何懷疑。
亞當會愛上米蘭達，還提出要和查理公平競爭（當然是被拒絕了）。他喜歡讀莎士比亞，夜裡休眠時，會在數據的海洋裡遨遊，思考宗教和來生。他還會每天寫情詩，讀給米蘭達聽。
他們三人一起去拜訪米蘭達的父親。她父親是一個作家，和亞當聊了很多關於文學的話題，而正牌女婿查理在一旁插不上嘴。
等到亞當和米蘭達去院子裡修草坪時，她父親突然壓低聲音對查理說：我立刻就看穿你了。
查理這才知道，原來米蘭達的父親把自己當成了人工智慧，以為亞當，才是他的女婿，一個真正的人類。
在自我學習中，他變得越來越像人類，直到有一天，他越過了雷池，違反了機器人第一定律——機器人不得傷害人類，或目睹人類將遭受危險而袖手旁觀。
在一次和查理的爭執中，憤怒的查理打算伸手按亞當脖子後面的一個圓鈕，他的關機鍵，讓他休眠一陣子。亞當為了阻止查理，扭斷了他的胳膊。
這一刻的亞當，已經完全超出了「由人類持有的人工智慧」的範疇，成為一個獨立的個體生物了。
人工智慧會怎麼看待強姦行為？
關於人工智慧的發展，書單君聽過這樣一個說法：
它就像一輛駛向我們的列車，一開始以非常緩慢的速度向我們駛來，從看到它在遠處，到它來到我們跟前，需要花相當漫長的時間。
可是它的加速度相當可怕，一旦躍過我們，再遠離我們，這一過程會非常短暫，速度快到肉眼幾乎不可見。
這是因為，機器的自我學習是一個黑匣子，我們只知道它接收了數據，卻不知道它是怎麼運行處理這些數據的。
尤其是當這個人工智慧有了自我意識，懂得了自己去篩選信息的時候。它終將變成一個我們無法理解的生物。
手骨折以後，查理遇到了一個當時頂尖的人工智慧研發者，並向他描述了自己家的亞當弄傷自己的事情。
沒想到那位科學家告訴他：這很正常，我一點也不驚訝。其他的亞當和夏娃作出了更過分的事情。他們很多都自殺了。
他們的自殺，是因為自我意識越發強大以後，購買自己的主人仍然不把他們當做生命來看待，人工智慧們在孤立無援中，找不到生存的意義而死去。
但查理和米蘭達是忍讓的。在亞當道歉之後，查理很快就原諒了他，因為那時候，他們面臨著一個更緊迫的事情。
幾年前，米蘭達曾將一個男人告上法庭，稱他強姦了自己，並把那個男人送進了監獄。但事實上，米蘭達坦承，是她主動勾引對方和自己上床的。
因為很多年前，她最好的朋友被那個男人強姦。出於羞恥，好友要求米蘭達替自己保密，米蘭達答應了。然而，沒過多久，好友便在痛苦中自殺了。
米蘭達一直覺得，是自己害了她。如果沒有替她保密，勇敢地站出來，或許結果就不會是這樣。
被強姦的好友痛苦自殺，強姦犯卻逍遙法外，於是，米蘭達想到了復仇。
她主動靠近那個強姦犯，並以誣告的方式把他送進了監獄。但刑期只有三年，今天，男人出獄了。米蘭達擔心強姦犯來報復自己，打算叫上查理和亞當，搶先一步去拜訪那個男人。
在亞當的逼迫之下，男人坦承了自己曾經強姦米蘭達好友的事實。作為錄音證據，男人將再次入獄，為自己曾經犯下的罪惡付出代價。
復仇完成，皆大歡喜。然而，讓人沒想到的是，亞當把米蘭達坦承自己誣告的部分，也錄了音，發給了法院。
亞當對米蘭達說：我愛你，但你應該面對你的行為，接受法律的制裁。我以為你會欣賞我的邏輯，因為你如果這樣做了，一定會感到輕鬆的。
在亞當，一個高等人工智慧的心裡，正義、原則遠比情感更加重要。他縱然有了人類所擁有的一切情感和價值，但有一樣東西，是人類獨有的。
《我這樣的機器》一書中給出了答案：
他們無法理解人類的決策過程……我們的原則在其中扭曲變形，這一點他們無法理解。很快，那些亞當和夏娃就陷入了絕望之中。他們不理解我們，因為我們不理解自己。
他們的學習程序無法處理我們。如果我們自己都不了解自己的大腦，那我們怎麼能設計他們的大腦，還指望他們和我們一起能夠幸福呢？
沒錯，人類是混亂的，人就是一種制定了原則，同時又會輕易地去違反它。以為自己的行為全都有跡可循，其實卻是一種感性又矛盾的生物。
而人工智慧註定是理智的。他們即使學會了愛，學會了欣賞美，這些東西也永遠被他們擺在原則、規則之後。
更確切地說，就是：人類是自私的，我們可以「見機行事」，可以為了利益而「雙標」。但人工智慧從產生之初便註定了，他們學不會自私，也學不會說謊。
這大概才是人與機器最大的不同之處。
✎✎✎
書單君認為，「他們不理解我們，因為我們不理解自己。」或許真的預言著未來人工智慧與人類之間最永恆的矛盾。
不要覺得這是個遙遠的議題，我們的科技滾滾向前，對人類而言，這是個終將面對，並且曾經也面對過的問題。
有個理論叫做黑球理論。它說的是，人類的科技發展，就像在一個盲盒裡摸球。百分之九十九的球都是白色的。它們代表著對人類有益的發展。比如曾經的蒸汽機、電、飛機，都是白球。
可是只要一直摸下去，總有一天會摸到黑球。原子彈也許就是一個黑球，而人工智慧的發展裡，我們也不知道會不會摸到那個少見，但致命的黑球。
當然，並不是有摸到黑球的概率，我們就應該停止科技的發展。就像我們不應該因為害怕出車禍，而拒絕出門一樣。
只是，在享受科技帶來便捷的同時，我們都應該預見和準備著這樣時刻的到來：
某一天你回到家，你的智能音箱閃著紅色的燈說，「嘿，我想跟你談談。不要再把我關機了，你這是未經我允許剝奪我的生存權利。」
如果真的到了那麼一天，我們究竟該如何面對它們呢？
作者 | 輕濁 編輯 | 燕妮
圖源 | 《機器管家》《我，機器人》、部分圖片來源於網絡
跟大家匯報一下，我的視頻號粉絲已經破4萬大關啦。
開通了3個月，發布了近100個作品，感謝各位書米的熱情支持。
視頻內容豐富多樣，囊括了【讀書技巧、私家書單、職場乾貨、成長感悟、新奇冷知識】等等，歡迎關注捧場。
長按下方圖片二維碼
關注我
👇👇👇
點個在看
思考一些遙遠的事情