微信ID:sanlianshutong
『生活需要讀書和新知』
從物理學上說，一臺機器不可能完全無誤地複製自己。同樣，沒有了邏輯矛盾，也許人類就無法完全理解自己。然而，複製過程中的錯誤帶來的突變是進化所必需的，物理機器之所以能夠進化，恰恰正是因為它們自我複製的過程並不完全精確。生命的本質並非完美的自我複製，而是近乎完美卻略有微瑕的自我複製。因此，即便不能獲得完整、邏輯上自洽的自我認識，或許我們也不必失望，因為這不見得是件壞事。
*文章節選自《智能簡史》（[韓] 李大烈 著 三聯書店2020-9）。文章版權所有，轉載請在文末留言
Painter, Shepherd, the City我們人類真的能夠完全了解自己嗎？像人腦這樣一個實體機器，有沒有可能完全理解其自身的工作原理？古今無數哲學家都強調自知自省的重要性，對此最好的例證或許就是古希臘箴言「認識你自己」。許多古希臘人——包括大哲學家蘇格拉底——都將這一箴言奉為圭臬。中國古代哲學家、軍事家孫子也曾寫道：「知己知彼，百戰不殆。」正如孫子所說，自我認識有許多切實可見的好處，這是因為，了解自己需要什麼、能夠做到什麼，對於我們規劃未來十分重要。從社會科學、自然科學到人文科學，人類也在探索各類知識的過程中，力圖理解人性。從這方面說，人類可能是獨一無二的。在生物學意義上，人類和猿類具有相似的腦，大多數基因也相同。從行為上看，人類也不是唯一的社會性物種，因為許多其他動物（包括昆蟲在內）都在複雜的群體中生活。但是，沒有什麼其他動物像人類那樣，對自身充滿了好奇。自我意識（self-awareness）和自我認識（self-knowledge）也許是智能的最高形式。生命是自我複製的過程，而智能則是做出有利於自我複製的決策的能力。此外，儘管不同物種之間存在很大差異，但所有生命形式從根本上說都是社會性的。即使最孤立的生命形式在繁殖時也需要和其他個體進行互動；這樣一來，它們就因為要分攤資源，而存在潛在的衝突關係，而這種關係要持續到父母與後代分離為止。隨著社會規模及其複雜性的增長，社會決策需要更多信息，學習也就更為重要。在人類社會中，與他人合作並施以幫助的能力能讓我們避免不必要的衝突，因此，運用心智理論對他人的意圖進行適當推斷的這一能力也就變得至關重要。這就引發我們思考一種可能性：在複雜社會中生存要求我們能夠理解他人，而自我認識這種特殊的能力也許是前者帶來的一種副產品。儘管如此，與對環境中其他有生命或無生命的對象進行預測相比，自我認識仍然存在一些本質區別。對自我的認識和理解是一種知識。在決策過程中，這樣的知識可以用來預測各種行為的結果。決策的性質和複雜程度決定了作決策需要什麼類型的知識。自我認識在社會決策中不可或缺。在一個複雜的社會裡，隨著人們開始互動，為了能夠準確預測他人的行為，人們就必須了解他人的認知過程和決策策略。這種推理過程必然是循環往復的——當我試圖了解你對我的想法時，我不可避免會間接地了解自己——自我認識也隨之產生。因此，人類的自我認識和自我審視可能是腦在適應社會環境時進化的副產品，是因應需要準確預測他人行為的環境而產生的。具有諷刺意味的是，正如遺傳物質的自我複製無法做到盡善盡美一樣，自我認識也不可能是完備的。遺傳物質的複製是一個物理過程，因此受到物理學定律（尤其是熱力學第二定律）的約束。從生物物理學的角度看，達成某種形式的自我認識也許並不涉及物理實體的複製，但是自我認識可能會導致一系列邏輯悖論。在自我認識中，尋求知識的人成了知識所涉及的對象本身，人的想法可以指向自身，從而產生自我指涉（self-reference）。自我指涉可能會帶來一些難以解決的問題，一個有名的例子就是「說謊者悖論」（the liar’s paradox）。說謊者悖論指的是，一個人說「我在撒謊」，或是寫下「這句話是錯誤的」。如果這人在說謊，那麼這句話一定是假的，那麼他就沒有說謊，從而產生了矛盾。如果他說的是實話，那麼這句話必須為真，所以他在說謊。這也是一個矛盾。所以，這個句子既不能是真的，也不能是假的，因而造成了一個悖論。另一個類似的例子，是1928年至1929年超現實主義畫家雷內·馬格利特創作的一幅畫作《形象的叛逆》。雷內·馬格利特（Rene Magritte）在1928—1929年間的作品《形象的叛逆》，畫中有一行文字「這不是一個菸斗」。
說謊者悖論之所以產生矛盾，是因為它包含了自我指涉。自我指涉導致的另一個著名的悖論是羅素悖論（Russel’s paradox），也稱為理髮師悖論（the barber’s paradox）。這個例子是下面的命題：某個鎮上的一位理髮師只為而且必須要為所有自己不刮鬍子的人刮鬍子。這是一個悖論，因為我們沒法確定這位理髮師能不能給自己刮鬍子（這也是一種自我指涉）。如果答案是肯定的（理髮師給自己刮鬍子），這就和他只服務那些自己不刮鬍子的人的命題相矛盾。如果答案是否定的（理髮師不給自己刮鬍子），也是一個矛盾，因為違背了他要為所有自己不刮鬍子的人刮鬍子的原則。因此，無論理髮師給不給自己刮鬍子，都會存在矛盾。包含自我指涉的命題或句子很容易成為悖論。當多個決策者在社會情境中進行互動，並以遞歸方式推斷他人的行為時，相似的問題很可能也會發生，因為這一過程可能會產生自我指涉。當一個人的推斷開始一環套一環地加入對他人想法的揣測時，我們可以創造一些複雜但看起來沒什麼毛病的句子，比如：這句話所描述的情況，與有時我們對別人的想法所做的推斷（就像在剪刀石頭布遊戲中一樣）沒有本質上的區別。要理解這句話會導致怎樣的矛盾，我們來考慮下面這個問題：A是否認為B的想法是錯誤的？如果答案是肯定的，那麼從A的角度看，B關於「A判斷B的想法是錯誤的」的想法必須是正確的。然而這就意味著，A就不應認為B的想法是錯誤的，這就產生了矛盾。另一方面，如果答案是否定的，那麼在A看來，B的想法「A判斷B的想法是錯誤的」就是錯誤的，這意味著A確實認為B的想法是錯誤的。這也與原來的句子相矛盾。因此，無論是兩種情況中的哪一種，該句子都含有邏輯上的矛盾。這句話是亞當·布蘭登伯格（Adam Brandenburger）和H. 傑羅姆·凱斯勒（H. Jerome Keisler）在他們2006年發表的論文中提出的，因此稱為布蘭登伯格-凱斯勒悖論。從上面這些例子中我們能看到，如果我們使用任何可以指向某個事物的詞（例如「知道」或「相信」），並將其重新指向主語時，都可能會產生邏輯悖論。說謊者悖論提醒我們，分出真假並非總是那麼容易。羅素悖論提醒我們，並非總是能夠將任何事物根據某種屬性分成互斥的兩組。布蘭登伯格-凱斯勒悖論提醒我們，社會關係中的遞歸推理可能導致無窮無盡的連環套。從物理學上說，一臺機器不可能完全無誤地複製自己。同樣，沒有了邏輯矛盾，也許人類就無法完全理解自己。然而，複製過程中的錯誤帶來的突變是進化所必需的，物理機器之所以能夠進化，恰恰正是因為它們自我複製的過程並不完全精確。生命的本質並非完美的自我複製，而是近乎完美卻略有微瑕的自我複製。因此，即便不能獲得完整、邏輯上自洽的自我認識，或許我們也不必失望，因為這不見得是件壞事。以遞歸方式應用心智理論的能力很有益處，因為它使人們得以預測他人的行為，從而改善社會結構，並使其更加穩定。如果自我認識源於遞歸心智理論，它最重要的功能可能就是幫助我們預測自己的行為。然而，我們要提醒自己，這種自我認識有一定的局限性。像「我沒有說謊」這樣指向自身的陳述，對邏輯學家和哲學家來說是饒有趣味的話題，但它們並不能幫助我們在日常生活中做決定。上：猴子腦中的下顳葉皮層含有對面孔刺激做出響應的神經元，而人腦中有若干區域會在被試者觀看人臉時比觀看其他人臉以外的刺激時表現出更強的BOLD 信號。下：猴子下顳葉皮層中的神經元活動示例。在猴子看到面孔圖像時，該神經元的活動會比在猴子看到手的圖像或者打亂了的面孔圖像時更加強烈。邏輯悖論和矛盾並不是自我認識帶來的唯一負面後果。試圖基於自我認識來預測自己的行為可能會產生其他意想不到的影響。比如，如果我們對自己在未來行為的預測十分樂觀，這種預測就可能成為一種稱為「自證預言」（self-fulfilling prophecy）的心理學效應，因為在做出一個關於自己的預測後，你也許會自覺或不自覺地做出使這一預測更可能成真的行為。另一方面，如果我們對自己的預測過於悲觀或負面，那麼在做出這樣的預測之後，我們反而會使得它無法實現：如果我估計今天下午6點之前會餓，那就會促使我在下午6點之前吃點東西，從而避免預期的飢餓感。因此，這種預言往往適得其反，但它們有時能幫助我們避免某些不良後果，因此仍有一定的益處，而且也很難徹底消除。自我認識引發的問題還包括自由意志（free will）的概念，它指的是一個人控制自己行為的能力。弄清人到底能不能控制自己的行為，是我們渴望了解自身的重要原因之一。不同於探討宇宙萬物是否具有確定性那樣的物理學問題，對自由意志的討論本質上與腦如何工作這一物理學過程無關。一旦我們意識到，「自我」這一概念是在遞歸使用心智理論時的副產品，並不是一個能脫離心智模擬過程而獨立存在的物理實體，我們就沒理由覺得自由意志問題可以有一套自圓其說的結論。生活中充滿了權衡。要做成任何有價值的事情，都需要在一些次要的事情上做出犧牲，這也許是一條永恆的真理。比如，擁有更大的腦有很多好處。腦更大的動物可以從周圍的環境中獲取更多信息，然後利用這些信息做出明智的選擇，以獲得更理想的結果。但是，更大的腦同時也需要更高的維護成本，腦較大的動物必須尋找、食用和消化更多的高熱量食物。因此，動物要負擔得起更大的腦，前提是能夠獲取足夠的熱量和其他營養。這就好比大型企業的研發部門，它們必須為企業開發出有利可圖的新技術和產品，才有繼續存在下去的資本。較大的腦還有其他缺點。例如，長出一個比較大的腦要耗費很多時間，因為這需要在許多神經元之間建立海量的精確連接。如此漫長而複雜的發育過程也更有可能出錯，從而導致成年大腦無法正常工作。在人類中，更長時期的腦發育也意味著孩子需要父母更長時間的保護。對於哺乳動物（特別是對人類）來說，嬰兒的腦越大，分娩時母嬰的風險也會越高。對於學習和決策來說，權衡取捨也同樣存在。例如，線蟲僅僅在受精三天以後就可以開始產卵。在這樣短的時間內，線蟲個體就能產生300多個神經元，並在它們之間建立適當的連接，使得這些神經元能夠產生生存和繁殖所需的所有行為，實在讓人驚嘆。這樣極致的速度和簡化也給線蟲帶來了代價——它們只能進行形式相對簡單的學習，例如習慣化和經典條件反射。相比之下，由於哺乳動物的腦要複雜得多，因此它們除了習慣化和經典條件反射以外，還能通過操作條件反射來改變自身行為。哺乳動物也可以使用基於模型的強化學習來獲取關於環境的抽象知識，並用它來指導自己的行動。不僅如此，人類和猿類還會使用更為複雜的方法（如心智理論）在社會情境中做決定。當然，擁有許多複雜的學習和決策方法也是有代價的。比如，隨著自我認識從心智理論的遞歸式應用中產生，邏輯悖論可能也會隨之而來，並對適應性行為產生幹擾。負面情緒和精神疾病也是複雜的學習算法的副作用。人類和其他動物使用的所有學習算法都需要某些類型的誤差信號，這可能會帶來一些不良後果。我們在第7章中提到，無模型的強化學習依靠獎賞預測誤差。無模型強化學習這種學習算法的本質，是根據結果與先前預期之間的比較來調整每個行動的價值。因此，除非徹底棄用該算法，不然想要徹底避免負獎賞預測誤差並不現實。從心理上講，負的獎賞預測誤差表現為失望情緒。如果你從不感到失望，未曾體驗到負獎賞預測誤差，這就表明你對未來得到獎賞的期望可能太低了，這會使你無法採取許多可能對自己有益的行動。無模型的強化學習有時也會產生正獎賞預測誤差，即歡欣情緒。雖然一個人不可能在同一時刻同時感到失望和歡欣，但是它們就像同一枚硬幣的兩面一樣相伴相生——你沒法只留下其中一個。基於模型的強化學習會產生後悔和寬慰兩種相反的情緒，也是同樣如此。基於模型的強化學習算法要成功執行，人就必須通過心理模擬來評估其他行動可能會產生怎樣的假想結果。這些模擬出來的結果中，也許會有一些比你實際獲得的結果更好。因此，要得到基於模型的強化學習帶來的種種優勢，我們就不得不接受後悔這一副產品。A. 在一項fMRI 研究中，人類眶額葉皮層的活動與後悔相關。B. 在猴子身上對後悔進行研究的電生理實驗使用了以計算機為對手的石頭剪子布遊戲，實驗任務及收益矩陣分別見圖左、右。C. 一個眶額葉皮層的神經元的活動隨著假想中的獎賞大小的增加而提高。當腦運行心理模擬，並根據想像中的行動和結果在腦海中創造一個虛構故事的時候，避免把這樣的故事與現實搞混極為重要。這是使用基於模型的強化學習算法的腦所特有的一種風險，而僅依賴於無模型的強化學習的動物則用不著擔心這樣的問題。當我們利用心理模擬來調整不同動作的價值時，實際上未發生的、在心理模擬過程中虛構出來的事件仍會存儲在記憶中。因此，腦必須能區分對真實經驗和想像事件的記憶。記住具體的記憶如何形成（包括它們來自真實還是虛擬的經驗）的能力稱為源記憶（source memory），這是元認知的另一個例子。由於源記憶是關於記憶的記憶，因此它也是「元記憶」。源記憶對於正常的社會生活至關重要。舉個例子，現在試著想像你借了500元錢給一位朋友。也許幾天以後，你可能還記得自己曾經想像過借錢給朋友。如果你的元記憶（或源記憶）是準確的，那麼你會知道這僅僅是自己的想像而已，而你實際上並沒有真的把錢借給誰。不過，不妨想想看，要是你無法區分自己的想像和真實發生的事情，那會發生什麼？假如沒有源記憶，你恐怕就要真的以為別人欠了你錢，準備討債去了。源記憶出錯，會導致現實與想像之間的界限不再清晰，從而產生了諸如妄想（delusion）和虛構（confabulation）等精神症狀。這些症狀在許多精神疾病（包括失智症［dementia］和精神分裂症［schizophrenia］）中都很常見。即便在健康人身上，源記憶有時也會失靈。比如，我們偶爾可能會搞不清楚在夢中經歷的事情是不是真的發生過。我們通常不必為偶發的源記憶出錯而驚慌，然而邊緣性人格障礙（borderline personality disorder）患者在試圖辨別夢境和現實中的內容時，卻面臨著真切的困難。另外，源記憶障礙可能還與這些患者身上其他與人際關係相關的症狀有關。因此，儘管基於模型的強化學習和心理模擬可以為我們在複雜環境中帶來更好的決策策略，但這也需要我們能把對真實事件和想像事件的記憶區分開來。如果一個人把心理模擬中想像出的事件當成真實發生的事件，並以此行事，其結果可能會比僅依靠無模型的強化學習來做決策糟糕得多。基於模型的強化學習和心理模擬帶來的另一個難題，是決定在做出決策之前，進行多少心理模擬才夠用。對於那些可能改變一生的艱難決定，需要考慮的重要因素可能極為繁多。在大型組織（如公司或政府機構）中，許多人會參與到決策過程中來，並在各種會議上與他人分享其心理模擬的內容。這也使得要進行模擬的不同場景的數量和範圍大為擴展，這樣一來，要及時就最佳行動方案達成共識就變得更難了。過度的心理模擬對於我們而言都不陌生。對過往的負面經歷進行過多的心理模擬，稱為心理反芻（rumination），這是抑鬱症的一種常見特徵。儘管心理模擬有這樣的副作用，但是我們要基於對環境的了解，來選擇更合適的行動，就離不開它。無論我們對環境的了解有多深，沒有心理模擬，我們都無法準確地預測不同的行動會產生什麼結果，並且做出明智的決策。這或許也可以解釋為什麼抑鬱症患者有時會在需要縝密分析的複雜決策任務中表現得更好。我們已經提到過，失望和後悔分別是與無模型的強化學習和基於模型的強化學習相關的負面情緒。我們有時還會遇到另一種負面情緒——嫉妒（envy）。當人們發現自己的境況不如別人時，就會感到嫉妒。這三種負面情緒的共同點是，當我們的行動帶來的結果比原來預期的要糟糕時，我們就會體驗到這樣的負面情緒。因此，嫉妒就像失望和遺憾一樣，是學習過程中的一種誤差信號，意味著你的行為也許需要做些改變。如果同一群體中其他人比你獲得了更好的結果，那麼這表明你也許還沒發現最優行為策略。嫉妒是一種生物學信號，它提示你在積累足夠的經驗和知識之前，採用別人的策略也許會更好。與失望和遺憾相比，嫉妒的本質區別在於我們的預期從何而來。失望或負獎賞預測誤差是無模型強化學習的一部分。而後悔是心理模擬的產物，它來自基於模型的強化學習。與此相似，當我們意識到自己獲得的結果不如他人時，我們會感到嫉妒。這與我們會感到失望或遺憾從根本上說沒什麼不同——都是強化學習中的誤差信號。強化學習就是通過使這樣的誤差信號儘量變小來實現的。當個體可以觀察到群體中其他人的行為時，嫉妒為在新情況下找到最適當的行為提供了另一種方式。模仿和觀察學習可以取代基於試錯的學習方式。而且，它也不需要對環境的深入了解，因此有時會比基於模型的強化學習更為高效。嫉妒為這種社會學習提供了重要的誤差信號。模仿和觀察學習在人類早期發育中起到了特別重要的作用。在具有精密層級結構和先進技術的複雜社會中，要使用以試錯為基礎的學習算法（如無模型的強化學習）來學習所有事物，將會極為緩慢而低效。而基於模型的強化學習算法要在長時期的教育之後，才能為人們選擇適當的行動。模仿和觀察學習為這些耗時的學習算法提供了一種簡便的替代方案。例如，試想你在一個外國城市，需要從自助售票機購買火車票。如果售票機不能顯示你熟悉的語言，你可能會觀察其他人是怎樣買票的，並且直接模仿他們的行動。就像在這個例子裡一樣，當許多人面臨一個相同的問題時，也許有人已經投入了所需的時間和精力來尋找一個好的解決方案，而其他人可以直接模仿該解決方案。模仿和觀察學習為人類發展出複雜的文化提供了重要的生物學基礎。然而，人類並非唯一能模仿其他個體的物種。除了靈長類動物以外，某些鳥類也具有觀察和模仿其他動物的行為的能力。在某些情況下，這帶來了動物個體之間的一些初級文化現象。為了使我們的腦配備選擇最優行為所需的各種功能，人類承擔了巨大的成本，其中包括了伴隨不同類型的學習算法而來的各種負面情緒。此外，為了結合不同學習算法的優勢，腦還需要元認知能力來評估這些算法的可靠性。這樣的元認知過程可能會產生自我指涉，因此還需抵禦邏輯悖論的影響。基於模型的強化學習需要對心理模擬的程度進行合理控制。不幸的是，隨著不同的學習算法和認知過程越來越多，負面情緒的數量及其潛在的副作用也隨之增加。除了我們已經討論過的負誤差信號以外，其他負面情緒（如恐懼和焦慮）也與特定類型的學習和決策密切相關。儘管我們不喜歡這些負面情緒，但就像我們感受軀體疼痛的能力一樣，它們對於改善我們的生活質量是不可或缺的。有一種罕見的病症，稱為先天性痛覺不敏感（congenital insensitivity topain），或先天性無痛症（congenital analgesia），該病患者可能會完全喪失感受疼痛的能力。這種狀況非常危險，因為沒有了疼痛，先天性無痛症患者往往無法對傷病做出適當的反應。同樣，各種負面情緒是被寫入基因裡的警示信號，用來促成各種與基因複製這個最終目標相一致的行為。
智能簡史
[韓] 李大烈著 張之昊譯
生活·讀書·新知三聯書店 2020-9
ISBN:9787108068941 定價：39.00元
▼購買三聯圖書
▼
複製以下淘口令，打開手機淘寶，
進入三聯書店天貓旗艦店3fu置這個 a:/₤CEXmc9uWeYG¢回淘Ьáò
━━━━━
▲ 點擊圖片閱讀 三聯書訊 | 2020年10月
—END—
----
生活需要讀書和新知
----
ID:sanlianshutong
▲長按二維碼即可訂閱
----
▲回復好文，閱讀更多專題文章
▲回復聽課，了解書店裡的大學公開課
▼點擊下方閱讀原文，購買三聯圖書