這些筆記，是自己通篇閱讀三遍標記出來的，一些準確性很高的結論有前後文的引出和舉例，從原文中可以了解其邏輯。書中有很多注釋：引用/參見的科學文獻、著作、新聞報導。更可以自己對這些觀點看法進行思考。這本書的信息量太大，而且具有顛覆認知和世界觀的效果，當時第一遍讀完有些懵懂和興奮，第二遍有些無所適從，第三遍讀完有了較深的認識。並且經過一段時間思考與實踐，體認到確實如此。
序
在一個信息爆炸卻多半無用的世界，清晰的見解就成了一種力量。從理論上講，人人都能參與這場以「人類未來」為主題的辯論並發表高見，但想要保持清晰的認識並不容易。而且通常的情形是——我們根本沒有注意到有這場辯論，或者根本不清楚關鍵的問題何在。
我只是個歷史學家，並沒辦法供人衣服、給人食物，但希望提出一些清晰的見解，儘量讓人們能夠公平地參與這場辯論。只要有人，哪怕是極少數人，因此而加入關於人類未來的辯論，我也就對得起這份工作了。
本書其實是我在與公眾的對話過程中寫成的，許多章節是針對讀者、記者和同事提出的問題而撰寫的。某些內容曾以各種形式發表，這讓我有機會聽取意見、打磨觀點。
個人即政治，已經是老掉牙的說法。但在這個科學家、企業和政府都想入侵人類大腦的時代，這套老生常談卻遠比以往更邪惡。因此，本書不僅觀察個人行為，也觀察整個社會。（為什麼說個人即政治呢？是由於一個人有許多想法、欲望而因此需要權衡，即如政治？）
個人生活生活可能影響全球，意味著揭露我們自己的宗教和政治偏見、種族和性別特權，以及對制度壓迫無意的共謀，比以往任何時候都重要。（揭露並認識我們自己的宗教偏見、政治偏見，揭露並認識我們自己對種族的特權對性別的特權，以及對制度壓迫無意的共謀。）
或許最重要的是，人工智慧和生物技術正讓人類擁有重塑和重新設計生命的能力。很快就會有人必須決定如何使用這股力量，而他決定的理由，則來自關於生命意義的某些含蓄的或者直言的故事。
在最後一章，在智人物種的大幕即將落下、另一出全新大戲即將上演之際，我以一個智人的身份，向其他智人提出一些個人意見。
本書絕大部分內容談的都是自由主義世界觀和民主制度有何缺點，這並不是因為我認為自由民主有問題。相反，我認為，面對現代社會的種種挑戰，自由民主是人類迄今最成功也最靈活的政治模式。雖然不見得適用於每個社會的每個發展階段，但比起其他所有方案，自由民主都曾在更多的社會和更多的情境中證明了自己的價值。（現在有自由民主國家，社會主義國家，獨裁政權，以前有共產主義，法西斯主義。這個國家是大政府小民主？）
非民主政權的一個特徵是很難做到言論自由。而隨著這些政權的擴張，要對人類物種的未來進行批判性思考也就越來越危險。（這個地區言論自由程度怎麼樣？認為：物種一詞可以去掉）
請務必注意，之所以能寫出這本書，正是因為人們還能相對自由地思考自己究竟喜歡什麼，也能一如所願地表達自己的想法。如果您重視這本書，也該重視言論自由。
第一部分 科技顛覆
第1章 理想的幻滅：從舊故事到新故事
自由主義的政治體系建立於工業時代，管理著由蒸汽機、煉油廠和電視機所構成的世界。但面對現在的信息技術和生物技術革命，自由主義政治體系就顯得無力招架。
在未來，信息會成為經濟體系中最重要的資產，也是在大量交易中唯一交付的東西。（信息 很可能 會成為…，由於對這方面了解不深，會認為適合稱：很可能）
更重要的是，信息技術和生物技術的雙重革命不僅可能改變經濟和社會，更可能改變人類的身體和思想。（想一想現在就有對人的身體和思想的改變有哪些？為什麼？）
在20世紀，群眾反抗剝削，把自己在經濟中的重要作用轉化成在政治上的權力。而如今，群眾擔心自己以後會變得無足輕重，於是急著發揮目前仍有的政治力量，以免為時太晚。（舉例了英國脫歐以及川普當選，不清楚在兩個事件中這個因素佔多大比重。）
民主的根基之一，在於亞伯拉罕·林肯提出的原則：你可以在某些時候欺騙所有人，也可以在所有時候欺騙某些人，但你無法在所有時候欺騙所有人。如果政府腐敗，未能改善人們生活，最終一定會有越來越多的公民看清真相。然而，政府控制媒體後，阻礙了公民看清真相，也就打破了林肯的邏輯。
然而，我們現在面臨的最大問題在於生態崩潰和科技顛覆，而自由主義對此並沒有給出明確的答案。傳統上，自由主義需要搭配經濟增長，才能神奇地平息棘手的社會和政治衝突。
然而經濟增長非但無法拯救全球生態系統，反而恰恰是生態危機的成因。經濟增長也無法解決科技顛覆的問題，因為增長正是以越來越多的破壞性創新為基礎的。（破壞性創新？）
接下來的生物技術和信息技術革命可能需要新的願景。接下來幾十年的特徵可能就在於強烈的自我反省，以及建立新的社會和政治模式。
任何故事如果想要得到人類的青睞，最重要的一個條件就在於能否應對信息技術和生物技術這樣的雙重革命。
第2章 就業：等你長大，可能沒有工作
我們完全無從得知2050年的就業市場會是什麼樣子。
人類有兩種能力：身體能力和認知能力。
必須認識的一個關鍵點是，人工智慧革命不只是讓計算機更聰明、運算得更快，還在生命科學和社會科學方面有諸多突破。我們越是了解是哪些生化機制在支撐人類的情感、欲望和選擇，計算機就越能分析人類行為、預測人類決策。
在過去幾十年中，在神經科學和行為經濟學等領域的研究，讓科學家能夠「破解」人類，更清楚地了解人類究竟是如何做出各種決定的。事實證明，我們從選擇食物到選擇伴侶，都不是出於什麼神秘難解的自由意志，而是數十億神經元在瞬間計算各種可能性的結果。過去大受讚譽的「人類直覺」，其實只是「辨識模式」罷了。（初讀到時，很難以接受，會感到自己毫無神秘可言，初以為有個始終如一且神聖的自我呢。依此觀點去觀察自己，會發現端倪，如其所言。返頭去看，也會發現，在初生嬰兒時又哪來的自我？自我也許就是團糾纏不清的幻象，有了自以為的自我，也有了防備。尤其還點出「選擇伴侶」也是如此，真是叫人心痛，不過聯繫實際觀之，尤為重要的第一印象不就是這樣嗎？作者列出了觀點來源，有四本書，《思考，快與慢》、《怪誕行為學》，另外兩本是關於機器學習的模式識別方面。關於直覺，從人工智慧AIphago的棋藝能了解其機制。那麼如何提升自己辨識模式的有效性、準確性呢？）
但同時也證明，大腦的生化算法距離完美還有很長一段路。大腦會走捷徑，會根據不完整的信息快速找出答案，而且大腦的迴路也顯得過時，整套機制適合的是過去的非洲大草原，而不是現在的都市叢林。
人工智慧特別重要的兩種非人類能力是「連接性」和「可更新性」。
如果藝術的重點真的在於啟發（或操縱）人類的情緒，那麼人類音樂家大概難以再與這樣的算法匹敵，因為算法實在比人類更了解它們所撥弄的這個樂器：人類的生化系統。這一切會帶來偉大的藝術嗎？這可能要看藝術是如何定義的。如果說聽眾覺得美就是美，而且顧客永遠是對的，那麼生物統計算法就有可能創造出歷史上最佳的藝術。但如果藝術是一種比人類情緒更深層的東西，應該表達出超越生化震動的事實，那麼生物統計算法大概就不會成為優秀的藝術家。（大藝術家的音樂暫時難以品味出其韻味和含義，或者說欣賞不來。作者舉出柴可夫斯基，他的天鵝湖只是覺得好聽、有意思，其他直感是對牛彈琴了）
19世紀工業革命興起之後，當時的社會、經濟和政治模式都無法應對相關的新情況和新問題。封建主義、君主制和傳統宗教不適合管理工業大都市、幾百萬背井離鄉的工，並面對現代經濟不斷變化的本質。
在證券交易所，算法正成為債券、股票和期貨的最重要買家。（哎，這是事實。）
目前我們還不知道，究竟是該為民眾提供全民基本收入（資本主義的天堂）還是全民基本服務（共產主義的天堂）。兩個選項各有優缺點。但無論你選擇哪個天堂，真正重要的問題還是在於「全民」與「基本」的定義。
在過去，廉價的非技術勞動力就像一道跨越全球經濟鴻溝的穩固橋梁，就算某國發展速度緩慢，最後還是可以平安跟上彼方的腳步。在當時，走得穩比走得快重要得多。
智人本來就不是一種會滿足於現狀的動物。他們的快樂很少取決於客觀條件，而多半取決於自身的期望。然而，期望又往往會因為各種條件（甚至包括其他人的條件）而不斷調整。整體客觀條件改善的時候，期望也會隨之膨脹，於是雖然客觀條件可能已經大幅提升，我們卻可能還是向以前一樣不滿。
（我對期望的管理怎麼樣？沒什麼期望，設定計劃與目標，關注過程。但這是理想狀態。/捂臉。期望比較少是真的，但對長期計劃的堅持有待改善）
雖然這些極端正統派猶太男性又窮又失業，但一次又一次的調查顯示，他們的生活滿意度比以色列社會其他任何階層都高。原因在於整個社群心手相連的力量，以及他們在研讀經典、執行儀式時尋得的深切意義。
雖然我們正面臨著人類大規模失業的危險，但更該擔心的其實是人類目前握有的權威被算法奪走。
第3章 自由：數據霸權與社會公平
就自由主義看來，人類的自由是最重要的價值，所有的權力都來自個人的自由意志，表現在每個人的各種感受、欲望和選擇之中。在政治上，自由主義相信「選民能做出最好的選擇」，所以它贊成民主選舉。在經濟上，自由主義相信「顧客永遠是對的」，所以它擁抱自由市場的原則。而在個人方面，自由主義鼓勵每個人「聆聽內心的聲音，隨心所欲」，只要不侵犯別人的自由就行。
（後面會再提到這個主題，雖然前面講沒有什麼自由意志）
所有的公投和選舉，訴諸的永遠是人類的「感覺」，而不是人類的理性。如果民主談的就是理性決策，那麼哪還有理由讓人人都享有平等的投票權？甚至還投什麼票呢？早就有充分的證據顯示，就是有一些人比別人學識更淵博，更具理性，特別是講到特定的經濟和政治問題時更是如此。英國脫歐投票之後，著名的生物學家理察·道金斯就提出抗議，認為絕大多數英國民眾（包括他自己）其實都缺乏必要的經濟和政治科學背景，根本不該要求他們投下這張公投票。「這豈不就像是要用全國公投決定愛因斯坦的代數算得對不對，又或者讓乘客表決飛機駕駛員該在那條跑道降落？」
（那又有什麼更好的辦法？組建一個具有良好經濟和政治科學背景的人數達100人的評估會議，來決定？雖然這種會議中部分人也有被別有用心的利益集團控制並代言的可能，但大眾更有被輿論、媒體操縱的可能。會議平行加一層監管。）
這種對「心」的依賴，可能就是自由民主的致命弱點。一旦有人研發出相關技術，能夠攻入並操縱人心，民主政治便將成為一場情感豐沛的木偶戲。（不時問自己，這個想法是從哪裡來的）
正如前一章中提到的，對於人腦和人體的運作方式的科學研究顯示，人類的種種感受既不是什麼人類獨有的精神靈性，也不代表什麼「自由意志」。所有的「感受」只是所有哺乳類動物及鳥類都擁有的生化機制，用來快速運算生存和繁殖的概率。「感受」的基礎也不是直覺、靈感或自由，而是運算。（這是就絕大部分人而言吧，認為有例外。不過初始之初「感受」就是用來運算生存和繁殖的概率吧，還有對美的感受又怎麼看呢？）
感受並非與理性背道而馳，而是體現了進化上的理性。（精闢！）
我們通常不會意識到各種感受是出於運算，原因在於這些快速的運算遠不在我們的意識閥值範圍內。
但直到今天，依靠情感來做決定仍然有很好的實際意義。因為，雖然各種感受並沒有什麼神奇或自由的地方，但講到該學什麼專業、該和誰結婚、該把票投給誰，「靠感受」仍然是最好的辦法。而且，也沒有什麼外部系統能夠比我們自己更了解自己的感受。（情感包含各種感受。這裡講到對於該學什麼專業也是依感受來做選擇，可以看出對教育態度的不同）
所以實際上，大可直接說人有自由意志，因為人的意志是由內在力量的相互作用形成的，這是任何人都看不到看的。
因此，自由主義要人們跟隨自己的內心，而不是聽什麼祭祀或政客說的話，其實也沒錯。然而，計算機算法很快就能給你比「人類的感受」更好的建議。（從這裡可以得出作者最終的建議：認識自己。）
我們現在正處於兩次巨大革命的交匯中。一方面，生物學家正在揭開人體（特別是大腦和人類感受）的種種奧秘；另一方面，計算機科學家也讓我們獲得前所未有的數據處理能力。生物技術革命與信息技術革命融合之後，大數據算法有可能比我更能監測和理解我的感受，而掌控一切的權威也可能從人類手中轉移到計算機手中。如果我每天遇到的各種機構、企業和政府都能了解甚至操縱過去我以為沒有外人可進入的內心世界，我大概也就不會再以為自己有自由意志這種東西了。
只要有了足夠的生物統計數據及運算能力，外部的數據處理系統就能進入你的身體，得知你所有的欲望、決定和意見。換言之，它們能夠完全知道你是怎樣的人。（值得注意）
大多數人並不太了解自己。我是到了21歲，才終於走出幾年的自我否認，意識到自己是同性戀。
比起算法，人類因為數據不足、程序錯誤（基因或文化上）、目標定義不明、生命一團混亂而犯下錯誤的機會，實在有過之無不及。（想到一句詩：生命中有許多罅隙，從中送來死之憂鬱的樂聲。）
找路的能力就像肌肉，用進廢退。選擇伴侶或選擇從事哪個職業的能力，也是如此。（用進廢退這一事實很重要，不過作者為什麼拿選擇伴侶和選擇職業來做比方？選擇伴侶的能力，用進廢退。/捂臉。雖然確實如此。一般人都會談幾次沒有正果的戀愛。若我舉比方可能會是獨立思考的能力，動手能力）
要做個明智的抉擇真的很難，尤其是你根本不知道想在不同的行業出人頭地，到底需要什麼條件。而且，你真的清楚自己的長處和短處嗎？（問的我啞口無言）
隨著權威從人類轉向算法，世界可能不再是一個自主的、人們努力做出正確選擇的劇場。相反，我們可能會認為整個宇宙就是一個數據流，每個有機體不過是一套生化算法。至於人類在這個宇宙中的任務，則是打造一套無所不包的數據處理系統，然後與系統融為一體。（很超前的看法，了解下就好，畢竟當下權威還沒有從人類轉向算法。）
穆勒這樣的結果論者（以結果判斷行為），他的想法一定會不同於康德這樣的義務論者（以絕對的規則來判斷行為）。（以結果判斷好像明確並且更優些，對於某事的結果雙方間更容易達成共識……真這樣嗎？ta們達成共識的基礎是什麼？社會通行的準則、習俗？不過，絕對規則就更難接受了，規則何來？設定規則：權力大到沒邊了。…這要看討論的範圍。）
畢竟在歷史上，幸好法律的實施必然有其局限性，也就能制衡立法時的種種偏見、錯誤和過度。各種反同性戀、反褻瀆神祇的法律從未全面實施，實在是非常幸運。
我們是該害怕機器人，但原因是它們永遠只會服從主人，而絕不反抗。（這裡講到一般科幻電影裡機器人擁有意識，反撲人類。但智能和意識是兩種概念）
在20世紀後期，民主國家的表現通常優於專制國家，是因為民主國家更善於處理數據。民主制度採用分布式的信息處理，由許多人和機構來做出決定，而專制制度則是把所有信息和權力都集中在一處。鑑於20世紀的科技水平，把太多信息和權力都集中在一個地方並不是有效率的做法。在當時，沒有人能夠及時處理完所有信息，並做出正確決定。這也就成了蘇聯做出的決策水平遠低於美國，蘇聯經濟遠遠落後於美國經濟的部分原因。
然而，人工智慧很快就會讓鐘擺擺向相反的方向。有了人工智慧，就能集中處理大量的信息，甚至因為機器學習在分析越多信息之後效果越好，所以人工智慧可能會讓集中式系統比分布式系統效率更高。（在2020達沃斯論壇，赫拉利表示中國政府在進行人工智慧軍備競賽，因為中國擁有如此多數據，而且國民對自身數據隱私不是很在意。再《生命3.0》中，其作者在序言裡指出，如果未來出現通用人工智慧那將會率先出現在中國。）
一心想把信息集中，在20世紀曾是專制政權的主要弱點，但到了21世紀卻可能成為決定性的優勢。
隨著算法變得如此了解我們，某些政權能夠對公民進行絕對的控制，程度甚至超過納粹德國，而且公民可能完全無力抵抗。這種政權不僅能明確掌握你的感受，甚至還能控制你的感受。（至少在邏輯上是可以做到這樣）
今天世界各地的政治家似乎可以在各種不同的經濟政策之間做選擇，政治家有種以為自己可以選的錯覺，但真正重要的決定早就由經濟學家、金融專家和商人在提出選項時就做完了。也就是說，是他們為政治家定下了選擇的方向。
但實際上，並沒有理由相信人工智慧會獲得意識，因為智能和意識是天差地別的兩種概念。智能是解決問題的能力，意識則是能夠感受痛苦、喜悅、愛和憤怒等事物的能力。我們之所以會兩者不分，是因為對人類和其他哺乳動物來說，智能與意識會攜手同行。哺乳動物處理大多數問題時靠的是「感覺」，但計算機會用完全不同的方式來解決問題。
當然，人工智慧並不是絕對不可能發展出意識。我們目前對意識的了解還不足以完全下定論。
因此，雖然人工智慧具有巨大的力量，但在可預見的未來，人工智慧的運用在一定程度上還是以人類的意識為準。
這裡的危險在於，如果我們太注重發展人工智慧而又太不注意發展人類的意識，那麼計算機有了極先進的人工智慧之後，可能只會增強人類的「自然愚蠢」。
從最近全球的選舉和公投就可以預見未來：黑客通過分析選民數據，運用選民現有的偏見，就能知道怎樣操縱單個選民。（劍橋分析公司的醜聞）
想避免這種結果，每投入一美元、一分鐘來提升人工智慧，就應該同樣投入一美元、一分鐘來提升人類意識。（對於如何提升意識，也是一片茫然，如果概括的講意識就是主觀體驗，那主觀體驗的能力？能夠提升嗎？怎麼提升，作者在最後分享的個人經驗，禪修是一種有效的方法）
我們對於人類能力的研發，主要都是為了滿足目前經濟和政治體制的迫切需求，而不是為了讓人類在很久之後仍然是一種保有意識的生物。
第4章 平等：誰該擁有數據
但到了現代晚期，平等已經成為幾乎所有人類社會的理想。部分原因在於共產主義和自由主義等新思想的興起，還有部分原因是工業革命使民眾比以往任何時候都更加重要。工業化的經濟需要大量的普通勞動者，工業化的軍隊也需要大量的普通士兵。無論哪種政體的國家，都極為重視國民的健康、教育和福利，因為它們需要幾百萬健康的勞動者在生產線工作，需要幾百萬個忠誠的士兵在戰壕裡作戰。
全球化確實讓許多人受益，但有跡象顯示，社會之間和社會內部的不平等日益加劇，少數人逐漸壟斷了全球化的成果，而其他數十億人則被棄之不顧。現在，最富有的1%人群已經擁有全球一半的財富。更令人警醒的是，最富有的100人所擁有的財富，已經超越了最貧窮的40億人。
事情還可能更為惡化。前幾章已經提過，人工智慧興起可能會讓大多數人類不再擁有經濟價值和政治力量。同時，生物技術的進步則可能將經濟上的不平等轉化為生物上的不平等。
如果我們希望避免所有財富和權力都集中在一小群精英手中，關鍵在於規範數據的所有權。在古代，土地是世界上最重要的資產，政治鬥爭是為了控制土地，而一旦太多的土地集中在少數人手中，社會就分裂成貴族和平民。到了現代，機器和工廠的重要性超過土地，政治鬥爭便轉為爭奪這些重要生產工具的控制權。等到太多機器集中在少數人手中，社會就分裂成資本家和無產階級。但到21世紀，數據的重要性又會超越土地和機器，於是政治鬥爭就是要爭奪數據流的控制權。
到目前為止，這些巨頭多半採用「注意力商人」（attention merchant）的商業模式：靠提供免費信息、服務和娛樂來吸引我們的注意力，再把我們的注意力轉賣給廣告主。然而，這些數據巨頭真正的目標其實遠超以往的注意力商人，他們真正的業務不是銷售廣告，而是靠吸引我們的注意力，取得了關於我們的大量數據，這些數據遠比任何廣告收入更有價值。我們不是他們的用戶，而是商品。（這裡舉出見解來源：《注意力經濟》）
我無法確認這些巨頭是不是也這麼想，但從它們的作為來看，確實將收集數據看得比實際獲利更重要。（聯繫生活，有見到一些小視頻app推廣——刷視頻得現金。真是瘋了。）
隨著越來越多的數據通過生物傳感器從身體和大腦流向智能的機器，企業和政府將更容易了解你、操縱你、為你做出決定。更重要的是，它們還可能破譯所有人身體和大腦背後的深層機制，擁有打造生命的力量。如果我們想要阻止一小群精英分子壟斷這種神一般的權力，如果我們想要避免人類分裂成不同的物種，關鍵的問題就是：該由誰擁有數據？關於我的DNA、我的大腦和我的生命，這些數據到底是屬於我、屬於政府、屬於企業，還是屬於全體人類？
授權讓政府把這些數據國有化，或許能夠對大企業發揮抑制作用，但也可能導致令人毛骨悚然的數字獨裁。政治人物有點兒像音樂家，只不過他們手中的樂器是人類的情緒和生化系統。
所以，我們要呼籲所有律師、政治家、哲學家甚至詩人，好好注意這項難題：如何規範數據的所有權。這可能是這個時代最重要的政治問題。如果不能趕快找出答案，我們的社會政治制度就可能面臨崩潰。
作者_尤瓦爾·諾亞·赫拉利 林俊宏_譯
原文書名《21 LESSONS FOR THE 21ST CENTURY》
國內出版社牽強附會為營銷書名《今日簡史》
孫孝左/記
作者的網站：
https://www.ynharari.com/zh-hans/category/articles-zh-hans/https://m.thepaper.cn/newsDetail_forward_2340551
另外的參考：
https://www.douban.com/doubanapp/dispatch?uri=/note/776615553/&dt_dapp=1
https://www.douban.com/doubanapp/dispatch?uri=/note/776614237/&dt_dapp=1
https://www.douban.com/doubanapp/dispatch?uri=/note/776622739/&dt_dapp=1