這本來只是一個設想性的實驗：想像有這樣一個裝置，其唯一目的就是毀滅所有人，這臺機器深埋在地下，但與一臺電腦相連，而這臺電腦通過傳感器跟美國各地的城鎮相連。傳感器的設計目的是用於捕捉世界末日的氣息，但它的作用不是為了阻止世界末日，而是完成世界末日。打個比方：如果輻射水平顯示美國有三座城市同時發生了核爆炸，傳感器就會通知末日機器。末日機器就會回應，引爆足以毀滅地球上所有生命的數枚核彈頭程序。到那時，就沒有回頭路了。一陣可怕的閃光，一聲巨響，接著是持續不斷的轟隆聲。我們有一個詞來形容末日機器釋放的破壞規模：大死亡（注，原文megadeath，泛指數以百萬計，極大規模的死亡）。沒有人期待這種大規模死亡。但是，死亡並不是末日機器唯一的恐怖之處。真正的恐怖在於它的自主性，具體來說就是，它自有一套編程程序，可以自動檢測周邊的環境數據，然後在不需要人類幹預的情況下自主採取行動。軍事戰略家赫爾曼·卡恩在他1960年出版的《論熱核戰爭》一書中寫道，「人類不可能干預、控制和做出最終決定。」這本書提出了末日機器的假設，這種機器的理念是在核戰爭爆發後徹底摧毀人類，簡直難以想像。卡恩思想實驗的結論是，自動滅絕地球上所有的生命是不道德的。即使這臺機器有著最精密的計算，只有在人類確實遭受滅頂之災沒有生還可能的時候才會啟動，也不足以證明末日機器存在的必要。卡恩寫道，「即使我們放棄計算機，讓末日機器在人為控制之下，它仍然不夠可控。人類不應該賦予機器那麼強大的力量，當然人類也不應該有這種力量。」近年來，隨著Facebook的錯誤不斷加劇，其聲譽一落千丈，很明顯，疏忽只是問題的一部分，沒有人，哪怕是扎克伯格本人，也無法控制他所創造的產品。自此，我開始意識到Facebook並不是一家媒體公司。蘇聯在冷戰期間確實製造了一款末日機器。他們給它起了個代號叫「死亡之手」。如今，我們奇蹟般地找到了在核戰威脅下和平共處的辦法，卻要學習面對社交網絡中的生存。最近人們經常抱怨Facebook，好像它出了什麼問題。有一種觀點認為，社交網絡以前還是不錯的，或者說它至少曾經有機會做得很好，只要我們設置一些約束：適當的控制和事實核查，再加上一定的監管，或者聯邦反壟斷訴訟也是一個不錯的辦法。但這樣的觀點未免過於樂觀和短視。當今的社交網絡，Facebook是其中的領頭羊，我們現在詬病它的地方，恰恰正是它建立之初的目的和基礎。那些有害的因素早就根植在他們的框架裡。多年來，我一直在思考，怎樣才能讓社交網絡以正確的方式展現它神奇的魅力，不要那麼極端，沒有那麼有毒，並且更真實。直到最近我才意識到，自己對這個問題的思考太狹隘了。我一直幻想扎克伯格能夠把Facebook定義為一家媒體公司，像其他編輯那樣對自己創造的信息環境負責。近年來，隨著Facebook的錯誤不斷加劇，其聲譽一落千丈，很明顯，疏忽只是問題的一部分，沒有人，哪怕是扎克伯格本人，也無法控制他所創造的產品。自此，我開始意識到Facebook並不是一家媒體公司。社交網絡正在按照它當初建立的目的發揮著作用。Facebook的存在不是為了尋求真相併報導真相，不是為了改善公民健康狀況，不是為了追究權貴的責任，也不是為了代表其用戶的利益，儘管這些東西可能是它偶爾產生的副產品。facebook早期的使命是「賦予人們分享的力量，讓世界變得更加開放和連接。」但是事實上它偷換了「社區」的概念，抽走了所有的道德意義。例如，QAnon的崛起就是合乎社交網絡邏輯的產物之一。這是因為Facebook，連同谷歌和YouTube，非常適合以閃電般的速度向全球受眾放大和傳播虛假信息。注，QAnon，匿名者Q，美國最流行的極右翼陰謀論，認為美國政府內部存在一個反對川普及其支持者的深層政府，有一個叫Q的人會不斷的在網上揭露這個陰謀，除了希拉蕊這樣的民主黨人，包括索羅斯，比爾·蓋茨還有福奇都是這個陰謀論攻擊的對象可以說，Facebook是宣傳、定向騷擾、恐怖分子招募、情緒操縱，還有種族滅絕的溫床，這是一種在世界歷史上有重要意義的武器，它並沒有躲藏在地下，而是在加州門洛帕克一個充滿迪斯尼樂園風格的園區裡大搖大擺（注，指facebook總部）。Facebook及其子公司Instagram，谷歌及其子公司YouTube是社交網絡界的巨頭。規模稍小的twitter通過保持教條式的價值中立，在我所說的「做大做強」的道路上也取得了不小的成功。在發展的過程中，Facebook明白它要的用戶群體不能只是龐大的，而必須是空前龐大。這一決定讓Facebook走上了一條逃逸速度（注，太空飛行器脫離地球引力所需要的速度，泛指極快的速度）的道路，當它到達了一個臨界點，它的存在就只會給社會造成傷害。唯一的問題是，減少被Facebook稱為「對世界有害內容」的傳播，也會降低人們對該網站的瀏覽量。據《泰晤士報》報導，在人為幹預的實驗中，Facebook調整了算法，讓用戶的新聞推送中保留一定的有害內容，以保證網站的瀏覽量。「末日機器」與Facebook的不同顯而易見：Facebook沒有核彈那樣在瞬間摧毀一座城市的能力。世界末日機器是為了應對世界末日的到來，而設置的同歸於盡的毀滅性機器，而Facebook的誕生，不過是因為一名半醉的哈佛大學本科生有天晚上找不到人聊天而想到的點子。但Facebook仍然關係著人類的未來和生死。它龐大的用戶群的殺傷力跟末日機器原子彈的殺傷力一樣，對人類有著同等的威脅。沒有任何一臺機器有權利控制人類的命運，而這正是末日機器和Facebook建立的初衷。Facebook不惜一切代價擴大規模的商業模式所造成的惡性循環顯而易見。規模和用戶參與對Facebook來說很有價值，因為對廣告商很有價值。從Facebook的頁面設置上就可以看出這種傾向，如評論點讚按鈕，鼓勵用戶方便頻繁地參與互動和評論，這反過來刺激用戶分享一些能激起強烈反應的想法。每次你點擊Facebook上的點讚評論按鈕，你的行為就會記錄進一套算法，用於刻畫你的形象（注，此處指通過用戶的行為記錄用戶的興趣愛好、年齡、收入等特徵，以便商家更精準地找到目標客戶）。用戶的超目標定位（是指在網絡中基於網民的興趣偏好向特定群體投放廣告內容的能力）就是通過這樣海量的數據得以實現，為廣告商、政治活動、造謠者、當然還有Facebook本身的發展，創造了一個完美的環境，最終控制著你在網絡平臺上會看到什麼,不會沒有看到什麼。Facebook招募了大約15000名版主，這些人拿錢觀看難以啟齒的事情——謀殺、輪姦和其他在平臺上出現的暴力畫面。儘管Facebook一直堅稱，對於用戶發布的內容，它是一個價值觀中立的平臺，版主幫助公司維持平臺的平衡和潔淨。但是多達15000名的的版主也沒有足夠多的時間和精力，來阻止Facebook向世界釋放的垃圾洪流，因為大多數情況下，算法比人力更快更強大。在如此龐大的用戶群規模上，在這種被算法扭曲的個性化信息環境下，很難進行有意義的調節，這是非常危險的。這些危險可不是僅僅停留在理論上，而且這種危險正在被facebook巨大的規模放大，這個平臺終於成為對人進行試驗的一個誘人場所——Facebook在不告知用戶的情況下，對用戶進行了社交傳遞實驗。Facebook在這個試驗裡充當了數字殖民主義的角色，試圖成為世界各地人們事實上的（也是唯一的）的網際網路體驗。Facebook曾吹噓自己有能力影響選舉結果；非法武裝利用Facebook組織力量；政府官員利用Facebook來誤導輿論，並篡改選舉結果。軍方官員利用Facebook的自滿情緒進行種族滅絕；Facebook無意中為伊斯蘭國自動傳播了洋洋得意的招募視頻，其中有反猶太的信息和焚燒美國國旗的內容。即使在美國情報機構認定Facebook為信息戰和外國幹預2016年大選的主要戰場之後，這個公司也未能阻止其網站上極端主義、仇恨言論、虛假信息和陰謀論的傳播。新納粹分子即使在被正式禁止後仍然通過廣告的形式在Facebook上活躍著。例如，直到今年10月，Facebook才宣布將刪除專門針對QAnon的群組、頁面和Instagram帳戶，以及所有否認二戰時期納粹大屠殺的帖子。扎克伯格此前曾為Facebook不刪除有關納粹大屠殺的虛假信息的決定辯護，他在談到納粹大屠殺否認者時說，我不認為他們是故意散布錯誤信息。他後來澄清說，他無意為否認納粹大屠殺的人辯護。即便如此，Facebook還是定期向用戶發送電子郵件，推薦最新的QAnon群組。白人至上主義者和已經失去熱度的「讓美國重新強大起來的」的口號可能會湧向Gab、Parler這樣的小型社交平臺，但這些平臺沒什麼規模，也沒什麼影響力。在2020年總統大選後，扎克伯格授權調整Facebook的算法，這樣高準確度的新聞來源如NPR（美國國家公共電臺）將獲得優先可見性，而極度擁護某一黨派的偏執內容如布賴特巴特新聞網（美國著名極右翼媒體網站）和「佔領民主黨」（一家美國左翼媒體機構）會被弱化。據《紐約時報》的報導，證明如果Facebook如果有心去做，它是可以通過調整設置來減少虛假信息的。《紐約時報》在報導中提醒人們，Facebook可以左右數十億人在網上看到的內容。對Facebook來說，調整算法的行為極不正常。這就像末日機器的傳感器檢測到環境中有害物質，卻選擇不讓算法按正常程序引爆末日機器。這一次，因為人類的介入而減輕了傷害。唯一的問題是，減少被Facebook稱為「對世界有害內容」的傳播，也會降低人們對該網站的瀏覽量。據《泰晤士報》報導，在人為幹預的實驗中，Facebook調整了算法，讓用戶的新聞推送中保留一定的有害內容，以保證網站的瀏覽量。以算法為基礎的社區環境通過用戶數據操縱用戶體驗，這樣的社區環境不以服務用戶為最終目的。現實世界的暴力事件可以很容易地在Facebook和8kun上找到源頭。但8kun不會操縱用戶或他們所處的信息環境。這兩個網站都是有害的。但Facebook實際上可能對人類更有害。Facebook公開宣稱的使命——讓世界變得更加開放和聯通，在我看來，往好裡說是虛偽，往壞裡說就是帝國主義。畢竟，今天的帝國是在網絡上誕生的。Facebook是一個不分國界和民族的帝國，其用戶數量幾乎相當於中國和印度人口的總和，而且它主要由秘密算法控制。希拉蕊·柯林頓今年早些時候告訴我，與扎克伯格交談感覺就像與一個外國專制國家的領導人談判。希拉蕊說：「這是一家全球性的公司，我們才剛剛開始意識到它對整個世界的巨大影響力。」我回想起希拉蕊幾周前發出的警告，史蒂夫·班農（注，川普前顧問，被稱為極右翼的軍師，上文提到的美國著名右翼媒體布賴特巴特新聞網的創立人之一）主張把傳染病醫生安東尼·福奇和聯邦調查局局長克里斯多福·雷斬首後，扎克伯格沒有在Facebook上封殺史蒂夫·班農，並且為他的這個決定辯護。這段插曲讓我思考了一個找不到答案但一直縈繞在腦海裡的問題：如果Facebook不存在，能避免多少現實世界的暴力？我就這個問題問過約書亞·格爾策，他曾在白宮擔任反恐官員，現在喬治敦大學法學院任教。他告訴我，在反恐界，911事件以後，人們樂於宣揚美國在阻止恐怖分子方面做得有多好。事實並不是這樣，他說：「事實上，每一天乃至每分每秒，恐怖分子都在通過Facebook進入人們的世界。」鼓勵大規模暴力方面最著名的貼圖網站應該是4chan，隨後是8chan，最後變成了8kun。有好多次，大規模槍擊嫌疑人在殺人狂歡實施前，在這些網站上都分享了宣言，使得這些網站臭名昭著。少數願意無條件捍衛這些網站的人，都是從絕對的言論自由主義的立場出發的。這個論點有待商榷，但這個網站的架構也值得關注：8kun上沒有算法，只有一個用戶社區，他們可以發布任何想要的東西。人們使用8kun發布令人厭惡的觀點，但至少社區沒有故意粉飾他們的罪惡。最大的社交平臺Facebook同樣宣稱中立和支持言論自由，但實際上沒有兩個用戶會看到完全相同的消息。以算法為基礎的社區環境通過用戶數據操縱用戶體驗，這樣的社區環境不以服務用戶為最終目的。現實世界的暴力事件可以很容易地在Facebook和8kun上找到源頭。但8kun不會操縱用戶或他們所處的信息環境。這兩個網站都是有害的。但Facebook實際上可能對人類更有害。當我在另一次談話中向格爾策提出這個問題時，他告訴我：「當你這樣構思時，這真是一套可怕的選擇，自由發布信息的構思一聽真很糟糕，直到你看到那套據稱是有節制有策劃的平臺所產生的算法，它可能不會有直接傷害，但它潛移默化製造的傷害更多。"以前，美國官員至少可以研究，比如說二戰期間的納粹宣傳，並完全掌握納粹想要人們相信什麼。今天，格爾策說："這是一種極其強勢的信息過濾，我甚至不知道其他被算法過濾過的人看到的信息是什麼。"這一領域的另一位專家，喬治城法學院憲法宣傳和保護研究所的法律主任瑪麗·麥科德告訴我，她認為8kun在宣傳暴力方面可能更加明目張胆，但Facebook因為其巨大的影響力 "在某些方面更糟糕」。她說：「Facebook沒有任何準入門檻，我們調查的每一種極端主義暴力，都在Facebook發了帖子。而這能接觸到大量的人。它的廣泛影響將人們帶入這個圈子，並將極端主義正常化，使其成為主流。」換句話說，巨大的瀏覽量正是Facebook的可怕之處。2007年，在Facebook在用戶激增的懸崖邊緣，扎克伯格在接受《洛杉磯時報》採訪時曾說過一些話，現在看來，這些話的含義要陰暗得多：「人們不在Facebook上做，現實中也會做的事情，這算不上什麼強大的力量，如果一些事情他們不在Facebook上做，也就不會在現實生活中做，這個力量才夠強大。」
加美財經推薦閱讀：
1、迪士尼執行董事長喊話拜登：我想當駐華大使https://www.caus.com/detail/9375
2、美元大幅下跌，責任或在美聯儲https://www.caus.com/detail/9373
3、繳納不起保證金，非洲疫情最嚴重的國家南非或得不到新冠疫苗https://www.caus.com/detail/9333
求移民與留學經歷，加拿大、美國華人生活感悟，親歷和採訪均可，頭條稿費最高可達千元。要求事實準確，邏輯清楚，只要是真情實感，文字樸素最好。加北美留學、移民、海外生活讀者交流群請先加小編微信，ID：yiqijianada 轉發必讀文章並截圖，驗證後可入群。如果你還沒有關注加美必讀，就麻煩你先掃碼關注，再加一下「星標」吧。