從「科學怪人」到「西部世界」藝術家如何思考?

在奧爾德斯·赫胥黎於伊頓被聘為校長的一百年後（當時喬治·歐威爾是他的學生）的2017年7月，獨角獸空間做了一個名為《第一次在歷史上，你找到了自己的位置》的展覽。展覽的名稱源於《美麗新世界》1（「BRAVE NEW WORLD 」Aldous Lenard Huxley 1932）一書——二十世紀中一次最重要的對於生物技術決定論的敘述。「第一次在歷史上，你找到了自己的位置」關注媒介、身份、理想主義和烏託邦的融合。幻想與現實在圖像中交織對話，揭示烏託邦的樸素性和當今事件的超現實本質。通過影片、攝影、裝置、錄像、雕塑、詩歌及繪畫的表達代表著交替的、平行的和抗辯的未來觀的不同策略、視角、笑話、陳述與敘述，以及在今天世界各地的藝術實踐中出現的各種象徵、符號與解讀。

獨角獸空間通過展覽翻開了烏託邦故事新的篇章，集結實體和虛擬的化身，宣布「第一次在歷史上，你找到了自己的位置」，從而翻開了「獨角獸空間」對於當下藝術家們對於「科技&藝術」的思考和探討的序幕。

人類在幾千年來一直探索用各種工具和器械來拓展自己身體各方面的官能，突破物理極限，隨著馬斯克的腦機接口技術的研發，人類身體與機器的重新構造可能性又變得更加的多樣，我們的身體可能會變成像我們構想的神明的形象擁有三頭六臂，也可能會利用物理技術來實現身體變大變小的法術，也肯能會由於我們的意識大多時間存活在虛擬世界而身體不斷變小的進化以便不佔據物理生存空間。不難想像未來幾十年我們可能會面臨新的人類種類劃分，不是從膚色上也不是種族上，更不是地域上，而是構成身體的成分上進行劃分：原生人（未經任何改造的人類）、生物機械化人（肢體被改造成機械或用機械填充缺失的肢體或用機械拓展肢體但都由人的意識控制）、賽博人（計算機技術控制的生物體）。2

同年11月，獨角獸空間開幕了以瑪麗·雪萊（Mary Shelley）的小說《弗蘭肯斯坦（Frankenstein）》3為背景的同名展覽「弗蘭肯斯坦（Frankenstein）」也被翻譯為《科學怪人》，該書講述了一位名為維克多・弗蘭肯斯坦（Victor Frankenstein）的科學家創造出一個人造人怪物的哥德式故事。這部小說代表了當時西方世界在十九世紀令人矚目的前沿科學研究，也是今天科幻小說的鼻祖。「弗蘭肯斯坦（Frankenstein）」的開篇，由北極探險家羅伯特·沃爾頓撰寫的一系列信件開始，羅伯特·沃爾頓（Robert Walton）的文字致力於擴大已知世界的邊界。沃爾頓首先在北極遇到維克多·弗蘭肯斯坦，拼命尋找他所創造的怪物。探險家成為唯一一個聽到維克多·弗蘭肯斯坦（Victor Frankenstein）奇特而悲慘故事的人。

在展覽中，獨角獸空間邀請到的兩位藝術家通過長期交流用不同的視角去解讀現代的「弗蘭肯斯坦」。通過圍繞小說《弗蘭肯斯坦》（「Frankenstein」）的主題，對當下「進步的科學」和「未知的探索」提供不同角度再次思考人類的冒險精神。用作品和對話，將「獨角獸空間」變成一個隱喻的場所。展覽的開篇，策展人用一封寫給弗蘭肯斯坦的信，來述說我們所處的多元化時代，進而解讀兩位所處於不同時代背景的藝術家是如何從他們的視野來觀察現代世界這200年來的歷史，變遷和發展。藝術家Catherine Wagner，將這部小說解讀為反思「弗蘭肯斯坦」；用二維的攝影作品，檔案試地記錄和陳列對科學史進行多維度的思考。而關於對未來世界的潛在影響和描繪，同樣生活在舊金山的藝術家邱經緯則通過FMRI下所觀察到的腦活動成像圖片，來論述世界在技術推動下以一種不斷被更替的感知方式所呈現。而一系列的霓虹燈文字，則由兩位藝術家共同從小說中的文字中提煉並摘錄出來，旨在分解和重構這個語境場域。

「在過去10萬年裡，整個世界一直處於人腦管理之中。一旦我們擁有超人類的人工智慧，人類大腦的管理時代就將結束。環顧四周，你見證了千百年來人類大腦管理世界的最後幾十年。」物理學家揚·塔裡安在《AI的25種可能》中寫道。美劇《西部世界》還在討論，人應該把機器人當人。然而，加州大學伯克利分校人工智慧研究實驗室的創立者安卡·德拉甘提出，我們現在面臨的最迫切的問題是要讓機器人把人當「人」，而且一開始就要這樣做，「而不是事後再考慮這件事」。

《AI的25種可能》一書，集合了全世界最聰明的25顆大腦，他們中有物理學家、生物學家、計算機專家、哲學家、心理學家、藝術家，有諾貝爾獎獲得者，也有人工智慧的理論和技術奠基人。他們預測了AI發展的種種前景，也警示了AI給人類帶來的種種挑戰：「進步未必一定給我們帶來美好的未來，危險不在於機器變得像人類，而是人類變得像機器。」

獨角獸空間從書中精選了幾個人的預測，來討論：

弗蘭克·維爾切克：2004年諾貝爾物理學獎得主

今天的人類，也許只是未來更強大的智能生物的一個進化起點。

人類大腦目前和人工智慧相比具有的優勢：三維、自我修復、神經元的連接能力、腦細胞的交互式發育、感覺器官的集成。三維、自我修復這兩項能力，對於AI來說並不難，現在已經有了明確的前進道路。感覺器官的集成方面，人類的視覺、聽覺、觸覺等遠沒有達到任何物理極限，機器人可以移動更快、身體更強。所以人類剩下的最核心的優勢是神經元的連接性和腦細胞的交互式發育。這可能成為一個新的、偉大的研究前沿。未來的人類，回頭看今天的我們，可能會覺得我們是他們「精神的始祖鳥」。始祖鳥是一種高貴的動物，它能進化成更高級的生物。

喬治·丘奇：哈佛大學教授，人類基因最早的編輯者之一

未來什麼樣的人可以算作「人」？機器人如果有意識，是不是也應該有權利？

1978年，世界首例試管嬰兒路易斯·布朗誕生之前，許多人擔心她「可能是個小怪物，在某些方面，可能是畸形」。但今天關於體外受精，很少有人有這種擔心。

全世界有超過2300項經批准的基因治療臨床試驗正在進行中。通常需要幾個月時間才能發生的過程，現在在實驗室通過使用正確的轉錄因子配方在4天內就能發生。

我們能創造出這樣的大腦，它具有越來越高的保真度，人工大腦器官超過了以前的亞微升限制，可能超過現在的1.2升現代人腦，甚至超過大象的5升大腦或抹香鯨的8升大腦。

我們認為永遠不會跨越的警戒線現在似乎離我們越來越近，也越來越瘋狂。人類與機器之間的界限變得模糊，機器變得更像人類，人類也變得更像機器。我們越來越盲目地遵循GPS腳本、反射式推特和精心設計的營銷。

在遺傳學領域，警戒線使我們禁止或避免使用轉基因食品，但我們卻可以接受改造了基因的細菌來製造胰島素，或者接受轉基因人類——歐洲已批准將線粒體療法用於成人和胚胎。

地球上已經有超人類了嗎？如果我們把「超人類」定義為我們對他們的技術和文化不能理解的那些人，那麼肯定有數百萬人已經是超人類。而且我們大多數人還盼望著有更多人是超人類。

「什麼是人類」的問題，其實已經轉化為「各種超人類是什麼？他們的權利是什麼？」的問題。

丹尼爾·丹尼特：人工智慧領域最優秀的哲學家

他曾經建立了一個人類意識模型，這個模型使得計算機也可以發展出人類意識。

大多數哺乳動物都能合成自己的維生素C，但是靈長類動物自從選擇以水果為主的飲食後，便失去了這種先天的能力。現在我們必須從外界攝取維生素C。除此之外，我們人類現在還依賴於衣服、熟食、維生素、疫苗、信用卡、智慧型手機和網際網路，以及人工智慧。

事情的不確定性就源於此。當出現極具吸引力的機會時，我們往往願意花一點錢，為獲得新的能力接受一些小的、甚至是微不足道的代價。很快地，我們對新工具如此依賴，沒有它們我們便無法發展。原本只是選項，現在卻成了必需品。

我們不需要有意識的人工主體。有自然意識的人類的數量已經太多了，我們需要的是智能工具。這些工具沒有權利，也沒有會被傷害的感情，亦不會憤憤不滿於笨拙的用戶對它們的「虐待」。不讓人工主體有意識的原因之一是，不管它們變得多麼有自主性，如果沒有特殊規定的話，它們不會像我們這些有自然意識的人類一樣，有弱點，會死亡。

數字記錄和傳輸是一種重大突破，使得軟體和數據實際上可以永遠存在，依靠它，機器人獲得了永生。如果這還不明顯，那麼想想假如我們每周都能製造一些「備份」人，人類的道德會受到怎樣的影響。

我們不應該努力創造強大的人工智慧，而應該極其謹慎地對待我們能夠創造和已經創造的人工智慧系統。

塞思·勞埃德：量子計算機之父

如果摩爾定律的增長可以持續，那麼只需600年時間，就能把整個宇宙變成一個巨大的量子計算機。最近，我問現代神經科學先驅託馬索·波焦，是否擔心隨著計算機處理能力的快速提高，計算機將很快趕上人腦，「絕不可能，」他回答。

1950年以來，幾乎每隔兩年，計算機的性能便會提升一倍，這種現象便是「摩爾定律」。

然而，沒有任何一種指數式增長能夠一直持續下去，摩爾定律的指數式增長近來開始進入基礎物理所設定的極限之中。最終，摩爾定律驅動的各種存儲器和處理器的指數式增長都將停止。很多人擔心，深度學習和算法的發展，會讓人工智慧的能力超過人類大腦。但機器學習的真實情況恰恰相反：當它們的學習能力變得越來越強時，它們的學習方式會變得越來越像人類。

許多事例表明，機器的學習是在人類和機器老師的監管下進行的。對計算機進行教育就像對青少年進行教育一樣困難、緩慢。它們帶來的學習技能不是「優於」而是「補充」人類學習：計算機學習系統可以識別人類無法識別的模式，反之亦然。

朱迪亞·珀爾：加州大學洛杉磯分校認知系統實驗室主任

1980年代他發明了貝葉斯網絡，這是當今AI能夠進行深度學習的基礎，AlphaGo正是憑藉深度學習能力，打敗了圍棋世界冠軍李世石。深度學習有自己的動力學機制，一旦你餵給它大量的數據，它就活躍起來，還能自我修復，找出最優化組合，絕大多數時候都會給出正確的結果。可一旦結果錯了，你不會知道哪裡出了問題。

有些人認為，我們為什麼不利用深度學習系統，建造一種不用了解它們工作原理的智能呢？不透明的系統也能做出色的工作，我們的大腦就是這樣的奇蹟。

但這種觀點有其局限性。

尤瓦爾·赫拉利（《人類簡史》作者）等研究「智人」的歷史學家們一致認為，人類祖先4萬年前能統治地球的決定性因素是：他們擁有一種將客觀外在事物進行內化的能力，他們能反覆回味這種內化的結果，用想像力扭曲它，最終能夠回答「如果……會怎樣？」

比如他們會問一些介入性的問題：「如果我這樣做了，會怎樣？」還會問一些回顧性或反事實的問題：「如果我沒那樣做，會怎樣？」

今天沒有一臺學習機器能回答得了這樣的問題。而且，大多數學習機器也不具有這種內化的心理能力，去提出這樣的問題。

如果AI的因果模型始終是黑匣子狀態，那麼我的結論是，不可能從中誕生出堪與人類媲美的人工智慧。

文卡·拉馬克裡希南：2009年諾貝爾化學獎獲得者，英國皇家學會現任主席

我思故我在。我們恐懼人工智慧，是因為我們相信正是智能才使得我們與眾不同。

到目前為止，我一直關注人工智慧帶來的實用後果。作為一名科學家，困擾我的是我們可能會失去理解力。

在我自己的實驗室裡，一個實驗每天產生超過1T字節的數據，我們對這些數據進行處理、分析和簡化。我們知道程序在做什麼，因為程序算法的核心是我們設計的。因此，當計算機產生結果時，我們感覺是我們在智力上掌握了它。

新的機器學習程序是完全不同的。通過深層神經網絡識別出模式後，它們會得出結論，而我們完全不知道這是怎麼回事。如果有人問我們如何知道某事，我們只會說，因為機器分析了數據，機器得出了結論。

有一天，計算機很可能會得到一個全新結果，例如得到一個數學定理，關於這個數學定理的論證，甚至對它的描述，都沒有人能理解。我覺得這種理解能力的潛在缺失令人不安。

許多進化論科學家都指出，人腦是幾十億年進化的結果。人類智能並不是像我們認為的那樣是人類所有的特殊特徵，它只是另一種生存機制。世界上已經有好幾個國家已經啟動了神經科學的登月計劃，看看我們是否可以破解大腦的運作。

如果我們後退一步，看看地球上的生命，就會發現我們遠不是最具彈性的物種。如果在某個時候我們人類會被取代，那取代我們將是地球上最古老的生命形式，比如細菌，它們可以生活在任何地方，從南極洲到深海熱液噴口，或者生活在酸性環境中，在這樣的環境裡你和我都會被融化。

我不知道人工智慧會帶來怎樣的未來，但無論是哪種未來，我都可以相當肯定地說，計算機永遠不會是細菌的霸主。

史蒂芬·沃爾弗拉姆：「神童」、科學家、發明家

他發明了人類和AI溝通的第一種真正的語言——Wolfram語言。

與機器交流和與人類交流有何不同？在大多數人與人的交流中，我們堅持使用純語言，而在計算機與人的交流中，大多數人想要的是視覺顯示，顯示這個或那個的信息圖。這是一種非人類的交流方式，比傳統的口頭交流或打字交流更豐富。

500年前的人類需要解決的大問題是識字。今天，我感興趣的一個問題是，當大多數人都能編寫代碼時，這個世界會變成什麼樣？

很明顯，很多瑣碎的事情都會發生改變：合同用代碼起草，餐廳菜譜用代碼書寫，等等。編碼是一種表達方式，就像用自然語言寫作是一種表達方式一樣。

自然語言給我們帶來了文明，那基於知識的編程會給我們帶來什麼呢？一個糟糕的答案是，它會給我們帶來人工智慧的文明。

這是我們不希望發生的事情，因為人工智慧會彼此溝通得極為順暢，這樣我們就將被排除在外，因為沒有中間語言，沒有與我們大腦的連接口。在人工智慧彼此溝通的這個層次上，知識交流會帶來什麼？如果你是穴居人，如果你剛剛意識到有了語言，你能想像得出文明的出現嗎？我們現在應該想像什麼？

以高中教育為例。如果我們有了計算思維，這會如何影響我們學習歷史學？答案是，影響極大。通常來說，學生無法輕易地創造出新知識。但如果學生對編寫代碼有所了解，他們就可以訪問所有數位化的歷史數據，從而找出新東西。基於知識的編程，自己可以不斷繁衍。

這是哥白尼故事的另一部分：我們曾經認為地球是宇宙的中心。現在我們認為我們很特別，因為我們有智慧，而其他的東西卻沒有智慧。恐怕壞消息就是這不是什麼特別之處。

我們今天的許多目標都是由某種稀缺造成的。世界上資源稀缺，人們想得到更多的東西。在我們的生命中，時間本身就是稀缺品。

然而，最終這些稀缺都將不復存在。長生不老總有一天會實現，不論是在生物學上還是在數碼上。那麼，我們今天的動機都不再存在之後，未來人類的後代最終會選擇做什麼？一個可能的壞結果就是他們總是玩電子遊戲。

假設有一天我們能很輕易將人類意識以數字形式上傳，將其虛擬化，那麼我們很快就有了裝著一萬億個靈魂的盒子。在這個盒子裡，分子計算將一直繼續進行。每個靈魂本質上都在玩一個電子遊戲。

你可以想像，這就是我們未來文明的終點？細思極恐。

2018年的9月，獨角獸空間又一次發問，做了名為《山雨欲來風滿樓Apres la vague， les tourbillons des bas-empires》的展覽。「山雨欲來風滿樓」源於唐代許渾的詩《鹹陽城東樓》。「山雨欲來風滿樓」蘊含了詩人特殊的社會體驗：歷史演進、王朝更替、世事滄桑，詩人不由生出弔古之情。與之相對應的法文主題：「Apres la vague，les tourbillons des bas-empires」的淵源則講述了古典時代晚期羅馬帝國三世紀危機的歷史，也就是所謂的帝國危機：無政府狀態、外敵入侵、內戰、經濟崩潰……羅馬帝國發生了重大的改變，基督教成為國教，西羅馬帝國被東羅馬帝國所取代，首都從羅馬遷到拜佔庭，並更名為君士坦丁堡。

人類歷史無不例外的相似……科技的高度發展，現今社會人們對於生態危機、經濟危機、政治危機，憂心重重。莫名地將眼前的藝術家設定為阿甘本（Giorgio Agamben）筆下的「餘留者」，餘留者不是生活在末世之後的人，而是生活在現在。不同於生活在編年時間中的人，餘留者充滿潛力，並滿懷一種迫在眉睫的緊迫感。

在媒體裡常常看到這樣的言論：人類消失的世界不一定只存在在科幻小說裡，也有可能是全球暖化的後果……過去，我們總說自然界太巨大，人類無法一探究竟，而現在我們所處的世界，人工智慧無處不在；一個由信息網絡控制下的超有機體成功主宰了每寸方土，這個世界不再受人類的感知力及生命的局限性而左右自身的運作。正是如此，這樣一個難以駕馭的世界，也將使我們有機會邁向孤寂。

而我們所說的未來有多遠呢？統計資料顯示許多事實遠比科幻小說來得更直接，除了未來隱約可見的災難，也透過現在的媒體網絡，景觀與未來的種種交集，未來人類遺蹟會在遺棄的，老舊的工業產物中塑形而成；而記憶的建構則撐起人類數位化的另一面向。

藝術家Fanny PALDACCI 的作品「浪過留痕」發生在太平洋的東岸的一個小沙灘，黑色鋼板沿著海灘平鋪，形成一條平行於岸邊的線，漸漸下陷。潮水升起，海水留在金屬鋼板上，金屬與帶鹽的海水接觸而氧化，我們眼前的畫面是奇妙化學反應的結果。作品「地表的形狀」粉紅色的塑料桌布被帶到杭州城郊的一個工地上，藝術家鋪設好材料後，每天用連續層噴塗的天然漆覆蓋，直到形狀完全固化，鋪設的區域紀錄了該地域形態發生的變化。藝術家Paul DUNCOMBE給我們營造出的整個場景中，大量被破壞的廢棄物，植物，微生物，動物，引入藝術家所創造的世界，顯現在靜默無聲的物體上。DUNCOMBE提供給我們一個對於生命可能性的想像。「破壞」暗示著一種連結過去與未來的轉變。他將藝術家的視角從「微觀的未來」切換回當下的真實，並力圖在當下這個看似「迷霧環繞」「咄咄逼人」的時間閾限之中體察人與物，與自然的關係。這一裝置，以實驗的方式，存在於細菌，細胞這類生物性物質；未來的記憶可能是影像作品「墜落著的王國」中的形成的畫面，來自當下的遠古，是被遺棄和破壞了的物物件，是細胞，是細菌，是生命。

這一切無不將我們從平靜的城市生活拉到了生機勃勃的自然界以及當下。而當下總是在過去與未來之間，形成不受時間影響而持續存在的差異。這是一種善意的提醒，當未來成為當下的時候，我們有需要用差異重新打開未來的可能性。（文/楊嘎）

註：

1，奧爾德斯·赫胥黎《美麗新世界》（「BRAVE NEW WORLD 」Aldous Lenard Huxley 1932） 宋龍藝譯 北京理工大學出版社，2013.11

2，姜同CAFA設計學院藝術與科技專欄 | 身體重塑：感官拓展與機械構型

3，瑪麗·雪萊《弗蘭肯斯坦（Frankenstein）》耿智，劉宜譯 花城出版社，2015.6

4，《AI的25種可能》一書，湛廬文化出品，浙江人民出版社出版，約翰·布羅克曼編著，王佳音譯