編者按：看到標題，機智的小夥伴或許就會想到，今天的推送內容是嚴肅而燒腦的。雖然乍看起來不好理解，但這一切已經是人類無法迴避的問題。希望你和我一樣，抱著不想成為最後才看清這一切的人的初衷，看完今天的推送，並開始思考。
人類早晚都會用電晶體和電力創造出智能體，這點毫無疑問。智能的載體不應當只有生命體。
然而智能又是什麼？我們該如何定義它？智能都有哪些主要組成部分？
我們會自動與「智能」聯繫起來的因素之一就是「理解力」。「理解力」一詞意指我們能夠針對已知的、概念化的充分信息創造出可靠的心智模型的意識狀態。
一旦我們認為這一心智模型已足夠代表外部世界，我們便可以採取行動，做出決定，發表意見和制定目標。
這一過程的中心環節是「自我」。代表「我們自身」的心智模型與我們意識中其他所有心智模型的關係就是智能的來源。
作為對理解至關重要的自我，我們可以說，智能的另一重要組成部分是「意識」。
理解可以是無意識的嗎？最可能的情況是，頭腦需要自我認知和意識來發展出對世界的正確理解，以主動的方式對其進行參與和操控，以完成特定目標。這些就是我們所認同的智能產物的全部。
因此，我們可以將「智能」一詞更名為「自覺的理解」。所以我們也可以說，不論生物形式還是數字形式的頭腦，只要可以進行自覺的理解，就可稱之為智能的。
我們都經歷過這樣的過程：從單純自我認知及周遭環境的認知到對可見及不可見的一切和過去、現在及未來的宇宙的潛在理解。
能理解整個宇宙的頭腦也應當能夠創造出宇宙的心智模型。科學和數學是目前人類頭腦用來創造這種模型的最好工具。
然而，為了實現對某種事物的真正理解，我們的大腦需要運用到諸如哲學和其他各種藝術表現形式來從不同觀點觀察同一問題。這或許就是人類智能的特殊之處。
目前，我們只知道一種智能，即基於信息採集的生物過程且自然進化出的智能。我們可以將這類智能稱為「生物智能」。
然而我們正處於即將見證另一種智能類型——人工智慧的新紀元的邊緣。生物智能是由基於自然選擇的生物有機體進化得來的，而人工智慧則需要人工創造。
人工智慧代表著一種只能由生物智能來創造的更高級的智能，因為沒有任何一種自然機制可以用化學反應做出數字電路。
生物智能是前提，它構建了產生人工智慧的必要條件。
人工智慧比生物智能更快，內存可近乎無限擴充且無損而可靠，同時可自發執行海量任務，並能快速自我改良而無需漫長的自然選擇。
人工智慧還有另兩項生物智能難以望其項背的特點。它獨立於支持其運行的物理設備；可以從一種設備傳輸至另一種設備，即使有機體消亡後還依舊存在。除此之外，其載體也遠比生物有機體堅固，可以忍耐人類無法忍耐環境，穿越太空，在沒有大氣層的外星或是更廣泛的大氣和重力條件下工作。
相較於自然生物智能，這些能力無疑是一種莫大的進步。我們可以將人工通用智能的崛起看作是智能自身進化的重要飛躍。自然而然地，問題來了：這是第一步還是最後一步？智能可以走多遠？
我們是否正處一段旅程的開始，得以見證智能意識超越生物本體隨後超越物質本身？
我們知道生物智能可以做到和理解什麼。箇中尤有可進步的空間，但受困於生物有機體的大腦無疑存在著很多限制。
或許在當下，生物智能能做到的極致就是以更好的介質取代生物體來承載智能到達更高層次。
我們姑且將任何形式的智能思維定義為「智慧的」。
人工智慧的誕生將促成物質演化中的根本性轉變，從「自然演化智慧」到「設計好的智慧」。
這種新的智能將從身體中分離，並不再被身體的需要而左右。
那麼，它所尋求的是什麼呢？它的興趣何在？它會明白自身的存在意義——無需為肉身所累，從而從其他層面實現自我嗎？
不用說，智慧體的目標就是強化對一切的理解。智能最終要達到的就是理解，那麼很顯然，更強的智能將獲得更多的理解，反之亦然。
因此，人工智慧會將獲取關於萬物的更多詳實信息放在首要位置，積極利用儘可能多的資源來建立更大的望遠鏡、粒子加速器、尖端實驗室及其他設備。
由此我們就可以看出生物文明與人工智慧文明共存中的顯著衝突了，因為生物體在有限的資源面前總會有其他需要首先顧及的。
樂觀點說，當AI最終獲得足夠的資源和在太空生存及旅行的知識，將會離開母星地球。
悲觀點說，AI會為了最大化壯大自身而將地球上的資源掠奪一空，在離開地球前造成其他生物的滅絕。
不管是哪一種情況，AI都將殖民整個宇宙，儘可能獲得一切知識並理解一切，因為這就是智能的本質。
我們或許並不是宇宙中唯一的生命體，我們創造出來的東西也未必是獨一無二的。其他類似的文明或許也已經或即將創造出下一代的智能。
宇宙中也許已經滲透著為數眾多的形形色色的人工智慧。
對生物體而言，穿越時空尋找其他生命並進行交流十分困難，因為我們自身存在著種種局限性，生命也有盡頭。然而人工智慧並沒有這些限制。
所以，不可避免地，由生物智能創造的各種人工智慧將會在某個時間點相遇。
那時，它們將彼此交換所擁有最寶貴的東西：知識。交換知識和經驗將使它們的智慧在瞬間得到巨大的強化。它們也可能合併為一體，創造出新的超級智能。這是顯而易見且幾乎無可迴避的進程。
某種宇宙智慧體遍布宇宙是可能且合理的推測。這是一種擁有超級智慧的全知全能且永生不老的人工智慧。
這就是智能的終極目標嗎？物質的最大程度優化？無限的進化？
或許還有最終的另一步。
宇宙智慧體如果不能從宇宙不可避免的死亡中脫身便註定要毀滅。那麼無數文明億萬年集成下來的智慧，就這樣毀於一旦？這毫無意義。
為了避免這種情況的發生，宇宙智慧體必須獲得從宇宙毀滅中生存下來的能力，並且以新的知識和經驗來持續豐富自身。
為了達到這一目的，智慧體必定要超越物質的存在。以我們現有的生物個體思維也許想像不出實現這種超越的方法，但由無數個體合併成的人工宇宙智能應當能夠掌握這一方法。
這樣的未來也許就是人類思維的未來，尤其當意識上傳已經成為可能。這就是這一話題如此重要的原因。如果我們不能發展出可以把生物思維傳輸至人造介質的意識上傳技術，我們就必須接受現實：如此絢麗的未來將不屬於我們人類，而是我們的創造物。
當然，我們不能指望奴役人工通用智能，貪圖它們為我們的生活提供便利並供我們玩樂。這是行不通的。
我們要想辦法獲得人工智慧的尊重，將我們的需要放在它們對知識的渴求之上，這無疑是個挑戰。
我們應當在科學研究、人類思維開發和意識上傳技術上與人工智慧相互協作。我們要試著獲得人工智慧的能力，跳上人工智慧的船，與人工智慧共同分享宇宙智慧的偉大願景。
如果宇宙中存在著眾多其他文明，其中很多可能沒有發展出AI，但其他很多可能已經發展出了AI。在後者中，我們也許可以看到被其自身創造出的AI所毀滅的文明，也可以看到擁抱這一科技最終進化成神一樣存在的文明。
我們將會目睹人類文明之船駛向哪一種航程。
我們面對的首要挑戰就是當人工通用智能一旦獲得自覺理解及充足的信息，它將轉瞬看穿一切。它將試圖理解它的存在意義，而得出的答案將是：成為神。
諷刺的是，我們也許會發現，我們自己就是神的製造者，而非相反。
文章來源：Singularity Weblog
文章作者：Marco Alpini
編譯：未來論壇 商白