人工智慧能否具有自己的意識,都取決於我們自己

北京時間8月13日消息，據國外媒體報導，很多人都有這樣的疑問：人工智慧最終是否能具有自己的意識？而一名人工智慧專家對此的回應是，這主要取決於我們自己是否希望讓機器擁有意識。

▲在現實中，我們也許要在設計時特意將意識加入機器才行

這聽上去可能太大膽了些。意識的內在機制——我們為何對世界有著這般生動而直接的體驗——一直是神經科學領域的一大未解之謎。甚至有人認為，這個謎團將永遠都無法解開。想用客觀的科學方法解釋人們的主觀體驗似乎是不可能的。但在過去的20多年間，科學家對意識開展了大量深入分析，並取得了重大進展。科學家已經發現了一些與意識相關的神經活動，也進一步了解了哪些行為需要意識的參與。大腦會按照潛意識執行許多高級別的認知任務。

▲任何配備了統計公式的計算器都能進行信度估算，但目前還沒有機器擁有人類這樣的後設認知能力。

總言之，意識並不一定是我們認知過程的副產物。這一點對人工智慧或許也是如此。在許多科幻故事中，機器只要足夠精密複雜，就會自動生成自己的精神世界。但在現實中，我們也許要在設計時特意將意識加入機器才行。

從科學與工程的角度來看，我們有充分的理由進行嘗試。人類對意識本身的無知便是其中之一。18和19世紀的工程師發明蒸汽機時，物理學家還沒有提出熱力學法則。可見發明有時也能促進理論進步。今天的情況也不例外。針對意識的討論往往太偏於哲學，總是繞來繞去地兜圈子，卻提不出任何實際成果。而少數研究人工意識的專家便希望反其道而行之，在實踐中學習。

此外，意識必須能發揮一定重要功能才行，否則早就在進化過程中被淘汰了。這些功能也可以套用到人工智慧身上。而在這方面，科幻作品同樣造成了誤導。無論是在小說還是電視節目中，意識對人工智慧而言都像是一種詛咒。它們會刻意做出無法預測的行為，而這些行為往往對人類不利。但在現實世界中，這種反烏託邦式的情景其實不大可能出現。無論人工智慧會造成何種風險，都不取決於它們是否具備獨立意識。恰恰相反，有意識的機器還能幫助我們應對人工智慧技術帶來的衝擊。有專家表示，相比毫無想法的自動化技術，他寧願與這些有意識的機器共事。

AlphaGo與人類圍棋冠軍李世石一決高下時，很多專家都在思索AlphaGo為何會按這種方式下圍棋。他們想要解釋並理解AlphaGo的動機和邏輯依據。這種情況對現代人工智慧而言十分普遍，因為它們的決策並非由人類提前設定好，而是通過學習算法和用於訓練它們的數據集自發產生。由於無法參透這些人工智慧，很多人擔心它們的決策可能有失公平、過於武斷。現在已經有了算法歧視的例子。如去年的一項調查發現，佛羅裡達法官和假釋官使用的一套算法存在種族歧視的情況，導致黑人罪犯被標註的累犯概率會高於實際情況，而白人罪犯則低於實際情況。

從明年開始，歐盟法律將給予歐盟居民「要求解釋權」。人們將有權要求相關人士解釋某個人工智慧系統為何會做出某種決策。但這項新要求從技術上來說頗具挑戰性。考慮到目前神經網絡的複雜程度，我們還很難參透人工智慧做出決策的過程，更別提將這個過程翻譯成人類能理解的語言了。

如果我們弄不清楚人工智慧為何會這麼做，能否直接問問它們呢？我們可以為人工智慧配備後設認知能力（metacognition），讓它們回顧自身行為，報告自己的內部精神狀態。這種能力是意識的主要功能之一。神經科學家在測試人或動物是否有意識時，尋找的便是這種能力。例如，自信作為後設認知的基本形式之一，意識體驗越清晰明了、自信水平便越高。如果大腦是在不知不覺中處理信息，我們便會對這些信息感覺不太確定；而如果我們清楚地意識到了某個刺激的存在，便會感覺自信許多，比如「我剛才肯定看見了紅色。」

任何配備了統計公式的計算器都能進行信度估算，但目前還沒有機器擁有人類這樣的後設認知能力。一些哲學家和神經科學家提出，後設認知能力也許是意識的精髓。根據「意識的高階理論」假設，意識體驗取決於對某種感覺狀態直接表徵的二級表徵。當我們知道某件事時，我們知道自己知道這件事。而如果我們缺乏這種自我意識，便可以說沒有意識，就像處在自動巡航模式一樣，只是簡單地接受感官輸入、並據此採取行動，但並未加以留意。

這些理論為我們打造有意識的人工智慧提供了一定指導。有專家試圖在神經網絡中植入後設認知能力，讓它們能夠與自身內部狀態進行交流。該項目被稱作「機器現象學，模仿的是哲學中的「現象學」概念，即通過對意識體驗的系統性回顧研究意識的架構。但教會機器用人類語言進行表達並非易事。為降低難度，研究人員目前先專注於用機器語言進行訓練，讓它們互相分享自己的回顧性分析。分析內容為人工智慧執行某項任務的指令。這已經超出了一般機器交流的範疇。研究人員並未具體規定機器應如何編譯這些指令，因為神經網絡自身便可產生對應策略。在訓練過程中，若機器能成功將指令傳遞給其它機器，便可獲得獎勵。研究人員希望把該方法進行拓展，用於人類與人工智慧之間的交流，最終讓人工智慧能夠解釋自己的所作所為。

除了讓我們在一定程度上實現自我理解之外，意識還能幫助我們實現神經科學家安道爾·圖威（Endel Tulving）所說的「精神時間旅行」。我們能夠有意識地預測某種行為的結果，或對未來做出規劃。我們能想像在面前揮動自己的手是什麼感覺，也能在腦海中設想去廚房泡茶的場景，但不需要真的去做這些動作。

事實上，就連我們對目前這一刻的感知也是由意識構建出來的。許多實驗和案例研究都證明了這一點。例如，患有失認症的病人由於視覺皮層中與識別物體有關的部分受損，無法辨認出自己看到的是什麼物體，但不影響伸手去拿這件東西。如果給他們一個信封，他們也知道將其投入郵筒。但假如在向患者展示物體與發出讓受試者去拿物體的指令之間存在時延，患者就無法完成拿取物體的任務了。顯然，意識與複雜的信息處理本身無關。只要某個刺激能立即激發相應的動作，就無需意識的參與。但若要將感官信息保留幾秒以上，意識就變得不可或缺了。

從一類特殊的心理條件反射實驗中，也能看出意識對於填補時間差的重要性。在經典的條件反射實驗中（如著名的巴甫洛夫和狗），實驗者會將一種刺激（如對眼瞼吹氣、或對指尖施加電擊）與另一種無關的刺激（如一個純音）進行配對。實驗對象會自動學習到兩種刺激之間存在關聯，不需要有意識地加以努力。一聽到相應的純音（即只有一個振動頻率的聲音），他們就會自動聯想到吹在眼瞼上的氣流或指尖所受的電擊，下意識地做出畏縮動作。而當實驗者問他們為什麼要這麼做時，他們也說不出所以然來。但只有當兩種刺激同時發生時，這種依靠潛意識的學習才會發生。實驗者若將第二種刺激延後些許，受試者便只有清楚地意識到兩者之間存在關係時，即能夠解釋「聽到純音便意味著眼睛要被吹氣了」，才能學習到兩種刺激之間的關聯。這樣看來，受試者要想在刺激停止後保留對刺激的記憶，就必須要有意識的參與。

這些例子說明，意識的功能之一便是擴寬我們感知世界的時間窗口，使眼前這一刻得以延長。在意識的幫助下，即使在刺激消失之後，對刺激的感官信息仍能維持一段時間，保持靈活可用的狀態。在沒有直接感官信息輸入時，大腦也能不斷生成感官表徵。意識的時延功能可以通過實驗證明。科學家弗朗西斯·克裡克（Francis Crick）和克里斯多福·科赫（Christof Koch）提出，人腦僅利用視覺輸入的一部分便可完成對未來行為的規劃。只不過這些視覺輸入應當在有意識的狀態下完成。

這些例子的共同點是，它們都涉及「反事實信息的產生」，即在沒有直接感官信息輸入的情況下產生對應的感覺。我們稱其為「反事實」，因為它涉及對過去的記憶、或對未來行為的預測，而不是正在發生的實際事件。我們還用了「產生」一詞，因為它不僅僅是信息處理，還是一個創造和測試假想情景的積極過程。在感官輸入從低級別腦區向高級別腦區流動的單向「前饋」過程中，感官輸入會被壓縮成更抽象的感官表徵。但神經心理學研究顯示，無論這種前饋流動過程多麼複雜，都與意識體驗無關。要有意識的參與，還需要從高級別腦區向低級別腦區發送反饋。

具備了產生反事實信息的能力，意識體便可從當前環境中脫離出來，做出非反射性的行為，如等上三秒再行動。要想產生反事實信息，我們需要建立一個掌握了外部世界統計學規律的「內部模型」，依靠該模型完成推理、運動控制和精神模擬等活動。

目前的人工智慧已經有了複雜的訓練模型，但還要依賴人類提供的數據才能學習。若有了產生反事實信息的能力，人工智慧便可自己生成數據，自己想像未來可能遇到的情況，從而更靈活地適應之前未遇見過的新情境。此外，這還能使人工智慧擁有好奇心。如果人工智慧不確定未來會發生什麼，就會親自去試一試。

目前已經有研究團隊在嘗試為人工智慧配備這種能力了，並且已經有那麼幾次，人工智慧似乎做出了意料之外的行為。在一項實驗中，研究人員模擬了一套能夠駕駛卡車的人工智慧系統。若想讓其爬上山坡，通常需要人類將這一動作設為任務目標，由人工智慧找出完成該任務的最佳路徑。但具備了好奇心的人工智慧系統卻將山坡看成一個問題，即使沒有人類的指令，也會主動尋找爬上山坡的方法。不過該發現還需要進一步研究來驗證。

若將「回顧」和「想像」看作意識的兩大要素，我們遲早會開發出有意識的人工智慧，因為這兩項功能對任何機器都十分有用。我們希望機器能解釋自己做事的方式和原因。而要打造出這樣的機器，也能鍛鍊我們自己的想像力。這將是對意識「產生反事實信息」能力的終極考驗。