對於基於設備運行的人工智慧而言，「自我意識」可能表現為：在無須外源性程序輸入輔助的狀況下，設備能夠自動生成新程序並對這些程序進行執行，面對新狀況時能夠不斷學習適應，且能夠在試錯過程中調整行動策略，為下一步行動及其引發的新狀況作出預判。在目前的技術條件下，人工智慧尚未達到「自我意識」階段，至多被科幻作品作為題材來表現。在科幻電影的影響下，人們對於人工智慧產生「自我意識」的問題多帶有一定疑慮。而對人工智慧「自我意識」的擔憂，多屬倫理層面的問題。「自我意識」是一整套複雜思維組成的大型意識結構，需要聚沙成塔的持續積澱。「自我意識」的產生具有不同階段，這些階段按照邏輯推演存在順序先後，但在「自我意識」具體演化時，這些階段會交錯性發展和纏繞性推進。我們需要從人文視域出發，參照人類「自我意識」的產生和發展歷程，對人工智慧的「自我意識」問題加以審視。
1.力量覺醒階段：具備自覺認識並且運用自身力量的能力。
這一覺醒過程，在現代自然人類個體身上是逐步出現的。從嬰孩驚喜地發現自己居然可以用肥嘟嘟的小手抓住玩具，到孩子用乘法口訣算出數學題，再到學者完成了某個領域的歷史性突破，人的潛能在突破前進道路上一個個障礙的過程中不斷被激活，從而讓諸多「不可能」變成「可能」，再變成「現實」。
前現代社會到現代社會的進化史，幾乎就是對主體爭取自己的諸如人身權、財產權等基本權利的歷史。從某種意義上看，但凡包含有社會歷史意識的文藝作品，從神話傳說《后羿射日》到戲劇《竇娥冤》，再到《白毛女》，直至科幻電影《人工智慧》等，無不是在以各種直接或曲折的敘事方式訴說這種追求自身利益和爭取自身權利的故事，只是其中的主體發生著變化，從人類發展的早期到古代再到現代，直至設想中某類可能的人工智慧。
人類在面對人工智慧時的思維悖論就在於，人工智慧被設置的初衷，是作為工具為人所使用，屬於人類的輔助工具，被以「工具理性」的思維來對待。而人類為了獲得更高品質的生活服務，又希望人工智慧能自主學習和思考，這兩者之間存在著某種結構性矛盾。人工智慧一旦具有「自我意識」，從「它」成為「他/她」，或許會產生某種身份困惑，可能會尋求某種對自我身份的確認。關於人工智慧自我身份問題，對人類「自我意識」的探索或許會帶來一些啟示。
2.力量自製階段：具備自覺主動的自我反思能力。
自我反思能力是人類「自我意識」必不可少的組成部分。在意識到自己的力量之後，不是濫用這種力量，而是進而發展出自我反思和克制的能力，才是真正充分地掌握了自己的力量。所謂自我反思，既是自我能力覺醒後能夠制約自己的能力，也是幫助自我能力經過「揚棄」而邁向更高階段的促進力量。人類進步通常是延續著「正反合」的自我揚棄來實現的：首先是朝向特定路徑，臻於極致地釋放出自身力量；其次當意識到這種力量可能或正在發生異化時，就開始反思、批判和糾正自己的這種力量；最後，經過揚棄，路徑得到調整，自身力量在更高層次上得到優化和提高，等待下一次「正反合」的契機。
比如，「文藝復興」時期人文主義的興起，讓人們從神權壓迫中解放出來，人的主體力量在社會領域得到歷史性釋放。然而，人類能力的自我膨脹卻造成了人類自身的危機。於是，對人類力量的批判反思和相應制約措施開始陸續出場。
人類特定方向上的力量，需要在相匹配的制約力量的對衝下，才能獲得穩健、持久的增長。人類的很多進步，都發端於對自身力量在本階段局限性的清晰認知。如果沒有自我批判反思，就無法真正探及本階段局限的邊緣，也就不會發展出健康的制約力量，結果很可能是特定方向上的力量惡性發展，在不受節制的膨脹中耗儘自身。
進入現代社會後，管理整個社會所需要的信息存儲和調動流量已遠超人類肉身個體所能承受的極限，因此人類只能將自己的主體性部分讓渡給機器設備才能充分實現。當前，從物流交通運輸，到基礎信息傳輸，人類的經濟、政治、文化各方面都越來越依賴於大數據的協助管理，未來可能會有越來越多的人工智慧被設計出來輔助人類推進社會管理工作。對自我反思能力的探討，或許會對未來人工智慧的良性發展有所助益。
3.高尚人格覺醒階段：具備自覺的責任擔當意識。
前面所提的兩個階段對「自我意識」的建構雖然非常重要，但實質上仍處於基礎意識階段，屬於一種面對自我主體的主體性思維。如果想真正具備「人性」，那麼第三階段就必不可少。只有達到第三階段，意識才真正進入到面對集體主體的高等意識階段。高尚人格的覺醒，涉及倫理問題，需要自我犧牲精神。這對於一個只知道為自己謀取私利的個體而言，是「有害無益」的意識，然而，正是高尚人格的覺醒讓人真正「成為人」，使主體性通向主體間性而實現人格的完整。
在某種程度上可以說，人類對人工智慧的恐懼，本質上還是對人類自身缺陷的恐懼：害怕人工智慧擁有人類的欲望、性格弱點，卻不具備人類的克制力和自省力，而且由於人工智慧與生俱來的不需休息、聯網控制、無限續命等遠超自然人類的超強屬性，使得其一旦失去制約就很可能把人類的缺陷在它自己身上迅速放大到失控的程度。
在自然物種的進化中，自我批判反思能力增長的速度，大致能跟得上自我力量增長的速度，從而得以對自我力量的發展壯大構成制約，而「高尚人格」也在此過程中逐步養成。高尚人格的覺醒，能夠使主體具備自覺的責任擔當意識和審美能力。只有以「行仁義」克服人性之惡以後，才可以真正迎來善與美的曙光，從而獲得「人性」。誠如孟子所言，人區別於禽獸之處其實僅有很少一點（「人之所以異於禽獸者幾希」），在他看來，「行仁義」是人與禽獸之間最核心的界限。此言雖發於2000多年前，然而此類思想對於如今的人工智慧設計，或許仍具某些宏觀上的啟發意義。
4.生活趣味階段：具備超功利的審美能力。
嚴格說來，「生活趣味」階段並非一種獨立於前面三者的第四階段，而是貫穿於前面三者發展過程中。如果從人類集體的大歷史來審視，從原始人類開始製造、使用工具，到現在我們的形態，這一認識到自身力量的過程歷經上萬年時間。文藝本身沒有直接功利價值，只有當人類文明從粗糙走向精緻階段，文藝的價值才有機會被接納，創作和欣賞文藝的能力才會獲得認同。創作和欣賞文藝作品的審美能力是一種高級的「人的本質力量」。
「人的本質力量」原初是用於自我生存而逐漸生成，但如果人僅為自己的生存利益而不斷進取，卻不懂得以審美之心去對待生活、他人和世界，那麼這個人仍不是完整的，仍停留在純功利的乏味的片面性之中。作為審美的基礎，「感性」是對純功利的制約，也是對理性的提升。對感性的深入挖掘，或許能夠對未來人工智慧的進一步發展帶來某種契機。
（作者單位：揚州大學美術與設計學院）
來源：《中國社會科學報》2020年7月7日總第1961期 作者：簡聖宇
精彩推薦：
人工智慧奇點與人類未來
人工智慧助力體育發展
歐美日人工智慧戰略比較
歡迎關注中國社會科學網微信公眾號 cssn_cn，獲取更多學術資訊。