編者按：本文是根據網際網路進化論作者，計算機博士劉鋒4月13日中國科學院科技戰略諮詢研究院與騰訊研究院在北京聯合舉辦了「2017人工智慧：技術、倫理與法律研討會」上的發言內容整理形成。演講的題目是「人工智慧倫理規則制定與生物進化方向的關係」。
本文詳細闡述了制定人工智慧倫理需要回答的5個問題，提出「生物進化是否有方向「能否達成共識，將是未來制定人工智慧（AI）倫理能否形成規範的關鍵。根據「2017人工智慧：技術、倫理與法律研討會」的演講整理的研究報告如下：
通俗的說：倫理就是指「人與人以及人與自然的關係和處理這些關係的規則」，人類數千年的文明史，至今我們也沒有一個統一的、標準的、明確的倫理體系，僅有一些大部分人承認的大體的原則。對於人工智慧帶來的倫理衝擊，因為倫理問題的不完善和爭議而變得更為突出。
鐵達尼號（RMS Titanic，又稱鐵達尼號）是一艘奧林匹克級郵輪，於1912年4月處女航時撞上冰山後沉沒。鐵達尼號海難為和平時期死傷人數最慘重的海難之一。船上1500多人喪生。在逃生的過程中究竟哪個群體獲得生命優先權。成為逃難過程中面臨的重要的問題，美國新澤西州州立大學教授、著名社會學家戴維·波普諾在他的《社會學》一書中這樣寫道：「……不幸的是救生船不夠。儘管很多人(超過1500人)遇難，但乘客注意遵守『優先救助婦女兒童』的社會規範」，使得英國公眾和政府面對這一巨大災難，「可以找到一些安慰」——統計數據表明，「乘客中69%的婦女和兒童活了下來，而男乘客只有17%得以生還」。
《2012》是一部關於全球毀滅的災難電影，於2009年11月13日在美國上映。電影講述了主人公以及世界各國人民掙扎求生的經歷，災難面前，盡現人間百態。電影中當空軍一號只能容納一人登機時，美總統讓物理科學家安全離開，自己留下時說到「一個科學家比幾十位官員更重要「
火車正在急速行駛，不能急停。而正前方有一分叉路軌， 左邊仍在使用， 右邊已經停用(但是火車行駛上去.還是安全的) 。有5個小朋友在仍在使用的鐵軌上玩，一個小朋友在停用的鐵軌上玩。這時火車來了。按照火車原定路線，會駛向左邊，撞上5個小朋友。如果駛向右邊，只會撞上1個小朋友。假如你是扳道工，你會不會把火車扳向右邊？
波士頓動力機器人在搬動箱子時，受到測試科學家的攻擊，導致站立不穩摔倒，網際網路的視頻觀眾提出抗議，認為侵犯了機器人的權利。
「機器人不得傷害人類；機器人必須服從人類的命令，除非這條命令與第一條原則相矛盾；機器人必須保護自己，除非這種保護與以上兩條原則相矛盾。」以上是著名科幻作家、「機器人學之父」阿西莫夫提出的「機器人三原則」，被後世無數的科幻小說及影視作品引用，被人們奉為經典。
在阿西莫夫眼中，機器人只是冷冰冰的機器，是為人類服務的工具。既然是工具，自然也就不需要什麼權利，所以當「保護自己」與「不得傷害人類」、「必須服從人類命令」相矛盾的時候，機器人最基本的生存權都可以被毫不猶豫地犧牲。
但是，近年來，在機器人技術快速發展以及與人類關係日益密切的時代背景中，關於機器人權利問題的討論受到越來越多的關注，學者和公眾紛紛參與其中。
制定AI倫理無法迴避的5個問題
1.應該由誰來制定AI倫理
2.站在誰的立場制定AI倫理
3.按照什麼原則制定AI倫理
4.AI倫理是供誰來參考使用
5.AI能不能被看做與人類同權的生命體
19世紀中葉，達爾文創立了科學的生物進化學說，以自然選擇為核心的達爾文進化論作為人類科學史最偉大的理論之一。統一了生物學的各個學科。達爾文進化論的影響不僅僅局限在生物學領域，也提供了一種全新的世界觀、生命觀、宇宙觀和方法論，對幾乎所有的科學和人文領域產生影響。包括人工智慧的倫理問題最終也會受達爾文理論的影響。
達爾文的進化論排斥了目的論（這被邁爾讚譽為其偉大的貢獻之一），達爾文主張變異是隨機的，用比上帝一點也不遜色的「自然」一詞來解釋其所精心構建的進化理論的核心。但是，達爾文也有其困惑和無奈，他感嘆道「這廣闊無垠、奇妙無比的宇宙……竟然是盲目的機遇或必然的產物感到非常難於甚至無法理解」(2-謝平. 2014. 生命的起源—進化理論之揚棄與革新.)
達爾文進化論認為生物進化並不是從低級到高級的進化，人類並不比其他生物高級，達爾文把生物進化過程設想成一棵不斷地生長、分支的大樹，現存的所有生物都位於這棵樹的某個小分支的頂端，很難說哪一種更高級，在同時存在的生物種類之間作高低級的比較是沒有意義的。進化沒有預定的方向，進化樹不存在一個以人類為頂端的主幹，人類只是進化樹上一個普普通通的分支。從達爾文進化論的角度看，人並不比老鼠，螞蟻更為高級，人類並不能代表生物的發展方向。
達爾文進化論關於生命沒有方向的觀點在新的科技進展下會不會有新的進展和突破。我們下面分別從腦科學，網際網路和人工智慧的研究進展探討這個問題。提出腦科學，網際網路和人工智慧的進展將聯合從不同角度展示出生命進化的方向和目標。
雖然生物的表現形式千差萬別，但生物的核心-大腦確表現出明顯的方向性，從單細胞到人類，大腦越來越複雜，智慧程度越來越高。到達人類這個最高點之後，生物的的進化出現新的形式，人通過網際網路聯合在一起共同進化。
諾貝爾獎獲得者澳大利亞科學家John.C.Eccles在其著作《腦的進化》中就提到「生物的大腦是從魚的大腦進化到爬行動物的大腦，再進化到哺乳動物的大腦，最後進化到人類的大腦。如果解剖人腦，我們可以清晰的看到類魚、類爬行動物、類哺乳動物的結構在人腦中涇渭分明。「。
網際網路進化論的結論「網際網路將向著與人類大腦高度相似的方向進化，它將具備自己的視覺、聽覺、觸覺、運動神經系統，也會擁有自己的記憶神經系統、中樞神經系統、自主神經系統。
另一方面，人腦至少在數萬年以前就已經進化出所有的網際網路功能，不斷發展的網際網路將幫助神經學科學家揭開大腦的秘密。科學實驗將證明大腦中也經擁有Google一樣的搜尋引擎，Facebook一樣的SNS系統，IPv4一樣的地址編碼系統，思科一樣的路由系統。。。」
物聯網是網際網路大腦的感覺神經系統萌芽，雲計算是網際網路大腦的中樞神經系統萌芽，工業4.0，工業網際網路，無人機，智能駕駛，3D本質上是網際網路運動神經系統的發育和萌芽，大數據是網際網路大腦信息的基礎，AI+是網際網路智能，智慧和意識產生的基礎。
當生物進化到人這個程度之後，人類通過網際網路聯合在一起共同進化。而這種共同進化的結果是。連接了人類的網際網路，在結構上與大腦一步步走向高度相似，在空間上隨著人類的擴張不斷蔓延，如果有足夠的時間，可以預見到在足夠時間點後，空間，大腦，和網際網路三者將合為一體，進化成為成熟的網際網路類腦架構。
達爾文進化論的結論是向前推導的，即生物有共同的祖先，通過自然選擇，人這種物種出現了。網際網路進化論的結論是向後推導的，認為人通過自己創造的技術和工具網際網路向著網際網路類腦架構的方向進化。「人「這個要素將網際網路的進化和生物的進化連接起來。
標準智能系統的判定標準：任何系統（包括人工智慧系統、人類等生命系統），如果符合如下特徵，就可以認為這個系統屬於標準智能系統。
特徵1：能通過聲音、圖像、文字等方式（包括但不限於這三種方式）從外界獲取數據、信息和知識的能力。
特徵2：能夠將從外界獲取的數據、信息和知識轉化為系統掌握的知識。
特徵3：能根據外界數據、信息和知識所產生的需求，通過運用所掌握的知識進行創新的能力。這些能力包括但不限於聯想、創作、猜測、發現規律等，這種能力運用的結果可以形成自身掌握的新知識。
特徵4：能夠通過聲音、圖像、文字等方式（包括但不僅限於這三種方式）將系統產生的數據、信息和知識反饋給外界或對外界進行改造。
標準智能模型的建立參考了馮·諾伊曼架構。馮·諾伊曼架構由計算器、邏輯控制裝置、存儲器、輸入系統和輸出系統五個部分構成。通過對比標準智能模型和馮諾依曼架構的差別能夠發現，馮·諾伊曼架構可以補充兩個部分。通過這種補充，我們得以將人、機器以及人工智慧系統用一個更為明晰的方式表示出來。
第一個補充是創新創造功能，即能夠根據已有的知識，發現新的知識元素和新的規律，使之進入到存儲器，供計算機和控制器使用，並通過輸入/輸出系統與外部進行知識交互。第二個補充是能夠進行知識共享的外部知識庫或雲存儲器，而馮·諾伊曼架構的外部存儲只為單一系統服務。因此，對馮·諾伊曼架構進行擴展，可形成新的架構
進化的方向-智能系統的等級劃分
智能系統的第0級系統，其基本特徵在理論上存在，但現實中並不存在這樣的人工智慧系統。
智能系統的第1級系統，其基本特徵是無法與人類測試者進行信息交互的系統和物體。
智能系統的第2級系統，其基本特徵是能夠與人類測試者進行交互，存在控制器和存儲器。
智能系統的第3級系統，其基本特徵是除具備2級系統的特徵外，其控制器、存儲器中包含的程序或數據可不聯網進行升級或增加
智能系統的第4級系統，其基本特徵除了包含3級系統的特徵外，最重要的是可以通過網絡與其他智能系統共享信息和知識。
智能系統的第5級系統，最基本的特徵就是能夠創新創造，識別和鑑定創新創造對智能系統的價值，以及將創新創造產生的成果應用在智能系統的發展過程中。
智能系統的第6級系統，最基本的特徵就是隨著時間的向前推進，並趨向於無窮點時，不斷創新創造產生新知識的智能系統其輸入輸出能力，知識的掌握和運用能力也將趨近於無窮大，
從腦科學，網際網路的進化和智能系統等級劃分得到的啟髮結論
腦的進化，網際網路的進化，智能系統的智力等級劃分都表現出明顯的方向性。對於這三個領域，他們的共同點都是承載著生命的知識和智慧，並不斷進化和提升。
知識和智慧的提升和進化是生物進化的核心，從知識和智慧的角度判斷生物進化的方向和生物的高低等級。
生物種群知識庫的膨脹速度是生物進化的焦點，其它生物的知識庫停滯，走向死胡同，因此在千萬年裡沒有進一步的變化，在地球的生命圈中也處在越來越低的地位。
人類在進1萬年裡，在知識和智慧上不斷擴展和加速，並因為網際網路和人工智慧的發明而得到進一步巨大飛躍，從而獲得了地球自然競爭的統治地位。
生物進化的方向和目標
生物進化的方向就是不斷擴大種群的知識庫和改造自然的能力，目標是實現對整個自然（生命圈，宇宙）的全知全能。生物的等級高低根據其擁有的知識庫容量和改造世界的能力劃分。
進化方向對AI倫理問題的影響和回答
1.應該由誰來制定AI倫理
由擁有知識最豐富，智慧最強大的生物種群制定
2.站在誰的立場制定AI倫理
站在擁有知識最豐富，智慧最強大的生物種群立場
3.按照什麼原則制定AI倫理
按照對擴大（制定規則者所在）種群知識和智慧有利的原則制定AI倫理
4.AI倫理首先是供誰來參考使用
供（制定倫理規則的生命）種群的管理者（政府，企業家）、研究者（科學家）、開發者（程式設計師和產品經理參考
5.AI能不能被看做與人類同權的生命體
AI還不能看做與人類同權的生命體，它分擔了人類的部分知識和智慧功能，但在最重要的創造性和評審創造性價值方面無法替代，更為重要的是AI無法確定自己的進化方向和進化目標，也沒有正確進化的動力，它的進化動力來源於人類，依然是人類的工具。
鐵達尼號讓婦女和兒童離開，因為他們更多對人類的未來有更大幫助，可以更好的擴大和繼承人類的知識和智慧。2012電影中，總統選擇死去，而讓年輕的地球物理科學科學家生存。因為科學家對於解決人類危機有更多的知識和智慧可以奉獻。扳道工困境中，要具體分析哪一邊對人類未來的知識和智慧可能的貢獻大。
但對於種群利益與個人利益依然需要平衡。倫理的設定如何在種群與個體之間取得平衡，與場景的緊急程度也有關係，譬如在2012電影中人類滅絕那樣極端的環境下，和普通的危機程度不強的場景，群體利益和個體利益分配應該有不同。
需要對生物進化方向和目標形成共識，然後制定人工智慧（AI）倫理規則才有基礎
如果生物進化是否有方向沒有共識，制定人工智慧（AI）倫理規則會有很多困境，譬如人與動物同等級別，制定規則時如何處理人和動物的關係，沒有進化方向，制定人工智慧（AI）倫理規則應該優先保護誰也會有問題。不對進化動力和進化目標有確定，人工智慧系統與人類的關係也無法處理。
同時情感和意識的本質也與進化的方向和目標有關，譬如高興，興奮，快樂往往與生物順應進化趨勢產生的反應有關，悲傷，憤怒，失望也往往與逆反進化趨勢產生的反應有關，如果不對進化動力和進化目標有確定，人工智慧系統的情感是否是真實情感也無法判斷。
需要深入探討的重要問題
AI的進化動力是科學家，企業家，程式設計師，產品經理。
人類和生物有方向有目標的進化動力是什麼？
能不能把生物的進化動力施加到AI的發展上，如果成功，AI威脅論才有實現的基礎，
AI倫理的設定會發生重大改變，如果從理論上證明不能，AI將永遠無法全面超越人類
附錄1：關於知識和智慧的定義
數據是使用約定俗成的關鍵詞，對客觀事物的數量、屬性、位置及其相互關係進行抽象表示，以適合在這個領域中用人工或自然的方式進行保存、傳遞和處理。
信息是具有時效性的有一定含義的，有邏輯的、經過加工處理的、對決策有價值的數據流。
知識就是經過評價審核，然後沉澱到人類知識庫並結構化的有價值信息。
智慧是人類基於已有的知識，針對物質世界運動過程中產生的問題根據獲得的信息進行分析，對比，演繹找出解決方案的能力。這種能力運用的結果是將信息的有價值部分挖掘出來並使之成為已有知識架構的一部分。
附錄2：關於智能系統的等級劃分
對於人工智慧系統的第0級系統，其基本特徵在理論上存在，但現實中並不存在這樣的人工智慧系統。在擴展的馮·諾伊曼架構延伸出來的分級規則中，可以做一些組合，例如可以信息輸入，但不能信息輸出；或者可以信息輸出，但不能信息輸入；或者可以創新創造，但知識庫不能增長。對於這些在現實中不能或無法找到對應系統範例的案例，我們將其統一划歸到「人工智慧系統的第0級系統」，也可以叫「人工智慧系統的特異類系統」。
對於人工智慧系統的第1級系統，其基本特徵是無法與人類測試者進行信息交互。例如有一種被稱為泛靈論的思想認為天下萬物皆有靈魂或自然精神，一棵樹和一塊石頭都和人類一樣，具有同樣的價值與權利。當然，這種觀點從科學的角度看，只能算作猜想或哲學思考。從「能不能和測試者（人類）進行信息交互」的分級規則看，因為石頭等物體不能與人類進行信息交互，也許它內部有知識庫，能夠創新知識，或者能夠與其他石頭進行信息交互，但對人類測試者來說則是黑箱，不能讓人了解。因此不能與測試者（人類）進行信息交互的物體和系統可以定義為「人工智慧系統的第1級系統」，符合第1級分類的範例有石頭、木棍、鐵塊以及水滴等等不能與人類進行信息交互的物體或系統。
對於人工智慧系統的第2級系統，其基本特徵是能夠與人類測試者進行交互，存在控制器和存儲器，即馮·諾伊曼架構描述的系統，因此很多家用電器被稱作智能家電，如智能冰箱、智能電視、智能微波爐和智能掃地機。這些系統大多有一個特點，即雖然它們內部或多或少有控制程序信息，但一旦出廠，就無法再更新它們的控制程序，不能進行升級，更不會自動地學習或產生新的知識。譬如智能洗衣機，人們按什麼鍵，洗衣機就啟動什麼功能。從購買到損壞，其功能都不會發生變化（故障除外）。這種系統能夠與人類測試者和使用者進行信息交互，符合馮·諾伊曼架構描述的特徵，而且它的控制程序或知識庫從誕生時起就不再發生變化，這種系統可以定義為「人工智慧系統的第2級系統」，範例包括日常見到的掃地機器人、老式的家用電冰箱、空調、洗衣機等等。
對於人工智慧系統的第3級系統，其基本特徵是除具備2級系統的特徵外，其控制器、存儲器中包含的程序或數據可不聯網進行升級或增加。例如家用電腦和手機是我們常用的智能設備，它們的作業系統往往可以定期升級。例如，電腦的作業系統可從Windows1.0升級到Windows10.0，手機的作業系統可從Android1.0升級到Android5.0，這些設備的內部應用程式也可以根據不同的需要不斷更新升級。這樣，家用電腦、手機等設備的功能會變得越來越強大，可以應對的場景也越來越多。除了家用電腦，很多家用電器、機器人也都開始留有接口，可以通過外接設備進行系統升級。這一類系統明顯比第2級智能系統適應性更強。這種系統能夠與人類測試者、使用者進行信息交互，但不能與其他系統通過「雲端」進行信息交互，其控制程序或知識庫只能接受USB、光碟等外接設備進行程序或信息升級的系統，可以定義為「人工智慧系統的第3級系統」，範例包括智慧型手機、家用電腦、單機版的辦公軟體等。
對於人工智慧系統的第4級系統，其基本特徵除了包含3級系統的特徵外，最重要的是可以通過網絡與其他智能系統共享信息和知識。2011年歐盟資助了一個叫作RoboEarth的項目，該項目旨在讓機器人可以通過網際網路分享知識。幫助機器人相互學習、共享知識，不僅能夠降低成本，還會幫助機器人提高自學能力、適應能力，推動其更快、更大規模地普及。雲機器人的這些能力提高了其對複雜環境的適應性。這類系統除了具備3級系統的功能，還多了一個重要的功能，即信息可以通過雲端進行共享，因此這種系統能夠與人類測試者、使用者進行信息交互，可以通過「雲端」進行信息交互，進行程序或信息升級。但這類系統所有的信息都是直接從外部獲得，其內部無法自主地、創新創造性地產生新的知識。這種系統可以定義為「人工智慧系統的第4級系統」，範例包括谷歌大腦、百度大腦、RoboEarth雲機器人、B/S（Browser/Server，瀏覽器/伺服器）架構的網站等。
對於人工智慧系統的第5級系統，最基本的特徵就是能夠創新創造，識別和鑑定創新創造對人類的價值，以及將創新創造產生的成果應用在人類的發展過程中。我們在擴展的馮·諾伊曼架構時，對原來的馮·諾伊曼架構增加了創新知識模塊，就是試圖把人納入到擴展的人工智慧系統概念中，人類可以看作是大自然構建的特殊「人工智慧系統」。與前四個等級不同，人類等生命體最大的特徵就是可以不斷地創新創造，如發現萬有引力、元素周期表，撰寫出新小說，創造新的音樂、畫作等等，然後通過文章、信件、電報，甚至網際網路進行傳播和分享。不斷地進行創新創造，並能夠識別創新創造對自身的用處，這讓人類佔據了地球生態環境下的智力制高點。因此，這種系統能夠與人類測試者使用者進行信息交互，可以創新創造出新的知識，並可以通過文章、信件、電報甚至網際網路這樣的「雲端」進行信息交互，這種系統可以定義為「人工智慧系統的第5級系統」。人類是第5級人工智慧系統最突出的範例。
對於人工智慧系統的第6級系統，最基本的特徵就是隨著時間的向前推進，並趨向於無窮點時，不斷創新創造產生新知識的智能系統其輸入輸出能力，知識的掌握和運用能力也將趨近於無窮大，按照基督教對於上帝的定義「全知和全能」，可以看出智能系統在不斷創新創造和不斷積累知識的情況下，在足夠的時間裡以人類為代表的智能系統將最終實現「全知全能」的狀態，從這個角度看，無論是東方文化的」神「，或西方文化中的「上帝」概念，從智能系統發展的角度看，可以看作是智能系統（包括人類）在未來時間點的進化狀態。
註：本文來自人工智慧學家（公眾號 AItists）。作者劉峰，計算機博士，《網際網路進化論》作者。