人工智慧的發展會嚴格遵循「機器人三大定律」嗎？
3月14日，偉大的英國著名物理學家和宇宙學家史蒂芬·威廉·霍金（Stephen William Hawking）逝世，享年76歲。霍金來自宇宙，現在回到了他的浩瀚星辰。
霍金是繼牛頓和愛因斯坦之後最傑出的物理學家之一，被世人譽為「宇宙之王」，作為劍橋大學數學及理論物理學系教授，當代最重要的廣義相對論和宇宙論家，榮獲英國劍橋大學盧卡斯數學教席，這是自然科學史上繼牛頓和狄拉克之後榮譽最高的教席。
霍金的子女在一份聲明中說：「我們親愛的父親今天去世了，我們深感悲痛」。聲明稱，霍金「是一個偉大的科學家，一個不平凡的人，他的研究和成就的影響將持續多年」。
1942年1月8日，霍金在英國牛津出生，父親弗蘭克·霍金畢業於牛津大學醫學院，母親伊莎貝爾·霍金同樣畢業於牛津大學，專業為哲學、政治經濟學。霍金本人畢業於牛津大學和劍橋大學，並獲得劍橋大學博士學位。
1963年，21歲的他不幸被診斷患有肌肉萎縮性側索硬化症即運動神經細胞病。當時，醫生曾診斷身患絕症的他只能活兩年，可他一直堅強地活了下來。
霍金的主要著作有《時間簡史》、《果殼中的宇宙》，主要研究領域是宇宙論和黑洞。不過，近年來霍金在人工智慧等領域的研究也值得關注，今天我們在緬懷這位偉人的同時，來看看最近幾年裡，他是如何看待眼下大熱的人工智慧的。
人工智慧這門學科發展到今天已經超過60年時間。
1956年夏季，以麥卡賽、明斯基、羅切斯特和申農等為首的一批有遠見卓識的年輕科學家在一起聚會，共同研究和探討用機器模擬智能的一系列有關問題，並首次提出了「人工智慧」這一術語，它標誌著「人工智慧」這門新興學科的正式誕生。
2017年12月，人工智慧入選「2017年度中國媒體十大流行語」，熱度可見一斑。
簡單來說，對人工智慧的定義大多可劃分為四類，即機器「像人一樣思考」、「像人一樣行動」、「理性地思考」和「理性地行動」。
2014年的霍金：人工智慧或是人類歷史上最後事件
2014年5月，在觀看了德普主演的新片《超驗駭客》後，霍金在為《獨立》雜誌撰寫的一篇文章中明確地表達了他對這個問題的擔憂。
電影《超驗駭客》劇照
霍金擔憂的對象不僅僅是未來的人工智慧技術，甚至還包括現在的一些公司比如谷歌和Facebook。他說：「人工智慧的短期影響取決於由誰來控制它，而長期影響則取決於它是否能夠被控制。」
霍金承認，機器人和其他的人工智慧設備也許會給人類帶來巨大的好處。如果那些設備的設計非常成功，就能給人類帶來巨大的好處，他說那將是人類歷史上最大的事件。然而他同時也提醒說，人工智慧也有可能是人類歷史上最後的事件。
他說：「人工智慧技術發展到極致程度時，我們將面臨著人類歷史上的最好或者最壞的事情。」
霍金以前就曾試圖提醒人們注意一點，即科幻的魅力會蒙蔽我們的雙眼。它有時會掩蓋住一個重要的問題，即最終的結果有可能引發一場浩劫。
當年的6月16日晚，霍金出席了美國HBO頻道的「Last Week Tonight」節目，並與主持人約翰·奧利弗(John Oliver)展開了「深刻而有意義的對話」。
當晚，霍金非常肯定地對主持人說：「人工智慧在並不遙遠的未來可能會成為一個真正的危險。」
到了2014年12月的時候，霍金在接受英國廣播公司的採訪時說，「製造能夠思考的機器無疑是對人類自身存在的巨大威脅。當人工智慧發展完全，就將是人類的末日。」
這讓霍金再次登上英國各大媒體頭條，激起人們對人工智慧黑暗的、反面烏託邦式的假想。
從上世紀60年代末的科幻電影《2001：太空漫遊》，一個名叫哈爾9000（HAL 9000）的智慧機器人發生錯亂，在前往木星的太空船上對人類發起攻擊；《我，機器人》中，一個多才多藝的人形機器似乎有了心靈；直到《終結者》系列，未來世界由機器人統治人類，反抗機器人統治的人類領袖被未來機器人追殺。
2015年的霍金：號召禁止人工智慧武器
在這一年，霍金、特斯拉CEO埃隆·馬斯克和蘋果聯合創始人史蒂夫·沃茲尼亞克等上百位專業人士聯名上書，號召禁止人工智慧武器。
公開信稱，如果任何軍事力量推動人工智慧武器的開發，那麼全球性的軍備競賽將不可避免。人工智慧武器不像核能一樣——需要高昂的成本和難以獲得的原材料，一旦開發人工智慧很容易在各軍事力量中普及。
公開信說，人工智慧武器的禁令必須儘快頒布，以避免軍備競賽，這更甚於「控制人口數量的意義」。
2016年的霍金：人工智慧崛起中產階級或大量失業
2016年6月，霍金在接受美國知名記者拉裡·金採訪時說，人工智慧應該在符合倫理道德和安全措施要求的情況下開發，因為脫離人類控制之下的機器很難被阻止住。
他認為，有益的人工智慧將出現在人類生活的各方面。「想像一下那些可以對科學家想法迅速作出評價、更早地查出癌症、並預測證券市場走勢的人工智慧！它們將影響到我們的經濟，影響到我們的決策，並在整體上影響我們的生活。」
到了10月19日，劍橋大學「萊弗休姆的未來智能中心(LCFI)」正式投入使用，霍金在慶祝典禮上發表了演講。LCFI的一項重要使命是要化解AI風險，破解AI難題。
在當天的演講中，霍金說：「對於人類來說，強大AI的出現可能是最美妙的事，也可能是最糟糕的事，我們真的不知道結局會怎樣。」
霍金在演講中批評了人工智慧的無節制發展，他認為，人工智慧技術的確有希望帶來巨大的福利，比如根除疾病和貧困，但是它同樣也可能帶來危險，比如強大的自主式武器，或者幫助少數人壓迫多數人。
「我們生活的每一個方面都會改變。總之，創造AI的成功可能是我們文明歷史上最大的事件。」霍金說。
這年的12月，在英國《衛報》的一篇專欄中，霍金表示：「工廠的自動化已經讓許多傳統製造業工人失業了，而人工智慧的崛起會將失業範圍擴大到社會上的中產階級。未來，留給人類的只有護理、創新和監督等少數崗位了。」
如果這一趨勢繼續下去，會有什麼後果嗎？霍金認為機器人搶走人類工作後會造成社會更大的不公，自動化將「加速擴大全球範圍內已經日益嚴重的經濟不平等，網際網路和各種平臺讓一小部分人通過極少的人力獲取巨大的利潤。這是不可避免的，這是一種進步，但也會對社會造成巨大破壞並最終「撕裂」整個社會」。
此外，網際網路讓窮人也見識到了上流社會的生活方式，一旦他們與其自身情況作對比，就會讓無盡的怒氣在整個社會生根發芽。
2017年的霍金：最後的警告
2017年3月，霍金在接受英國《泰晤士報》採訪時再次發出警告，「人工智慧進一步發展便可能會通過核戰爭或生物戰爭摧毀人類。人類需要利用邏輯和理性去控制未來可能出現的威脅」。
4月，2017全球移動網際網路大會在北京召開，霍金為這次大會發來了一個視頻，進行了題為《讓人工智慧造福人類及其賴以生存的家園》的主題演講，在這次主題演講中，霍金再次提及了人工智慧的問題，他認為人工智慧的崛起很有可能導致人類文明最終走向終結。
在11月份舉辦的第五屆騰訊WE大會上，霍金以遠程視頻的形式亮相WE大會，並談論了對人工智慧的一些看法。
在視頻中霍金認為，人類很有可能會造出超級人工智慧，這些人工智慧程序能夠全面超越人類，並有可能完全取代人類成為一種新的生命物種。霍金表示，「我擔心人工智慧將全面取代人類。如果有人能設計出計算機病毒，那麼就會有人設計出能提升並複製自己的人工智慧。這就會帶來一種能夠超越人類的全新生命形式。」
2017年12月13日，在長城會舉辦的「天工開悟，智行未來」活動中，霍金表示，現在還不能確定，人工智慧的崛起對人類來說是好是壞，但可以確定的是，人類要竭盡全力，來保證人工智慧的發展對於人類及環境有利。這可以說是霍金在公開報導中最後一條關於人工智慧的看法了，也可以說是最後的警告。
電影《我，機器人》劇照
在《我，機器人》一書中，艾薩克·阿西莫夫提出了著名的「機器人三大定律」：
第一定律，機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手旁觀；
第二定律，機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外；
第三定律，機器人在不違反第一、第二定律的情況下要儘可能保護自己的生存。
可以說，阿西莫夫的這「三大定律」不斷激發了人們對於人工智慧安全性的新思考。技術最終將解放人類，前提是這個技術是受控可控的，必須牢牢地掌握在人類自己手中，而不是失控的技術，否則霍金的那些悲觀預測也許真的要應驗。