Geoffrey Hinton,被稱為「AI教父」,是神經網絡的先驅之一,也是多倫多大學名譽教授,曾在Google擔任高級工程師。
Geoffrey Hinton生於1947年12月6日,加拿大英裔。出生在書香門第的他似乎天生比別人多了很多「天賦」,比如對外部的事物具有驚人的洞察力和觀察力,擅長思考、研究,敢於開拓。
1977年,Geoffrey Hinton在愛丁堡大學獲得博士學位。心理學和計算機是他的強項,同時又在人工智慧神經網絡領域取得了巨大成就,也被稱為」神經網絡之父「。
1943 年,美國芝加哥大學的神經科學家Warren McCullough和他的助手Walter Pitts發表了論文《神經活動中思想內在性的邏輯演算》(A Logical Calculus of Ideas Immanent in Nervous Activity)。這個論文首次提出了人工神經網絡的概念,隨後,Rosenblatt又提出具有三層網絡特性的的神經網絡結構「感知器」,此概念一經提出便引起了全社會的廣泛關注,促成了連接主義的第一波熱潮。
1969年,「人工智慧之父」Minsky和Papert發文指出,神經網絡概念的構成過於簡單,只能用於現行問題的求解,因而從理論上還不能證明將感知器模型擴展到多層網絡是有意義的。
顯而易見,這個批評理論的出現讓當時從事人工神經網絡研究的學者們遭遇到了巨大的阻礙,為剛剛燃起希望之火的人工神經網絡潑了一大盆冷水。人工神經網絡的研究也因此進入了長達13年的低潮期,政府和相關機構都不再為這個項目提供科研基金,沒人願意把時間和精力浪費在這件看似「毫無意義」的研究上。
因為神經網絡的應用效果完全沒有達到公眾期望,所以高漲的熱情也就逐漸變成了失望乃至責難。
長達13年的「黑暗時期」,在大部分的研發學者礙於沒有資助改投其他研究領域的時候,仍然有一小批以Geoffrey Hinton教授為首的學者堅守在這個領域,通過堅持不懈的實驗模擬再到迭代更新,最終證明了「神經網絡」理論的可行性。他們的卓越工作將人工神經網絡從「黑暗深淵」中拯救出來,令其重新回歸到人工智慧的研究領域。
早在高中時期,Geoffrey Hinton就從朋友那裡得知了人腦的工作原理。
朋友告訴他,人腦就像一個3D全息圖,需要大量的記錄人類所看到的影像以及對外界物體多次反射的結果,然後這些信息會被儲存進大腦裡一個龐大的「資料庫」中。這個「資料庫」並非一個特定的地方,而是在整個神經網絡中進行傳播。Geoffrey Hinton聽罷深深為此著迷,這也成為了他人生的關鍵和成功的起點。
在劍橋大學就讀期間,他開始致力於生理學方面的研究與學習,解剖大腦以了解其工作方式。但他明白,單靠醫學研究的方向是遠遠不夠的,人類大腦有數十億個神經細胞,它們之間通過神經突觸相互影響,形成極其複雜的相互聯繫。而科學家們也不能解釋這些具體的影響和關聯。一年之後他轉而將心理學和物理作為攻讀方向。
「我認為,如果你真的想了解一個非常複雜的裝置,比如大腦,那你就製作一個。」
1973年,Geoffrey Hinton開始在愛丁堡大學攻讀人工智慧博士學位。基於醫學和心理學方面的研究成果,他決定使用計算機科學的方法來模擬大腦,繼續在神經網絡方向上的探索。
他致力於使用人工神經網絡讓計算機去模擬人類大腦存儲和思考方面的研究,儘管這個課題已經被當時的學術界認定是不切實際的,在那個電腦運算緩慢和數據只能小批量處理的80年代,Geoffrey Hinton和同事們依舊在這樣苛刻的環境中取得了一些成就。
1985年,Geoffrey Hinton和Sejnowski藉助統計物理學的概念和方法提出了一種隨機神經網絡模型——玻爾茲曼機。一年後他們又改進了模型,提出了受限玻爾茲曼機。
1986年,Rumelhart,Geoffrey Hinton,Williams發展了BP算法(多層感知器的誤差反向傳播算法),然而神經網絡仍然不受主流學術派待見。
在隨後的數年中,得益於計算機的運算和數據處理能力的大幅度提高,Geoffrey Hinton和他的工作團隊NCAP逐步地實現了一些早期關於神經網絡研究方面的想法。他們定期舉辦研討會,討論研究中遇到的困難提出解決辦法,加快了研究的步伐,最終建立了更有效的深度學習的算法,贏得全球AI界的關注,並成功地引起了網絡巨頭們的注意。
Geoffrey Hinton對這項技術的堅定信念最終帶來了巨大的紅利和行業的發展。由於他在這一領域的卓越貢獻,Geoffrey Hinton也在去年被授予圖靈獎。
目前,Geoffrey Hinton在谷歌公司參與並領導世界最著名最大規模的人類大腦模擬項目——「谷歌大腦」計劃。
該項目使用超大規模計算機集群,通過神經網絡技術去模擬人類大腦的神經元工作,谷歌大腦團隊的標語為「讓機器更智能,以提升人類生活質量」。這項技術主要運用於安卓作業系統裡的語音識別控制項中,同時也用於谷歌社交平臺Google+裡的圖片搜索功能,而且也對谷歌的智能視頻推薦起到了至關重要的作用。
關於人工智慧領域的發展空間,Geoffrey Hinton表示:「在人工智慧無所不能之前,我們還需要有相當多的概念突破,尤其是有關於如何得到神經活動的載體來實現推理功能方面的概念突破。」
在未來的人工智慧領域,運動控制是非常重要的研究方向。而深層神經網絡越來越擅長運動控制。人工智慧的發展遠遠不止於此,它的潛力是無窮的,隨著時代的變遷,人工智慧技術日趨成熟,同時我們也應該記住這位貢獻者——「神經網絡之父」。
所以,當我們在探討人工智慧的學習時,我們應該從何處找到切入點?是複雜的公式?還是令人深感迷惑的神秘術語?異步君給大家推薦三本經典書,一起開啟這場冒險吧。
作者: [美] 傑弗瑞·希頓(Jeffery Heaton)
內容簡介:
算法是人工智慧技術的核心,大自然是人工智慧算法的重要靈感來源。本書介紹了受到基因、鳥類、螞蟻、細胞和樹影響的算法,這些算法為多種類型的人工智慧場景提供了實際解決方法。全書共10章,涉及種群、交叉和突變、遺傳算法、物種形成、粒子群優化、蟻群優化、細胞自動機、人工生命和建模等問題。書中所有算法均配以具體的數值計算來進行講解,每章都配有程序示例,讀者可以自行嘗試。
自然語言處理實戰 利用Python理解、分析和生成文本
作者: [美]霍布森•萊恩(Hobson Lane) ,科爾•霍華德(Cole Howard) ,漢納斯•馬克斯•哈普克(Hannes Max Hapke)
內容簡介:
本書是介紹自然語言處理(NLP)和深度學習的實戰書。NLP已成為深度學習的核心應用領域,而深度學習是NLP研究和應用中的必要工具。本書分為3部分:第一部分介紹NLP基礎,包括分詞、TF-IDF向量化以及從詞頻向量到語義向量的轉換;第二部分講述深度學習,包含神經網絡、詞向量、卷積神經網絡(CNN)、循環神經網絡(RNN)、長短期記憶(LSTM)網絡、序列到序列建模和注意力機制等基本的深度學習模型和方法;第三部分介紹實戰方面的內容,包括信息提取、問答系統、人機對話等真實世界系統的模型構建、性能挑戰以及應對方法。本書面向中高級Python開發人員,兼具基礎理論與編程實戰,是現代NLP領域從業者的實用參考書。
作者: 【美】Ian Goodfellow(伊恩·古德費洛) 【加】Yoshua Bengio(約書亞·本吉奧) 【加】Aaron Courville(亞倫·庫維爾)
內容簡介:
本書為三大部分,第一部分介紹應用數學基礎知識和機器學習的基本概念,第二部分介紹業界經典的深度學習算法,第三部分是一些探索性研究,對深度學習的未來發展非常重要。本書假定讀者擁有計算機科學的背景,熟悉編程,對計算性能、複雜度問題、圖論知識以及入門的微積分了解。
Today's Interaction
今日互動
分享你關於人工智慧學習心得
在留言區參與互動,並點擊在看和轉發活動到朋友圈,我們將選1名讀者獲得贈書1本,截止時間11月30日。
戳閱讀原文購書