初識人工神經網絡

2020-12-05 壹瓜壹果

我們經常會把大腦和計算機進行比較,大腦和計算機有很多相似之處。大腦包含了千億級別的神經元(neurons ),神經元細胞互相連接協同工作從而使大腦具有不可思議的神奇能力。神經元包含細胞體和神經元突起兩部分,細胞體由細胞核、細胞膜和細胞質構成,具有整合輸入信息並傳出信息的作用。而神經元突起又分為樹突(dendrite)和軸突(axon)兩種,樹突具有接受刺激並將衝動傳入細胞體的功能,軸突的主要是將神經衝動由胞體傳至其他神經元或效應細胞。神經元是神經系統最基本的結構和功能單位,在整個大腦中神經元只有大概10%,其餘部分都是神經膠質。

我們都知道計算機的核心是處理器,處理器由大量的電晶體(transistor)構建而成。最新的微處理器包含了超過20億個電晶體,即使是功能非常簡單的微處理器也包含了至少500萬個電晶體。這些電晶體共同協作使得計算機具有強大的數據處理能力。構建處理器的電晶體是一種固體半導體器件,具有檢波、整流、放大、開關、穩壓、信號調製等多種功能,作為一種可變電流開關,電晶體能夠基於輸入電壓控制輸出電流。由電晶體構成的處理器連接和控制各種各樣的計算機外圍輸入輸出設備,使得計算機具有強大交互能力,在我們生活中扮演著越來越重要的角色。

雖然大腦是由大量互聯的神經元細胞構成,計算機的中央處理器也是由大量的電晶體構建而成,但是大腦神經元和計算機電晶體在連接方式,以及大腦和計算機的運行方式是完全不同的。 大腦中神經元細胞以一種大量複雜並行的方式連接在一起,每個神經元可能和上萬個其它神經元連接在一起;而計算機中電晶體以相對簡單的方式串聯在一起,每個電晶體可能只和兩到三個其它電晶體連接起來形成邏輯門電路。這種連接結構上的差異導致了大腦和計算機在工作方式的巨大差異。計算機可以精確無誤的存儲海量的數據信息,並且可以根據計算機指令對數據進行任意處理,例如計算機可以輕鬆的存儲整個圖書館的圖書內容,並瞬間精確無誤的找出任意內容。對於大腦而言這幾乎是不可能的。相比於計算機,大腦可能需要花費數月甚至數年的時間來學習和理解一些複雜的東西,在此基礎之上大腦可以以一種全新的方式對外界輸入做出響應。例如大腦可以很容易就能準確地識別出圖片中的物體,即使是圖片中包含以前不曾見過的物體。 這類對於計算機而言非常複雜的問題,對大腦而言卻非常的容易。這也就是神經網絡的魅力所在。

人工神經網絡(artificial neural networks) 是一種模仿生物神經網絡行為特徵,進行信息處理的算法數學模型。在人工神經網絡模型中使用單元節點模擬神經元,通過調整神經網絡內部大量節點(神經元)之間相互連接的權重來達到處理信息的目的。人工神經網絡的神奇之處在於不需要顯示的編程告訴計算機該如何處理信息,它可以像大腦一樣從已知數據信息中進行自我學習,然後對全新的輸入數據信息輸出正確的響應。人工神經網絡並非真正的大腦,它只是使用軟體模擬人腦,用軟體的方式使普通的電晶體像數億互聯的神經元細胞一樣工作。

一個典型的人工神經網絡由一個輸入層(input layer),多個隱藏層(hidden layer)和一個輸出層(output layer)構成。神經網絡的第一層稱為輸入層,被設計來從外部接收各種輸入;神經網絡的最後一層稱為輸出層,輸出處理結果;位於輸入和輸出層之間有一到多個層稱為隱藏層,神經網絡的大部分由隱藏層構成。每一層由單元節點(或稱為神經元,感知器)構成,並且單元節點與前後的層的單元節點互相連接。幾乎所有的神經網絡都是全連接的,即每層中的單元節點與它兩邊的層的各個單元節點都是連接的。神經網絡對連接都賦予一個權重值,權重表明前一個單元的輸出對下一個單元輸出的影響力。

數據信息從神經網絡的輸入層進入神經網絡,經過隱藏層單元節點的處理,最後由輸出層輸出處理結果。最最簡單的人工神經網絡是前饋神經網絡,前饋神經網絡是一個沒有循環,單向傳播,是最簡單的人工神經網絡。神經網絡中的單元節點從它左邊單元節點接收輸入, 輸入乘以各個連接上的權重然後求和,如果加權求和的值大於某個閥值,這個單元將觸發輸出到右側與它相連單元節點。

神經網絡需要經過訓練和學習,從而使得神經網絡能生成期望的輸出。神經網絡的學習可分為:監督學習,無監督學習和強化學習,神經網絡的訓練中最常用的是監督學習。在監督學習中每個訓練實例都是由一個輸入值和一個期望的輸出值(也稱為監督信號)組成。訓練的輸入值通過神經網絡的後得到輸出值,輸出值和期望值之間的誤差差從輸出層開始反向逐層反饋回神經網絡,這個反饋過程就是神經網絡的反向傳播過程。在反向傳播過程中,神經網絡根據誤差來修正單元之間連接的權重,從而縮小輸出與期望之間誤差。整個訓練的關鍵是給權重設置正確的值,從而在神經網絡能夠生成期望的輸出。反向傳播使神經網絡具有自我學習的能力。

經過訓練好的神經網絡能夠處理全新輸入數據,生成期望的輸出值。例如,使用大量已經標記好的椅子和桌子的圖片訓練神經網絡,然後當輸入一張以前沒有見過的椅子或桌子的圖片時,神經網絡會根據以往訓練圖片中得到的經驗辨別圖片中的是椅子還是桌子。在這個例子中,假設輸入圖片被抽象成包含五個布爾變量的向量:1)圖片包含的物體是否有後背?2)是否有頂部?3)是否有柔軟的墊子?4)是否可以長期舒適地坐在上面?5)能否堆放很多東西放在上面? 通過訓練,神經網絡學習的椅子的典型特徵是有後背,沒有頂部,有軟墊,可以只長期舒適地坐在上面,不能放東西;而桌子的典型特徵是沒有後背,有頂部,沒有軟墊,不能長期舒適地坐在上面,可以堆放東西。當全新的圖片輸入神經網絡時,它會檢查輸入數據是否具有對應的特徵,並依據輸入物體的特徵做出判斷。

神經網絡被廣泛的應用來解決各類問題,如模式識別,信息處理,決策制定等。在自動駕駛領域,輸入層從各種傳感器獲取信號和數據,數據經過神經網絡處理,由輸出單元的輸出並調整車輛的狀態;在金融領域,銀行也可以使用神經網絡來做放貸風險控制,根據過往的信用記錄,當前收入狀況以及僱傭情況等來幫助決定是否向發放貸款等;日常生活中,像手寫識別、語音識別等也可以通過簡單的神經網絡完美的解決。

相關焦點

  • 對人工神經網絡「開刀」,利用神經科學消融法檢測人工神經網絡
    當談及人工神經網絡,黑箱問題總會引起熱議,人們對黑箱問題的評價褒貶不一。有人認為黑盒是神經網絡的優勢,這代表神經網絡的自主學習性,代表其自動學習以及自動完善的特性。在 Mayes Meisen 和他同事的研究中,研究人員希望以破壞神經網絡的特定區域的方法,觀察該區域如何影響性能。最終,通過這些觀測結果對人工神經網絡和生物神經網絡的組織形式進行比較。「在人工神經網絡上應用消融的方法十分簡單的,」Meyes 和 Meisen 解釋道。
  • 人工神經網絡的定義
    人工神經網絡的定義   人工神經網絡( Artificial Neural Networks, 簡寫為ANNs)也簡稱為神經網絡或稱作連接模型,是對人腦或自然神經網絡若干基本特性的抽象和模擬。
  • AI的人工神經網絡
    人工神經網絡是模擬人和動物的神經網絡的某種結構和功能的模擬,所以要了解神經網絡的工作原理,所以我們首先要了解生物神經元。其結構如下圖所示:   而人工神經網絡的基本原理也就是對生物神經元進行儘可能的模擬,當然,以目前的理論水平,製造水平,和應用水平,還與人腦神經網絡的有著很大的差別,它只是對人腦神經網絡有選擇的,單一的,簡化的構造和性能模擬,從而形成了不同功能的,多種類型的,不同層次的神經網絡模型。
  • 科技:人工神經網絡的進步
    這些重大新故事中的一些與人工神經網絡有關,人工智慧研究中的一個相對較新的現象正在推動從娛樂到醫學等許多領域的各種進步。人工神經網絡依賴於這樣的思想:技術可以使用對應於個體人類神經元和神經元組的小單元來模擬人類大腦的生物學工作,以基於輸入產生輸出。
  • 什麼是人工神經網絡(ANN)?
    每天使用神經網絡的應用程式有很多,例如Google的翻譯服務,Apple的Face ID iPhone鎖和Amazon的Alexa AI驅動的助手。神經網絡也在其他領域的一些重要人工智慧突破背後,例如診斷皮膚和乳腺癌,讓目光投向自動駕駛汽車。人工神經網絡背後的概念和科學已經存在了數十年。
  • 人工神經網絡及其應用
    1 人工神經網絡的發展歷史及其意義1.1 人工神經網絡的發展歷史神經網絡的發展可以追溯到19世紀末,其發展可以分為四個階段。2 人工神經網絡的種類及應用領域2.1人工神經網絡的種類人工神經網絡的模型很多,可以按照不同的方法分類進行分類。其中比較常用的分類方法是,按網絡連接的拓撲結構分類和按網絡內部的信息流向分類。
  • 人工神經網絡發展歷程及特點
    人工神經網絡ANN簡稱為神經網絡或類神經網絡。深度學習實際上是深度神經網絡DNN,即深度學習從人工神經網絡ANN模型發展起來的,因此有必要對人工神經網絡ANN作進一步探討。^_^ 最近十幾年來,人工神經網絡ANN的研究工作不斷深入,已經取得了很大進展,其在模式識別、智慧機器人、自動控制、預測估計、生物、醫學、經濟等領域已成功地解決了許多現代計算機難以解決的實際問題,表現出了良好的智能特性。 那麼究竟什麼是人工神經網絡ANN呢?
  • 人工神經網絡的特點有哪些
    人工神經網絡的特點和優越性,主要表現在三個方面: 第一,具有自學習功能。例如實現圖像識別時,只在先把許多不同的圖像樣板和對應的應識別的結果輸入人工神經網絡,網絡就會通過自學習功能,慢慢學會識別類似的圖像。自學習功能對於預測有特別重要的意義。
  • 人工神經網絡的五大主要應用場景
    人工神經網絡是一種嘗試,模擬組成人腦的神經元網絡,這樣計算機就能像人一樣學習事物並做出決策。人工神經網絡是通過對普通計算機進行編程而產生的,使它們的行為類似於人類的相互連接的腦細胞。人工神經網絡是受人腦啟發的計算模型。人工神經網絡最近的許多進展都是在人工智慧領域取得的,包括語音識別,圖像識別,以及基於人工神經網絡的機器人。
  • 深度|人工神經網絡深入分析
    文章從神經網絡談到了人工神經網絡,並對此進行詳細的介紹。最近「神經網絡」非常火,特別是AlphaGo與韓國選手李世石的比賽落幕後,各種關於神經網絡的文章滿天飛,但可能對於非專業領域出身的人來說接觸這些文章就會雲裡霧裡了。究其原因主要是缺少適合大部分人理解的神經網絡的科普文章,其實吳軍老師的《數學之美》在科普神經網絡這方面做的就比較通俗易懂,感興趣的朋友可以去讀一下吳老師的書。
  • 關於人工神經網絡的哲學思考
    南開大學 自動化系,天津 300071  原發信息:  (京)2000年第02期 第25-28,53頁  內容提要:本文在簡單介紹人工神經網絡的研究成果的基礎上,探討了人工神經網絡的自組織功能,並運用馬克思主義的基本原理和方法,從普遍聯繫、整體與部分的關係及結構和功能的關係三方面論述了人工神經網絡的哲學意義
  • 人工神經網絡初學:是什麼以及為什麼?
    【IT168 技術】談及人工智慧,就會涉及到人工神經網絡。人工神經網絡是現代人工智慧的重要分支,它是一個為人工智慧提供動力,可以模仿動物神經網絡行為特徵,進行分布式並行信息處理的系統。
  • 無處不在的人工神經網絡:機器人擁有意識的關鍵
    人工神經網絡,常常簡稱為神經網絡,是以計算機網絡系統模擬生物神經系統的智能計算系統,是對人腦或自然神經網絡的若干基本特性的抽象和模擬。簡單地講,人工神經網絡就是基於模仿大腦神經網絡結構和功能而建立的一種信息處理系統。人工神經網絡依靠系統的複雜程度,通過調整內部大量節點之間相互連接的關係,從而達到處理信息的目的,其中,這些節點就相當於生物大腦中的「神經元」。
  • 人工神經網絡(Artificial Neural Network)算法簡介
    人工神經網絡,簡稱神經網絡,是一種模仿生物神經網絡的結構和功能的數學模型或者計算模型。其實是一種與貝葉斯網絡很像的一種算法。之前看過一些內容始終雲裡霧裡,這次決定寫一篇博客。
  • 人工神經網絡研究的發展歷程及重要特性
    人工神經網絡研究的先鋒麥卡洛克和皮茨曾於1943年提出一種叫做「似腦機器(mindlike machine)」的思想,這種機器可由基於生物神經元特性的互連模型來製造,這就是神經學網絡的概念。他們構造了一個表示大腦基本組成部分的神經元模型,對邏輯作業系統表現出通用性。
  • 研究不同神經元在人工神經網絡中的作用
    在過去十年左右的時間裡,世界各地的研究人員一直在開發越來越先進的人工神經網絡(ANNs),這種計算方法旨在複製人類大腦的生物機制和功能。雖然其中一些網絡在各種任務中取得了顯著的成果,但預測背後的決策過程並不總是很清楚。
  • 胖不胖:看人工神經網絡怎麼「稱」
    什麼是人工神經網絡呢?張冰說:「隨著神經生物學、生理學的發展,人們試圖通過模仿人腦的一些基本的信息處理方法建立模型,這種模仿大腦的功能稱為人工神經網絡。」如果從自適應機器的視角對神經網絡進行分析,可以將神經網絡看作是有簡單處理單元構成的大規模並行分布式處理器,其天然地具備存儲經驗知識和使之可用的特性。
  • 大腦與AI,神經科學與人工神經網絡
    神經科學可以幫助我們理解為什麼AI和神經網絡在預測人類感知方面是有效的嗎?來自德克薩斯大學奧斯汀分校(UT Austin)的Alexander Huth和Shailee Jain的研究表明兩者都有可能。
  • 用於英文字母識別的三種人工神經網絡的設計
    摘要分別採用單層感知器、BP網絡和霍普菲爾德網絡三種神經網絡對26個英文字母進行識別,通過實驗給出各網絡的識別出錯率,從中可以看出三種人工神經網絡各自的優缺點,為選擇神經網絡進行字符識別提供了一定的依據。
  • 陳根:人工神經網絡成就AI小白鼠,試毒不再愁
    目前最為先進的人工智慧可以說就是人工神經網絡,人工神經網絡是仿生學的一個概念,是一類由多層神經元互聯組件構成的機器學習算法,而「神經元」最早就是來自大腦結構的啟發。儘管人工神經網絡中的神經元的工作方式肯定不同於實際人腦的工作方式,但越來越多的研究者認為,將二者放在一起研究不僅可以幫助我們理解神經科學,還有助於打造出更加智能的AI。