人工神經網絡的本質(物理或數學意義)是什麼?

2020-12-06 鎂客網

通過不斷嘗試引入各種參量，最終得到允許誤差範圍內的解，並通過引入參量係數，最終得到最優解。

從數學的角度講，人工神經網絡的本質從機器學習的過程可理解為通過參數求最佳解得過程。同樣也是一個負反饋的過程，以最簡單的負反饋神經網絡bp神經網絡(back propagation)為例，其本質可以形象的理解為這樣一個過程：

我們假設這個剛搭建的好的機器人叫「小明」（假設他剛出生），他的硬體軟體等我們不需要考慮的部分全部是最先進的，小明的大腦裡現在是最純淨的，除了一個學習的算法什麼都沒有，就像一個剛出生的嬰兒一樣。

現在，小明餓了，想吃東西。那麼如何才能吃到東西呢？在什麼都不知道的情況下，小明開始探索如何才能不餓。他可能會伸手，或者笑、哭，於是母親餵了他吃的，從邏輯上可以這麼理解：

然後他每次餓了，都開始伸手-笑-哭，然後就有吃的了。突然，有一天他自己也不知道怎麼搞的，直接哭了。然後---有吃的了！！！這時他才明白這一個邏輯：

這時候，機器人「小明「明白，其實達到一個目的很簡單，但是需要不斷嘗試。

再後來，小明又餓了，這回他懶得動，稍微小哭了一下等吃的，結果媽媽沒來餵他！這是為啥？然後他就哭的超級大聲，媽媽看他這樣子以為是病了，急衝衝的送她去診所，結果啥病也沒有，小明迷惑，這是為什麼？邏輯可以這麼理解：

然後他把哭聲再稍微降低以點，變成了很正常的哭，這時媽媽終於恍然大悟，餵他吃的。小明終於明白，想吃東西，首先需要哭，然後若哭聲小，不起作用，需要調大哭聲，若哭聲過大，會起反作用，需要把哭聲再降小一點，就有吃的了。

以上就是人工神經網絡的本質，通過不斷嘗試引入各種參量，最終得到允許誤差範圍內的解，並通過引入參量係數，最終得到最優解——餵食=哭。通過負反饋機制，當參量所佔權重過小，以當前參量所得結果為參考依據適當增加參量權重比例，增加的比例的係數隨機。通過第二次的結果和第一次的結果選擇更合適的權重係數，最後經過不斷的「嘗試「得到最優解。

以上過程即是bp負反饋神經網絡的算法思想。

最後，記得關注微信公眾號：鎂客網（im2maker），更多乾貨在等你！

相關焦點

  • 人工神經網絡及其應用
    1 人工神經網絡的發展歷史及其意義1.1 人工神經網絡的發展歷史神經網絡的發展可以追溯到19世紀末，其發展可以分為四個階段。1.2研究神經網絡的意義當前人類所面臨的重大科學技術研究任務之一，是要揭示大腦的工作機制和人類智能的本質，製造出具有完成人類智能活動能力的人工智慧系統。神經網絡是從腦的神經系統結構出發來研究腦的功能，研究人量簡單的神經元的集團信息處理能力及其動態行為。
  • 什麼是人工神經網絡(ANN)?
    人工神經網絡如何運作人工神經網絡的核心成分是人工神經元。每個神經元接收來自其他幾個神經元的輸入，將它們乘以分配的權重，將它們相加，然後將總和傳遞給一個或多個神經元。一些人工神經元可能在將輸出傳遞給下一個變量之前將激活函數應用於輸出。
  • AI的人工神經網絡
    人工神經網絡是模擬人和動物的神經網絡的某種結構和功能的模擬，所以要了解神經網絡的工作原理，所以我們首先要了解生物神經元。其結構如下圖所示：   而人工神經網絡的基本原理也就是對生物神經元進行儘可能的模擬，當然，以目前的理論水平，製造水平，和應用水平，還與人腦神經網絡的有著很大的差別，它只是對人腦神經網絡有選擇的，單一的，簡化的構造和性能模擬，從而形成了不同功能的，多種類型的，不同層次的神經網絡模型。
  • 進展|神經網絡正則變換
    雖然正則變換方法是哈密頓力學中的基本工具，但是它在更複雜的多體問題中的廣泛應用受限於繁複的人工操作和解析計算。利用正則變換與現代機器學習中的正則化流方法(Normalizing Flow)之間的密切聯繫，中國科學院物理研究所/北京凝聚態物理國家研究中心凝聚態理論與材料計算重點實驗室的博士生李爍輝、董陳瀟與王磊研究員和普林斯頓大學的張林峰博士合作提出了神經網絡正則變換(Neural Canonical Transformation)方法。該方法利用神經網絡實現靈活、可學習的正則變換。
  • 人工神經網絡的五大主要應用場景
    人工神經網絡是一種嘗試，模擬組成人腦的神經元網絡，這樣計算機就能像人一樣學習事物並做出決策。人工神經網絡是通過對普通計算機進行編程而產生的，使它們的行為類似於人類的相互連接的腦細胞。人工神經網絡是受人腦啟發的計算模型。人工神經網絡最近的許多進展都是在人工智慧領域取得的，包括語音識別，圖像識別，以及基於人工神經網絡的機器人。
  • 關於人工神經網絡的哲學思考
    南開大學 自動化系，天津 300071　　原發信息：  (京)2000年第02期 第25-28,53頁　　內容提要：本文在簡單介紹人工神經網絡的研究成果的基礎上，探討了人工神經網絡的自組織功能，並運用馬克思主義的基本原理和方法，從普遍聯繫、整體與部分的關係及結構和功能的關係三方面論述了人工神經網絡的哲學意義
  • 用概率統計方法編程實現人工神經網絡模型的技術
    還只是雛形，最應該吸引的是理工科背景的人，因為畢竟是人工，最大的控制理論與方法要求是數學背景。人工智慧技術是用概率統計方法編程實現人工神經網絡模型的技術，這項技術越先進，神經網絡算法的能力越強大。目前最優的理想結果是人工神經網絡模型能夠模擬人腦進行學習與運用。
  • 什麼是三體問題？三體問題真的不可解嗎？人工神經網絡找到了辦法
    當然了，三體問題的本質涉及到混沌系統，是沒有通解的。Brutus算法所計算出的結果嚴格意義上來講應該說是近似收斂解，和絕對精確的結果是存在誤差的，不過這種誤差可以被不斷縮小。然而Brutus算法有一個問題，那就是隨著誤差的縮小和精度的提高，計算量會呈指數級增長，即使是世界上現有的最先進的計算機也會因此而不堪重負。
  • 什麼是三體問題?三體問題真的不可解嗎?人工神經網絡找到了辦法
    而當恆星的數量增加到兩顆的時候，問題一樣容易，這是一個非常常見的雙星系統，兩顆恆星在相互引力作用下的運行規律不需要用到什麼高深的理論，只需要經典力學便可以對這個雙星系統的運行軌跡進行準確的預測。而一旦恆星的數量增加到了三顆，那麼問題就變得非常複雜。
  • 對人工神經網絡「開刀」,利用神經科學消融法檢測人工神經網絡
    「許多關於大腦功能的見解看法都是通過消融研究獲得的，本質上來說，消融即選擇性地切除或破壞大腦特定區域的組織，以可控的方式進行消融，檢測大腦該部分對諸如言語生成、運動等日常工作的影響。」在此之前，消融已經被應用在一些人工神經網絡的研究中，但這些研究主要關注於調整神經網絡層和改變其結構，因此更像是參數搜索而不是生物學的消融法。
  • 超常大腦大講堂:什麼是人工神經網絡?它和我們大腦有本質區別嗎
    人工神經網絡的原理什麼是人工神經網絡？簡單的說，就是讓程序能夠像大腦處理信息那樣，來處理複雜的工作。一般的人工神經網絡，包含了三部分，輸入層（input layer）、隱藏層（hidden layer）、輸出層（output layer）。如下圖所示簡單地說，輸入層用來接收信息；隱藏層用來處理信息；輸出層用戶來輸出信息。
  • 人工神經網絡發展歷程及特點
    人工神經網絡ANN簡稱為神經網絡或類神經網絡。深度學習實際上是深度神經網絡DNN，即深度學習從人工神經網絡ANN模型發展起來的，因此有必要對人工神經網絡ANN作進一步探討。＾＿＾ 最近十幾年來，人工神經網絡ANN的研究工作不斷深入，已經取得了很大進展，其在模式識別、智慧機器人、自動控制、預測估計、生物、醫學、經濟等領域已成功地解決了許多現代計算機難以解決的實際問題，表現出了良好的智能特性。 那麼究竟什麼是人工神經網絡ANN呢？
  • 什麼?神經網絡還能求解高級數學方程?
    神經網絡擅長通過近似達到成功，例如認識像素的特定模式很可能是狗的圖片，或者一種語言的句子特徵匹配另一種語言的句子特徵。解決複雜的方程式還需要具有處理符號數據的能力，例如方程b-4ac = 7中的字母。此類變量不能直接相加、相乘或相除，僅使用傳統的模式匹配或統計分析，神經網絡就僅限於極其簡單的數學問題。
  • 「符號數學」終於向「神經網絡」屈服:AI 學會數學證明了?
    Facebook人工智慧研究小組工作的計算機科學家，公開了第一個成功用神經網絡解決符號數學問題的方案 他們將數學表達式轉換為樹狀結構，然後訓練網絡在符號當中找到有關解的線索 這種方法可以充當數學家的助手，通過識別已知猜想中的模式為一個之前存在的問題提供幫助 更加令人興奮的是，這種神經網絡有可能幫助揭開神經網絡本身黑匣子的秘密
  • 你的大腦與人工神經網絡有本質區別嗎?答案令人驚訝!
    經過幾十年的開發，研究人員創建了深層神經網絡，在特定的任務達到甚至超過了人類的表現。 但是，用於深度學習的人工神經網絡是否類似於我們大腦中的生物神經網絡？這個問題困擾著無數人工智慧的研究者。 許多人認為人工神經網絡是對大腦結構的粗略模仿，人工神經網絡只是個統計推理引擎，大腦的許多功能都沒有。
  • 初識人工神經網絡
    這也就是神經網絡的魅力所在。人工神經網絡（artificial neural networks) 是一種模仿生物神經網絡行為特徵，進行信息處理的算法數學模型。在人工神經網絡模型中使用單元節點模擬神經元，通過調整神經網絡內部大量節點（神經元）之間相互連接的權重來達到處理信息的目的。
  • 人工神經網絡初學:是什麼以及為什麼?
    【IT168 技術】談及人工智慧，就會涉及到人工神經網絡。人工神經網絡是現代人工智慧的重要分支，它是一個為人工智慧提供動力，可以模仿動物神經網絡行為特徵，進行分布式並行信息處理的系統。
  • 人工智慧瓶頸之神經網絡的可解釋探討
    人工神經網絡（Artificial Neural Network，ANN）是一種模仿生物神經網絡結構和功能的數學模型或計算模型，在給定條件下能近似地逼近任意複雜的函數或分布。基於深度神經網絡的人工智慧系統主要面臨結果不可驗證和過程不可審查兩大安全問題。結果不可驗證指的是基於深度神經網絡的人工智慧系統輸出結果無法被判斷、預測，智能系統行為邊界難以掌握，導致系統不可控，本質上是深度神經網絡結果不可判讀。過程不可審查指的是系統決策背後的邏輯不明，代碼實現缺乏可信度，本質上是深度神經網絡的實現機理與決策邏輯難以理解。
  • 理清神經網絡中的數學知識
    導讀：首先我想在這裡聲明的是，本篇文章針對的是一些已經具備一定神經網絡知識的人。意在幫助大家梳理神經網絡中涉及的數學知識，以及理解其物理含義。希望大家讀過之後，可以使大家對於神經網絡有更多角度的理解，幫助大家推導以及理解其中的數學公式。
  • 人工神經網絡在區塊鏈技術中的應用是什麼
    打開APP 人工神經網絡在區塊鏈技術中的應用是什麼 考拉 發表於 2020-01-13 16:17:00 人工神經網絡在解決分類、回歸、函數估計和降維等問題中非常有用。