神經網絡有哪些主要分類規則並如何分類?

2020-11-26 騰訊網

神經網絡模型的分類

人工神經網絡的模型很多，可以按照不同的方法進行分類。其中，常見的兩種分類方法是，按照網絡連接的拓樸結構分類和按照網絡內部的信息流向分類。

1 按照網絡拓樸結構分類

網絡的拓樸結構，即神經元之間的連接方式。按此劃分，可將神經網絡結構分為兩大類：層次型結構和互聯型結構。

層次型結構的神經網絡將神經元按功能和順序的不同分為輸出層、中間層（隱層）、輸出層。輸出層各神經元負責接收來自外界的輸入信息，並傳給中間各隱層神經元；隱層是神經網絡的內部信息處理層，負責信息變換。根據需要可設計為一層或多層；最後一個隱層將信息傳遞給輸出層神經元經進一步處理後向外界輸出信息處理結果。

而互連型網絡結構中，任意兩個節點之間都可能存在連接路徑，因此可以根據網絡中節點的連接程度將互連型網絡細分為三種情況：全互連型、局部互連型和稀疏連接型

2 按照網絡信息流向分類

從神經網絡內部信息傳遞方向來看，可以分為兩種類型：前饋型網絡和反饋型網絡。

單純前饋網絡的結構與分層網絡結構相同，前饋是因網絡信息處理的方向是從輸入層到各隱層再到輸出層逐層進行而得名的。前饋型網絡中前一層的輸出是下一層的輸入，信息的處理具有逐層傳遞進行的方向性，一般不存在反饋環路。因此這類網絡很容易串聯起來建立多層前饋網絡。

反饋型網絡的結構與單層全互連結構網絡相同。在反饋型網絡中的所有節點都具有信息處理功能，而且每個節點既可以從外界接受輸入，同時又可以向外界輸出。

相關焦點

  • 結合神經網絡,提升ImageNet分類準確率且可解釋
    儘管決策樹有諸多優點，但歷史經驗告訴我們，如果遇上 ImageNet 這一級別的數據，其性能還是遠遠比不上神經網絡。「準確率」和「可解釋性」，「魚」與「熊掌」要如何兼得？把二者結合會怎樣？最近，來自加州大學伯克利分校和波士頓大學的研究者就實踐了這種想法。
  • 神經網絡實現分類與預測的基本原理
    文章目標：神經網絡特別是深層神經網絡是黑盒的，通過閱讀本文可以讓大家了解神經網絡的基本實現方法、基本數學原理、實現流程等，同時建議初學者從基礎學起，查詢更多的資料豐富認知，有不明白的地方可以關注作者或留言。
  • 解讀| 如何用進化方法優化大規模圖像分類神經網絡?
    論文：圖像分類器的大規模進化（Large-Scale Evolution of Image Classifiers）https://arxiv.org/pdf/1703.01041.pdf摘要：神經網絡已被證明可以有效地解決難題，但它們的架構設計起來頗具挑戰性，即便只是圖像分類問題也如此。
  • 神經網絡中的分類器該如何改成生成器?
    作者 | 李秋鍵責編 | 劉靜引言： 相信我們都做過一些圖片分類或者是其他分類的項目，我們知道神經網絡是在w和b參數調節基礎上，使得x與y達到對應輸出的效果。比如最經典的Mnist手寫字體識別，給一張圖片模型判斷後將會輸出數字結果，比如這樣：我們知道大多數生成網絡是用的GAN算法，顯然他有他自己的優勢，通過對目的的改進，可以變更機率分解建模的變量，使隨機變量與具體數據分布儘量相似。
  • 模塊化免疫神經網絡模型在計算機病毒分類檢測中的
    計算機病毒分類檢測，指將可疑文件作為輸入，執行某病毒檢測算法後輸出結果(無毒、帶毒／帶何種毒)的過程，實質上是對文件的分類。病毒分類檢測應屬於模式識別範疇。由於單一的技術無法有效地對抗計算機病毒，技術的融合併用及智能化，將是未來計算機病毒檢測的趨勢。
  • 人工神經網絡的五大主要應用場景
    理解人工神經網絡人工神經網絡像人腦一樣構建，神經元節點像網絡一樣相互連接。人腦有數千億個叫做神經元的細胞。每個神經元都是由一個負責處理信息的細胞體組成，該細胞體是大腦進行信息的輸入以及輸出的基礎。一個ANN有數百個或數千個被稱為處理單元的人工神經元，它們通過節點相互連接。這些處理單元由輸入和輸出單元組成。
  • 幾種分類算法初識
    3、人工神經網絡人工神經網絡（Artificial Neural Networks，ANN）是一種應用類似於大腦神經突觸聯接的結構進行信息處理的數學模型。在這種模型中，大量的節點（或稱」神經元」，或」單元」）之間相互聯接構成網絡，即」神經網絡」，以達到處理信息的目的。神經網絡通常需要進行訓練，訓練的過程就是網絡進行學習的過程。
  • 圖像傳感器運行神經網絡!實現納秒級時間內圖像分類,或將推進邊緣...
    具體來講，人工神經網絡可以反覆調整神經元之間的連接強度或「突觸」，並觀察當前的行為模式是否能更好地解決問題，從而發現哪些模式最擅長計算解決方案。接著，人工神經網絡會將這些模式設為默認值，模仿人腦學習過程。
  • 科大訊飛:基於中斷循環神經網絡的文本分類
    ACL 2018基於中斷循環神經網絡的文本分類Disconnected Recurrent Neural Networks for，例如情感分類、主題分類和問題分類等。很多機器學習的新方法都會先嘗試在文本分類任務上進行實驗驗證。例如深度學習中最常見的兩大類模型，卷積神經網絡（CNN）和循環神經網絡（RNN）及其變體，在文本分類中有很多應用。RNN模型擅長對整個句子進行建模，捕捉長距離依賴信息。
  • ICCV 2019 論文解讀:用圖神經網絡改善視頻的多標籤分類
    相比較圖像內容，視頻內容更為複雜多樣，因此對於視頻內容而言，單個標籤很難完整的表徵視頻的內容，對於視頻內容理解分析大多為多標籤的分類問題。圖二中每個不同顏色的節點代表一個獨立的標籤類別，不同節點之間的連線代表著兩個節點之間是否有相關性，節點之間連線上的數值則代表了不同的標籤之間聯繫的緊密程度，數值越大，則聯繫越高；沒有聯繫的節點之間則不會有線連接。通過對視頻的多標籤之間的相關性進行建模分析，並通過圖神經網絡將標籤類別映射為對應類別分類器加入到最終的視頻多標籤分類網絡之中，可以提升整體模型的學習分類能力。
  • 數據建模中分類與預測模型
    因此，本文基於上期數據預處理部分之後，介紹如何在清洗過後的數據基礎之上建立分類與預測模型，為此種模型的構建方法進行簡單介紹，輔助投資者對自身分析邏輯中的分析框架進行量化分析，方便其多元化的交易分析。　　一、分類與預測的介紹　　數據建模中分類與預測模型主要是尋求合適的分類模型並在此基礎之上進行未來預測。
  • 神經內分泌腫瘤是癌嗎,神經內分泌腫瘤怎麼分類?如何治療
    無功能性的神經內分泌腫瘤由於缺乏特異性臨床表現，通常在無意中發現。神經內分泌腫瘤有哪些分類神經內分泌腫瘤是一大類疾病的總稱，是指起源於全身任何部位的神經內分泌細胞的良惡性腫瘤。按照神經內分泌腫瘤細胞可以產生和分泌多種激素的部位分類，包括胰腺神經內分泌腫瘤，胃腸道神經內分泌腫瘤，肺、胸腺神經內分泌腫瘤，腎上腺腫瘤，嗜咯細胞瘤，副神經節瘤等等。
  • 變形縫的計量單位是什麼 變形縫的主要分類都有哪些
    變形縫的質量類型是非常多的，有不一樣的使用方法注意事項，大家如果想要找到合適的產品，可以看看產品的優劣之處，再做好自己的產品。下面所介紹的就是變形縫的計量單位是什麼，大家要重視變形縫的主要分類都有哪些，了解各種不同變形縫使用方法，減少使用過程的故障。
  • 業界| 從集成方法到神經網絡:自動駕駛技術中的機器學習算法有哪些?
    監督式學習算法可以分為回歸、分類以及異常數據檢測或降維算法等幾大類。非監督式學習試圖從可用數據集中學習到其內部結構與模式。這意味著，基於提供的數據，算法旨在推導出一種關係，以便根據各個數據之間的相似度來檢測模式或者將數據集內部數據自動分類。無監督算法很大一部分可以進一步分類為關聯規則學習和聚類算法等。強化學習算法是介於非監督式學習和監督式學習的另外一類機器學習算法。
  • 人工智慧神經網絡和生物大腦有什麼區別 神經網絡將如何發展
    自從該領域的歷史開始以來，符號人工智慧和人工神經網絡就構成了開發AI系統的兩種主要方法。Zador寫道：「符號AI可以看作是心理學家的方法，它從人類的認知過程中汲取了靈感，而沒有試圖破解黑匣子，而使用類神經元元素的ANN則從神經科學中汲取靈感。」在AI歷史的前幾十年中，由程式設計師明確定義系統規則的符號系統佔據了主導地位，而如今，神經網絡已成為人工智慧大多數發展的主要亮點。
  • 機器學習算法盤點:人工神經網絡、深度學習
    學習方式 　　根據數據類型的不同，對一個問題的建模有不同的方式。在機器學習或者人工智慧領域，人們首先會考慮算法的學習方式。在機器學習領域，有幾種主要的學習方式。將算法按照學習方式分類是一個不錯的想法，這樣可以讓人們在建模和算法選擇的時候考慮能根據輸入數據來選擇最合適的算法來獲得最好的結果。
  • 今日Paper|點雲分類框架;多模式Transformer;神經網絡;有序神經元等
    目錄用於行人重識別的三元組在線實例匹配丟失用於DSTC8 AVSD挑戰的帶指針網絡的多模式TransformerPointAugment：一種自動增強的點雲分類框架尋找稀疏、可訓練的神經網絡在線實例匹配（OIM）損失函數和三元組（Triplet）損失函數是行人重識別問題的主要方法。但這兩個損失函數都有缺點，OIM損失對所有樣本均等對待，沒有關注困難樣本，三重損失以複雜且繁瑣的方式來處理批處理樣本，因此收斂速度很緩慢。針對這些問題，這篇論文提出了三元組在線實例匹配（TOIM）損失函數，該函數能著重於困難樣本並能有效地提高行人重識別模型的準確性。
  • 防水布施工方法 防水布有哪些主要的分類
    如果大家想要學習防水布施工方法，可以關注一下下面的內容，然後再分析一下防水布有哪些主要的分類，根據不同的防水布材料，選擇合適的使用方法和施工方案，使用質量會高很多。防水布施工方法防水施工基面要堅實平整，光潔，不能有酥鬆、起砂、裂縫、翹起和尖凸、坑窪、空鼓等現象。施工之前必須要保持表面的平整性，堅固性，乾淨性，這樣施工過程當中才比較輕鬆，而且防水步功能也好。
  • 40納秒完成圖像分類,圖像傳感器自帶神經網絡登上Nature
    實際上，這就將光電傳感器網絡變成了神經網絡，將光學傳感和神經形態計算結合起來，使其能夠執行簡單的計算任務。改變二極體的靈敏度，就相當於改變神經網絡中的權重。把權重放在傳感器上與其他神經不同的是，這套系統的權重不是存在計算機的內存和硬碟裡，而是直接集成在圖像傳感器上。實驗中使用的有硒化鎢光電二極體製成的特殊門電路。它的特殊就在於可以調製，相當於神經網絡的訓練。
  • 正則表達式與神經網絡的深度融合
    在有足夠多標註數據的情況下，神經網絡往往效果驚人。但是，當標註數據匱乏時，神經網絡的性能就會大打折扣。此外，神經網絡缺少可解釋性以及難以融入外部知識的問題也一直為人所詬病。規則系統的缺點在於完全依賴於人類專家，無法自動從數據中學習，因而在數據資源豐富的場景下難以達到和神經網絡相近的效果。為了結合兩者的優點，近年來如何將規則更好地融入神經網絡成為了一個重要的研究方向。現有的工作主要利用規則去約束神經網絡，通常使用多任務學習 （multitask learning）、知識蒸餾（knowledge distillation）等方法，或是根據規則的啟發設計新的神經網絡結構。