用於英文字母識別的三種人工神經網絡的設計

2021-01-10 電子產品世界

摘要分別採用單層感知器、BP網絡和霍普菲爾德網絡三種神經網絡對26個英文字母進行識別,通過實驗給出各網絡的識別出錯率,從中可以看出三種人工神經網絡各自的優缺點,為選擇神經網絡進行字符識別提供了一定的依據。

本文引用地址:http://www.eepw.com.cn/article/198994.htm

1引言

人工神經網絡是在人類對其大腦神經網絡認識理解的基礎上人工構造的能夠實現某種功能的神經網絡。代寫論文 它是理論化的人腦神經網絡的數學模型,是基於模仿大腦神經網絡結構和功能而建立的一種信息處理系統。因其自組織、自學習能力以及具有信息的分布式存儲和並行處理,信息存儲與處理的合一等特點得到了廣泛的關注,已經發展了上百種人工神經網絡。

一般來說,人工神經網絡從結構上可分為兩種:前向網絡和反饋網絡。典型的前向網絡有單層感知器、BP網絡等,反饋網絡有霍普菲爾德網絡等[1]。

人工神經網絡已經被廣泛應用於模式識別、信號處理、專家系統、優化組合、智能控制等各個方面,其中採用人工神經網絡進行模式識別具有一些傳統技術所沒有的優點:良好的容錯能力[2j、分類能力、並行處理能力和自學習能力,並且其運行速度快,自適應性能好,具有較高的解析度。單層感知器、BP網絡和霍普菲爾德網絡均可以用於字符識別。

本文通過具體採用感知器網絡、BP網絡和霍普菲爾德反饋網絡對26個英文字母進行識別的應用,通過實驗給出各自的識別出錯率,通過比較,可以看出這3種神經網絡的識別能力以及各自的優缺點。

2 字符識別問題描述與網絡識別前的預處理

字符識別在現代日常生活的應用越來越廣泛,比如車輛牌照自動識別系統[3,4],手寫識別系統[5],辦公自動化等等[6]。代寫畢業論文 本文採用單層感知器、BP網絡和霍普菲爾德網絡對26個英文字母進行識別。首先將待識別的26個字母中的每一個字母都通過長和寬分別為7×5的方格進行數位化處理,並用一個向量表示。其相應有數據的位置置為1,其他位置置為O。圖1給出了字母A、B和C的數位化過程,其中最左邊的為字母A的數位化處理結果所得對應的向量為:IetterA~「00100010100101010001111111000110001〕』,由此可得每個字母由35個元素組成一個向量。由26個標準字母組成的輸人向量被定義為一個輸人向量矩陣alphabet,即神經網絡的樣本輸人為一個35×26的矩陣。其中alphabet=[letterA,letterB,lettere,……letterZj。網絡樣本輸出需要一個對26個輸人字母進行區分輸出向量,對於任意一個輸人字母,網絡輸出在字母對應的順序位置上的值為1,其餘為O,即網絡輸出矩陣為對角線上為1的26×26的單位陣,定義target=eye(26)。

本文共有兩類這樣的數據作為輸人:一類是理想的標準輸人信號;另一類是在標準輸人信號中加上用MATLAB工具箱裡的噪聲信號,即randn函數。

3 識別字符的網絡設計及其實驗分析

3.1單層感知器的設計及其識別效果

選取網絡35個輸人節點和26個輸出節點,設置目標誤差為0.0001,最大訓練次數為40。設計出的網絡使輸出矢量在正確的位置上輸出為1,在其他位置上輸出為O。代寫醫學論文 首先用理想輸人信號訓練網絡,得到無噪聲訓練結果,然後用兩組標準輸入矢量加上兩組帶有隨機噪聲的輸人矢量訓練網絡,這樣可以保證網絡同時具有對理想輸人和噪聲輸人分類的能力。網絡訓練完後,為保證網絡能準確無誤地識別出理想的字符,再用無噪聲的標準輸入訓練網絡,最終得到有能力識別帶有噪聲輸人的網絡。下一步是對所設計的網絡進行性能測試:給網絡輸人任意字母,並在其上加人具有平均值從。~0.2的噪聲,隨機產生100個輸人矢量,分別對上述兩種網絡的字母識別出錯率進行實驗,結果如圖2所示。其中縱坐標所表示的識別出錯率是將實際輸出減去期望輸出所得的輸出矩陣中所有元素的絕對值和的一半再除以26得到的;虛線代表用無噪聲的標準輸人信號訓練出網絡的出錯率,實線代表用有噪聲訓練出網絡的出錯率。從圖中可以看出,無噪聲訓練網絡對字符進行識別時,當字符一出現噪聲時,該網絡識別立刻出現錯誤;當噪聲均值超過0.02時,識別出錯率急劇上升,其最大出錯率達到21.5%。由此可見,無噪聲訓練網絡識別幾乎沒有抗幹擾能力。而有噪聲訓練出的網絡具有一定的抗幹擾能力,它在均值為。~0.06之間的噪聲環境下,能夠準確無誤地識別;其最大識別出錯率約為6.6%,遠遠小於無噪聲訓練出的網絡。

3.2BP網絡的設計及其識別效果

該網絡設計方法在文獻[lj中有詳細介紹。網絡具有35個輸人節點和26個輸出節點。目標誤差為0.0001,採用輸人在(0,l)範圍內對數S型激活函數兩層109519/109519網絡,隱含層根據經驗選取10個神經元。和單層感知器一樣,分別用理想輸人信號和帶有隨機噪聲的輸人訓練網絡,得到有噪聲訓練網絡和無噪聲訓練網絡。由於噪聲輸人矢量可能會導致網絡的1或o輸出不正確,或出現其他值,所以為了使網絡具有抗幹擾能力,在網絡訓練後,再將其輸出經過一層競爭網絡的處理,使網絡的輸出只在本列中的最大值的位t為1,保證在其他位置輸出為O,其中網絡的訓練採用自適應學習速率加附加動量法,在MATLAB工具箱中直接調用traingdx。在與單層感知器相同的測試條件下對網絡進行性能測試,結果如圖3所示。其中虛線代表用無噪聲訓練網絡的出錯率,實線代表用有噪聲訓練網絡的出錯率。從圖中可以看出,在均值為o一0.12之間的噪聲環境下,兩個網絡都能夠準確地進行識別。在0.12~0.15之間的噪聲環境下,由於噪聲幅度相對較小,待識別字符接近於理想字符,故無噪聲訓練網絡的出錯率較有噪聲訓練網絡略低。當所加的噪聲均值超過。.15時,待識別字符在噪聲作用下不再接近於理想字符,無噪聲訓練網絡的出錯率急劇上升,此時有噪聲訓練網絡的性能較優.

3.3離散型,霍普菲爾德網絡的設計及其識別效果

此時網絡輸人節點數目與輸出神經元的數目是相等的,有r=s=35,採用正交化的權值設計方法。在MATLAB工具箱中可直接調用函數newh叩.m。要注意的是,由於調用函數newhoP.m,需要將輸人信號中所有的。代寫英語論文 變換為一1。如letterA~[一1一11~1-1一11一11一l一11一11一11一1一1一11111111一l一l一111一1一1一11〕』。設計離散型霍普菲爾德網絡進行字符識別,只需要讓網絡記憶所要求的穩定平衡點,即待識別的26個英文字母。故只需要用理想輸人信號來訓練網絡。對於訓練後的網絡,我們進行性能測試。給網絡輸入任意字母,並在其上加人具有平均值從。~0.5的噪聲,隨機產生100個輸人矢量,觀察字母識別出錯率,結果如圖4所示。從圖中可以看出,在均值為0~0.33之間的噪聲環境下,網絡能夠準確地進行識別。在0.33~0.4之間的噪聲環境下,識別出錯率不到1%,在0.4以上的噪聲環境下,網絡識別出錯率急劇上升,最高達到大約10%。可以看出,該網絡穩定點的吸引域大約在0.3~。.4之間。當噪聲均值在吸引域內時,網絡進行字符識別時幾乎不出錯,而當噪聲均值超過吸引域時,網絡出錯率急劇上升。

4結論

本文設計了3種人工神經網絡對26個英文字母進行了識別。可以看出,這3種人工神經網絡均能有效地進行字符識別,並且識別速度快,自適應性能好,解析度較高。由圖2和圖3可以看出,單層感知器的有噪聲訓練網絡在均值為O~0.06之間的噪聲環境下可以準確無誤的識別,而有噪聲訓練的BP網絡可以在o~0.12之間的噪聲環境下準確無誤的識別,故BP絡網絡容錯性比單層感知器的容錯性好;此外,噪聲達到0.2時,單層感知器的有噪聲訓練網絡的識別出錯率為6.6%,而有噪聲訓練的BP網絡的識別出錯率為2.1%,故BP網絡比單層感知器識別能力強。另外,由圖2、圖3和圖4可以看出,這3種網絡中霍普菲爾德網絡識別率最高,它在噪聲為0.33以前幾乎不會出錯,BP網絡次之,感知器最差。

通過設計、應用與性能對比,我們可得單層感知器網絡結構和算法都很簡單,訓練時間短,但識別出錯率較高,容錯性也較差。BP網絡結構和算法比單層感知器結構稍複雜,但其識別率和容錯性都較好。霍普菲爾德網絡具有設計簡單且容錯性最好的雙重優點。因此,我們應根據網絡的特點以及實際要求來選擇人工神經網絡對字符進行識別。

參考文獻

[1]叢爽.面向MATLAB工具箱的神經網絡理論與應用「M」.合肥:中國科學技術大學出版社,2003.

[2]武強,童學鋒,季雋.基於人工神經網絡的數字字符識別[J].計算機工程,2003,29(14):112一113.

[3]廖翔雲,許錦標,龔仕偉.車牌識別技術研究[J].徽機發展,2003,13:30一35.

[4]李中凱,王效嶽,魏修亭.BP網絡在汽車牌照字符識別中的應用[J].東理工大學學報,2004,18(4):69一72.

[5]汪同慶,居淡,任莉.基於神經網絡及多層次信息融合的手寫體數字識別[J].小型徽型計算機系統,2003,24(12):2286一2290.

[6]楊慶雄.基於神經網絡的字符識別研究[J].信息技術,2005,4:92一96.

更多醫療電子信息請關注:21ic醫療電子頻道

相關焦點

  • 基於英文字母識別的三種人工神經網絡的設計方案
    是在人類對其大腦神經網絡認識理解的基礎上人工構造的能夠實現某種功能的神經網絡。單層感知器、BP網絡和霍普菲爾德網絡均可以用於字符識別。 本文通過具體採用感知器網絡、BP網絡和霍普菲爾德反饋網絡對26個英文字母進行識別的應用,通過實驗給出各自的識別出錯率,通過比較,可以看出這3種神經網絡的識別能力以及各自的優缺點。
  • 成功研發出用於納秒級圖像識別的神經硬體
    打開APP 成功研發出用於納秒級圖像識別的神經硬體 教育新聞網 發表於 2020-04-27 17:54:13 因此,維也納工業大學的科學家採用了另一種方法:使用特殊的2D材料,開發了一種圖像傳感器,可以對其進行訓練以識別某些物體。該晶片代表了能夠學習的人工神經網絡。數據不必由計算機讀取和處理,但是晶片本身可以提供有關當前所見內容的信息-僅需數納秒。這項工作現在已經在科學雜誌《自然》上發表。 神經網絡是類似於我們的大腦的人工系統:神經細胞與許多其他神經細胞相連。
  • 史丹福大學實現高性能低功耗人工突觸,可用於神經網絡計算
    現在,史丹福大學和桑迪亞國家實驗室的研究人員取得了重要進展,該研究可以幫助計算機模擬某塊大腦高效設計,亦即人工突觸。Alberto Salleo,材料科學與工程學副教授,研究生 Scott Keene 在確知用於神經網絡計算的人工突觸的電化學性能。他們是創造這一新設備團隊的成員。
  • 對人工神經網絡「開刀」,利用神經科學消融法檢測人工神經網絡
    「首先,我們訓練神經網絡來完成特定的任務,比如說識別手寫數字。第二步,我們切除網絡的某一部分,然後評估由這種破壞導致的性能變化。第三步,我們確定網絡性能的改變和被破壞的位置之間是否有聯繫。通過這種方法,我們發現網絡的某些特定能力,比如控制機器人執行前進動作,是通過局部網絡控制的。」
  • 盤點人臉識別中的黑科技——人工神經網絡
    他們發現大腦中編碼人臉的方式和成功地執行人工智慧系統(稱為深度神經網絡)的驚人相似性。當我們看一張面孔時,視覺皮層中的神經元群被激活並發射它們的信號。事實上,某些神經元對面部有選擇性的反應,而不是對其他物體的反應。但是單個神經元的激活是如何共同產生面部感知和識別的呢?
  • 科學家在試管中創建由DNA構成的人工神經網絡
    目前,科學家在實驗室裡研製一種完全由DNA製成的人工神經網絡,能夠模仿大腦工作形成自己的「記憶」。這種位於試管中的人工智慧系統通過識別手寫數字,可以解決典型的機器學習問題。科學家表示,這項工作是證實人工智慧植入人造有機電路的一個重要步驟。
  • 人工神經網絡發展歷程及特點
    人工神經網絡ANN簡稱為神經網絡或類神經網絡。深度學習實際上是深度神經網絡DNN,即深度學習從人工神經網絡ANN模型發展起來的,因此有必要對人工神經網絡ANN作進一步探討。^_^ 最近十幾年來,人工神經網絡ANN的研究工作不斷深入,已經取得了很大進展,其在模式識別、智慧機器人、自動控制、預測估計、生物、醫學、經濟等領域已成功地解決了許多現代計算機難以解決的實際問題,表現出了良好的智能特性。 那麼究竟什麼是人工神經網絡ANN呢?
  • 人工神經網絡的五大主要應用場景
    人工神經網絡(ANN)是一種被設計用來模擬人腦分析和處理信息的計算系統。它是人工智慧(AI)的基礎,解決了以人類或統計標準將被證明是不可能或很難解決的問題。人工神經網絡具有自我學習能力,能夠在獲得更多數據的前提下產生更好的結果。人腦對現實世界情境的解讀方式是計算機無法做到的。神經網絡最初是在20世紀50年代發展起來的,目的就是解決這個問題。
  • 如何通過人工神經網絡實現圖像識別?
    人工神經網絡(Artificial Neural Networks)(簡稱ANN)系統從20 世紀40 年代末誕生至今僅短短半個多世紀,但由於他具有信息的分布存儲目標識別是模式識別領域中大多數課題都會遇到的基本問題,並且在不同的課題中,由於具體的條件不同,解決的方法也不盡相同,因而目標識別的研究仍具有理論和實踐意義。
  • 人工神經網絡的特點有哪些
    人工神經網絡的特點和優越性,主要表現在三個方面: 第一,具有自學習功能。例如實現圖像識別時,只在先把許多不同的圖像樣板和對應的應識別的結果輸入人工神經網絡,網絡就會通過自學習功能,慢慢學會識別類似的圖像。自學習功能對於預測有特別重要的意義。
  • 人工神經網絡初學:是什麼以及為什麼?
    【IT168 技術】談及人工智慧,就會涉及到人工神經網絡。人工神經網絡是現代人工智慧的重要分支,它是一個為人工智慧提供動力,可以模仿動物神經網絡行為特徵,進行分布式並行信息處理的系統。
  • 初識人工神經網絡
    例如大腦可以很容易就能準確地識別出圖片中的物體,即使是圖片中包含以前不曾見過的物體。 這類對於計算機而言非常複雜的問題,對大腦而言卻非常的容易。這也就是神經網絡的魅力所在。人工神經網絡(artificial neural networks) 是一種模仿生物神經網絡行為特徵,進行信息處理的算法數學模型。
  • 人工神經網絡研究的發展歷程及重要特性
    人工神經網絡研究的先鋒麥卡洛克和皮茨曾於1943年提出一種叫做「似腦機器(mindlike machine)」的思想,這種機器可由基於生物神經元特性的互連模型來製造,這就是神經學網絡的概念。他們構造了一個表示大腦基本組成部分的神經元模型,對邏輯作業系統表現出通用性。
  • 生物電子-具有交叉模式整合和識別的生物啟發式多感覺神經網絡
    視覺,觸覺,聽覺,嗅覺和味覺在人類多感覺神經網絡中的集成和交互作用促進了高級認知功能,例如跨模態集成,識別和想像力,以準確評估和全面理解多模態世界
  • 無處不在的人工神經網絡:機器人擁有意識的關鍵
    而作為人工神經網絡的佼佼者,按照神經網絡的架構,深度學習有三大類,分別是:循環神經網絡(RNN):是一種節點定向連接成環的人工神經網絡。這種網絡的內部狀態可以展示動態時序行為,可以利用它內部的記憶來處理任意時序的輸入序列,這讓它可以更容易處理如不分段的手寫識別等。卷積神經網絡(CNN):是層間隨機相連的人工神經網絡。
  • 人工神經網絡及其應用
    1 人工神經網絡的發展歷史及其意義1.1 人工神經網絡的發展歷史神經網絡的發展可以追溯到19世紀末,其發展可以分為四個階段。1958年計算機學家Frank Rosenblatt 發表一篇很有名的文章,在文章中他提出了具有三層網絡結構的神經網絡結構,該文章中提出的算法與後來的反向傳播算法和自組織算法類似。在1960年,Bernard Widrow 和Marcian Hoff發表的一篇為《自適應開關電路》的文章,他們不僅設計了在計算機仿真的人工神經網絡,而且用硬體電路實現了他們的設計。
  • 科技:人工神經網絡的進步
    這些重大新故事中的一些與人工神經網絡有關,人工智慧研究中的一個相對較新的現象正在推動從娛樂到醫學等許多領域的各種進步。人工神經網絡依賴於這樣的思想:技術可以使用對應於個體人類神經元和神經元組的小單元來模擬人類大腦的生物學工作,以基於輸入產生輸出。
  • 人造突觸問世,可用於搭建神經網絡
    「不同於模擬神經網絡,我們的工作是構建一個神經網絡。」人工突觸的設計靈感源自電池。它有三個電極,電極本身由兩個柔性薄膜組成,電極間則通過鹽水電解液連接。這個設備工作起來就像電晶體那樣,兩個電極之間的電流,由第三個電極控制。研究人員使人工突觸反覆地充放電,以此效仿人類通過不斷學習,來強化大腦中神經通路的過程。
  • 科學家創建由DNA構成的人工神經網絡,能夠模仿大腦形成記憶
    他們的最終目標是對智能行為進行編程處理,例如:有能力進行計算和做出選擇,以及更多的活動,整個過程核心部分是用DNA製造的人工神經網絡。來自美國加州理工學院的專家們針對電子人工神經網絡進行挑戰性設計——識別人類筆跡。這是機器人視覺研究人員解決的首要任務之一,也是一種理想的方法來說明基於DNA的神經網絡能力。
  • 人工神經網絡的定義
    人工神經網絡的定義   人工神經網絡( Artificial Neural Networks, 簡寫為ANNs)也簡稱為神經網絡或稱作連接模型,是對人腦或自然神經網絡若干基本特性的抽象和模擬。