1 人工神經網絡的發展歷史及其意義
1.1 人工神經網絡的發展歷史
神經網絡的發展可以追溯到19世紀末,其發展可以分為四個階段。
第一個階段為啟蒙階段,始於1890年美國心理學家 William James發表的第一部關於詳細論述人腦結構及功能的專著《心理學原理》,對於相關學習、聯繫記憶的基本原理做了開創性研究。半個世紀後,生理學家 W.s.McCulloch和數學家W.A.Pitts於1943年發表了一篇神經網絡方面的著名文章。在這篇文章中,他們在已知的神經細胞生物學基礎上從信息處理的角度出發,提出形式神經元的數學模型,稱為M-P模型。該模型為開創神經學科理論研究的新時代。在1949年,心理學家Donala O.Hebb出版一本為《行為構成》的書,在書中他建立了現在被人們稱為Hebb算法的連接訓練算法。1958年計算機學家Frank Rosenblatt 發表一篇很有名的文章,在文章中他提出了具有三層網絡結構的神經網絡結構,該文章中提出的算法與後來的反向傳播算法和自組織算法類似。在1960年,Bernard Widrow 和Marcian Hoff發表的一篇為《自適應開關電路》的文章,他們不僅設計了在計算機仿真的人工神經網絡,而且用硬體電路實現了他們的設計。結束於在1969年M.Minsky和S.Papert發表了轟動一時的神經網絡的書《感知器》。
第二個階段為低潮階段,始於在1969年M.Minsky和S.Papert發表的《感知器》,該書中指出,簡單的神經網絡只能運用於線性問題的求解,能夠求解非線性的網絡應該具有隱層,從理論上還不能證明感知器模型擴展到多層的意義,從而許多的專家紛紛放棄這方面的研究,從而開始了神經網絡發展歷史上長達十年的低潮時期。在低潮時期,仍有為數不多學者堅持致力於神經網絡的研究,在此期間,也提出了許多寶貴的理論。例如,1969年美國波士頓大學的教授S.Grossberg和其夫人提出了著名的自適應理論模型。1972年,芬蘭的教授T.Kohonen提出了自組織映射理論,與此同時美國的心理學家J.Anderson提出了類似的神經網絡,被稱為「交互式存儲器」。日本東京NHK廣播科學研究實驗室的福島邦彥,他開發了一些神經網絡結構與訓練算法。雖然上述的研究成果沒有引起當時人們注意,但是其科學不可磨滅。
第三個階段為復興時期,開始於1982年Hopfield發表的著名文章《神經網絡和物理系統》,他總結與吸取前人的成果和經驗,把各種結構和各種算法概括起來,構造出了一種新穎的網絡模型,被人們稱為Hopfield模型。其獲得了學術界和工程技術的關注,掀起了各個學科對神經網絡的研究。結束於1986年,D.E.Rumelhart和J.L.McClelland領導的研究小組發表的《並行分布式處理》一書,他們提出了PDP網絡思想,為神經網絡的新時期到來起到了推動作用。
第四個階段為新時期,開始於1987年6月,在美國加州聖地牙哥召開的首屆國際神經網絡學術會議,這標誌了在全世界範圍內掀起了研究神經網絡的熱潮。從1987年以來,神經網絡的理論、應用、實際開發工具均以令人興奮的速度發展。
1.2研究神經網絡的意義
當前人類所面臨的重大科學技術研究任務之一,是要揭示大腦的工作機制和人類智能的本質,製造出具有完成人類智能活動能力的人工智慧系統。神經網絡是從腦的神經系統結構出發來研究腦的功能,研究人量簡單的神經元的集團信息處理能力及其動態行為。現在神經網絡對兒十多年來一直困擾計算機科學和符號處理的一些難題可以得到比較令人滿意的解答,顯示出了其獨特的能力。
神經網絡是在許多學科的基礎上發展起來的一門活躍的邊緣性交義學科。它的產生和發展一方面受其他學科的影響,反過來又勢必影響其他學科的發展。神經網絡既是高度非線性動力學系統,又是白適應組織系統,可用來描述認知、決策及控制的智能行為,它的中心問題是智能的認知和模擬。以神經網絡研究為開端,整個學術界對計算的概念和作用有了新的認識和提高。計算不僅僅局限於數學中,更不僅採取邏輯的、離散的形式,在人量的物理現象以至生物學對象中,進行各種各樣的計算,而且人量的運算表現在對模糊低精度模擬量的並行計算,對於這一類計算,傳統的計算機是無能為力的。神經網絡的數學理論本質是非線性的數學理論,因此,現代非線性科學方面的進展必將推動神經網絡的研究,同時,神經網絡理論也會對非線性科學提出新課題。神經網絡研究的對象是神經系統,這是高度進化的複雜系統,也是系統科學中一個重要的具體的領域。神經網絡的研究不僅重視系統的動態特性,而且強調事件和信息在系統內部的表達和產生。
2 人工神經網絡的種類及應用領域
2.1人工神經網絡的種類
人工神經網絡的模型很多,可以按照不同的方法分類進行分類。其中比較常用的分類方法是,按網絡連接的拓撲結構分類和按網絡內部的信息流向分類。
2.1.1 網絡拓撲結構類型
神經元之間的連接方式不同,網絡的拓撲結構也不同。根據神經元之間的連接方式不同,可以分為:層次類結構,互連型結構。
(1)層次類結構,層次類結構的神經網絡將神經元功能分成若干層,比如輸入層,中間層和輸出層,各層順序連接。層次類網絡結構有3中典型的結合方式:單純層次型網絡結構、輸出層到到輸入層有連接的層次型網絡結構和層內有互聯的層次型網絡結構。
(2)互連型結構,對於互連型網絡結構,網絡中任意兩個節點之間都有可能存在連接路徑,所以根據網絡中節點的互連程度將互連型結構細分為3中情況:全互連型,局部互連型和稀疏連接型。
2.1.2 網絡信息流向類型
從神經網絡內部信息傳遞方向來分,可分為兩種:前饋型網絡、反饋型網絡、相互結合型網絡和混合型網絡。
前饋型網絡,前饋網絡通常包含很多層,這種網絡特點是指由前後相鄰兩層之間神經元相互聯接,各種神經元之間沒有反饋,每個神經元可以從前一層接受多個輸入,並只有一個輸出送給下一層的各神經元。這種網絡結構特別適合於BP算法,至今仍得到十分廣泛的應用。
反饋型網絡,反饋型網絡從輸入層到輸出層有反饋,即每一個節點同時接收外來輸入和來自其它節點的反饋輸入,其中也包括神經元輸出信號引回到本身輸入構成的自環反饋,這種反饋網絡每個結點都是一個計算單元。最著名的反饋神經網絡是Hopfield神經網絡。相互結合型網絡。相互結合型網絡屬於網狀結構,構成網絡中的各個神經元都可能相互雙向聯接,所有的神經元既作輸入,同時也用於輸出。這種網絡對信息處理與前饋型網絡不一樣。在前饋型網絡中,信息處理是從輸入層依次通過中間層(隱層)到輸出層,處理結束。而在這種網絡中,如果在某一時刻從神經網絡外部施加一個輸入,各個神經元一邊相互作用,一邊進行信息處理,直到使網絡所有神經元的活性度或輸出值收斂於某個平均值為止作為信息處理的結束。
混合型網絡。前饋型網絡和相互結合型網絡分別是典型的層狀結構網絡和網絡結構網絡,介於這兩種網絡中間的一種聯接方式,在前饋網絡的同一層間神經元有互聯的結構,稱為混合型網絡。這種同一層內的互聯,目的是為了限制同層內神經元同時興奮或抑制的神經元數目,以完成特定的功能。
2.2人工神經網絡應用領域
神經網絡在國民經濟和國防科技現代化建設中具有廣闊的應用領域和發展前景。神經網絡具有人規模並行、分布式存儲和處理、白組織、白適應和自學習能力,特別適用丁處理需要同時考慮多因素和多條件的、不精確和模糊的信自、處理問題。它土要應用領域有:語音識別、圖像識別、計算機視覺、智慧機器人、故障診斷、實時語言翻譯、企業管理、市場分析、決策優化、物資調運、白適應控制、專家系統、智能接口、神經心理學、心理學不和認知科學研究等等。
3人工神經網絡的發展前景
近十年來,神經網絡理論與實踐有了引人注目的進展,它再一次拓展了計算概念的內涵,使神經計算、進化計算成為新的學科,神經網絡的軟體模擬得到了廣泛的應用。近兒年來科技發達國家的主要公司對神經網絡晶片、生物晶片獨有情鍾。例如Intel公司、IBM公司、AT &T公司和HNC公司等己取得了多項專利,已有產品進入市場,被國防、企業和科研部門選用,許多公眾手中也擁有神經網絡實用化的工具,其商業化令人鼓舞。儘管神經計算機、光學神經計算機和生物計算機等研製具有艱巨性和長期性,但有一點可以使人欣慰,它現在還只是初露鋒藝,有巨大的潛力與機會,前景是美好的。事實上,探究人腦一思維一計算之間的關係才剛剛開始,道路還十分漫長,關於腦的計算原理及其複雜性:關於學習、聯想和記憶過程的機理及其模擬等方面的研究已受到人們的關注,它末來的發展必將是激動人心的。
4 人工神經網絡在電力負荷預測中的應用
4.1電力系統負荷預測
由於電能無法大量儲存,這就要求電力系統能夠儘可能保證實時的供需平衡,所
以對於負荷特性的研究是十分必要的。研究負荷預測方法,建立負荷預測模型,對電
網進行負荷預測,能夠減小發電量與用電量之間的不必要的備用量,促進發電機的合
理配置,而且能夠提高電力網絡的安全性,對發電、變電、輸配電部門的運作有重要
的影響。電力系統負荷預測為制定發電和維修計劃、能源銷售計劃提供理論基礎,對
於電網的安全可靠運行具有重要意義。
電網的負荷具有其獨特的性質,負荷預測的方法是對已有的歷史負荷數據,運用
一定的方法分析並建立模型,總結出其負荷特性及內在的變化規律。對於未來某時刻
的負荷值,可以通過研究其內在的發展趨勢和因果關係來確定,但是由於很多人為和
自然因素的影響,很難準確預測出負荷值,所以負荷預測的研究對象是不確定事件,
4.2人工神經網絡法
人工神經網絡方法源於生物學,通過對人腦神經系統基本特徵的研究,模擬出類
似於神經元的基本功能及其工作過程。人工神經網絡根據發生事件的積累經驗,學習
並修改模型,最終實現對目標的計算。這種方法具有強大的學習能力和魯棒性,對於
非線性處理具有突出優勢,此外,它還具有自組織、自學習、聯想記憶等特點。人工
神經網絡由並行運算的神經元組成,各神經元實現一個輸入到輸出的非線性關係。通
過對連接權值的調整,學習知識,使神經網絡實現非線性映射。在對負荷進行預測過
程中,存在很多不確定的影響因素,使得負荷的預測具有非線性,所以人工神經網絡
方法在這方面具有明顯的優越性。將已知的負荷數據作為輸入量,選擇適當的訓練方
法,進而確定輸入層、隱含層和輸出層的連接權值和閩值,將負荷知識儲存在連接權
中,建立複雜的非線性負荷預測模型,然後計算得出預測結果。
由於人工神經網絡方法的應用範圍越來越廣泛,對其的研究也更加深入,因此出
現了很多新算法,使它自身的自適應功能和自學習功能取得了提高,並且可以將其他
影響因素加入到其中,是電力系統短期負荷預測的一種有效方法。但是,人工神經網
絡法也具有一定的缺陷,收斂速度較慢,容易出現局部極小現象,所以,還需要進一
步的研究改進。
利用人工神經網絡建立負荷預測的模型,首先要對原始負荷數據進行收集、分析
以及預處理,確定樣本集及變量參數,以完成網絡結構的建立,然後對樣本進行訓練,
對所有樣本的正向傳播和反向傳播稱為一次訓練,需經過反覆的訓練,尋找到能夠滿
足要求的變量參數,才能夠建立合理電力負荷預測的模型。