神經網絡算法在我國核領域中的應用綜述

2020-12-05 科技酷資訊

人工智慧(Artificial Intelligence, AI),是研究開發用於模擬、延伸和擴展人的智能的理論、方法、技 術及應用系統的技術科學。從 1956 年在達特蒙斯學院(Dartmouth)暑期論壇上首次提出[1],已經經過了 60 多年的發展和積澱,近十幾年來,隨著網際網路、雲計算、大數據、超級計算等新技術的發展,推動了 以基於深度學習的神經網絡(簡稱深度學習)為代表的人工智慧技術飛速發展,廣泛應用於圖像分類、語音 識別、知識問答、人機對弈、無人駕駛等領域,迎來爆發式增長的新高潮,正引發可產生鏈式反應的科 學突破,加速新一輪的科技革命和產業變革。當前,人工智慧的研究熱點是基於深度學習的神經網絡算 法的理論完善和應用拓展。 作為引領未來的戰略性技術,世界主要發達國家均把發展人工智慧作為提升國家競爭力、維護國家 安全的重大戰略,加緊出臺規劃和政策,力圖在新一輪國際科技競爭中掌握主導權。2017 年 7 月,我國 頒布實施《新一代人工智慧發展規劃》,將人工智慧提升至國家戰略層面,提出了面向 2030 年我國新一 代人工智慧發展的三步走戰略目標,要求到 2030 年,人工智慧理論、技術與應用總體達到世界領先水平, 成為世界主要人工智慧創新中心。2019 年 3 月,中央全面深化改革委員會第七次會議審議通過了《關於 促進人工智慧和實體經濟深度融合的指導意見》。我國發展人工智慧具有市場規模、應用場景、數據資 源、人力資源、資金投入、國家政策支持等多方面的綜合優勢。當前是我國加強人工智慧布局、收穫人 工智能紅利、引領智能時代的重大歷史機遇期。 核工業作為高科技戰略產業,既是國家安全重要基石,又是科技強國建設的重要先導和支撐。我國 已建立起包括鈾礦地質勘探、鈾礦採冶、鈾純化、鈾濃縮、元件製造、核電、乏燃料後處理、放射性廢 物處理處置等環節的完整核工業體系,核工業已經成為軍民結合產業的標杆。我們應該抓住人工智慧發 展的重要機遇期,從整個核產業鏈出發,探索人工智慧尤其是深度學習技術融合應用的需求和場景,大 力推動人工智慧在全產業鏈的深度融合、創新應用和轉型驅動,實現全產業鏈智慧核能,引領國際核科 技發展。目前,國內各大核相關科研單位均已開展了人工智慧方面的基礎研究,各大核電集團也已全面 啟動數字核電、智慧核電建設,加強應用研發,國際上各大核強國也紛紛布局,競相爭奪智慧核能的新 高地。

目前了解到,國際上的研究都還處於方法可靠性和應用軟體的開發上,無論是美國還是歐洲的項目, 由於該技術路線難度極大,所需投入的資源較多,目前尚未在工程領域大量應用。要想在此輪智慧核能 爭奪中佔據主動,首先應當深入掌握當前人工智慧的核心技術——基於深度學習的神經網絡算法,它是 一種具有多個隱含層的人工神經網絡,通過調整隱含層數、各層的神經元節點數、節點之間的連接關係、 連接權重以及網絡的學習係數、激活函數等,具有強大的非線性映射功能,在參數預測、智能控制、故 障診斷等許多領域都有著廣泛的應用前景。本文首先介紹神經網絡算法一些基本模型,接著重點闡述其 在核工業各領域的應用,最後對加強智能核能建設提出一些建議和展望。

卷積神經網絡模型

卷積神經網絡適合處理圖像數據,在計算機視覺領域應用廣泛。CNN 的設計思想受到了視覺神經科 學的啟發,主要由輸入層、卷積層、池化層、全連接層及輸出層組成,卷積層與池化層交替連接,卷積層和池化層的數量可由模型的複雜度決定。卷積層能夠保持圖像的空間連續性,將圖像的局部特徵提取 出來.池化層能降低中間隱藏層的維度,減少後續各層的運算量,並提供了旋轉不變性。

循環神經網絡模型

在全連接的 BP 和 CNN 網絡中,每層神經元的信號只能向上一層傳播,樣本的處理在各個時刻相互 獨立,因此,該類神經網絡無法對時間序列上的變化進行建模,如自然語言處理、語音識別等,RNN 網 絡應運而生。RNN 中神經元的輸出可以在下一個時間戳直接作用到自身,即第 i 層神經元在 t 時刻的輸 入,除了(i 1)層神經元在 t 1 時刻的輸出外,還包括其自身在 t 時刻的輸入。如圖 2 所示。(t + 1)時刻 網絡的最終結果 O(t + 1)是該時刻輸入和所有歷史共同作用的結果,這就達到了對時間序列建模的目的。

但是,我國核領域神經網絡算法的應用起步相對較晚,總體而言,系統性研究還不多見,主要的應 用還是進行模式識別、故障診斷、關鍵參數預測等,對於神經網絡的生成功能、決策功能使用較少。這 十多年來,趕上了神經網絡爆發性發展的大勢,我國的神經網絡理論和應用研究正在飛速發展,與核領 域的交叉融合也是整個行業的發展戰略,未來必將在這方面取得突破性進展。

相關焦點

  • 神經網絡算法原理_神經網絡算法的應用_神經網絡算法實例說明
    神經網絡算法原理   由於神經網絡算法的設計面太大,我們此處暫且只分析Microsoft神經網絡算法的原理,在Microsoft神經網絡算法中,我們可以簡化成下面這個圖片:   訓練後得到神經網絡模型,包含了訓練集中相應值和受預測值影響變化的規律。   在每個神經元中的隱含層中都有著複雜的函數,並且這些都非線性函數,並且類似生物學神經網絡的基本傳輸特徵,這些函數稱之為:激活函數,即:輸入值發生細微的變化有時候會產生較大的輸出變化。
  • CVPR 2019 神經網絡架構搜索進展綜述
    (註:「博士生下降」英文為Grad Student Descent,簡單而言就是「找一個博士生,讓他不斷調參,直到算法工作」。這種說法歪曲自深度學習的Gradient Descent算法,僅作調侃)現在呢,我很想驕傲地宣布——「天天調參的鬼日子結束了!」——但是還為時過早。手動調參尋找神經網絡架構依然是個有趣的工作,尤其是對於那些帶了很多學生的導師而言(開玩笑啦~)。
  • FPGA的應用領域主要是深度學習和神經網絡算法
    打開APP FPGA的應用領域主要是深度學習和神經網絡算法 中關村在線 發表於 2019-09-06 17:50:27 CPU中擁有控制取指、解碼等流程,處理可信具備處理各式各樣千奇百怪的指令要求的能力。 相比之下FPGA就不能向CPU一樣靈活的處理各種沒有見過的指令,只能根據一個固定的模式來處理輸入的數據然後輸出,這也是為什麼FPGA經常被看作一種行家專屬的架構。
  • 訓練神經網絡的五大算法
    訓練神經網絡的五大算法 Alberto Quesada 發表於 2017-11-16 15:30:54   神經網絡模型的每一類學習過程通常被歸納為一種訓練算法。
  • 7 Papers|谷歌等用神經網絡給照片打光,沈向洋等神經語言處理綜述
    機器之心 & ArXiv Weekly Radiostation參與:杜偉、楚航、羅若天本周的重要論文有谷歌等研究機構用神經光傳輸為照片二次打光的探索,以及沈向洋等從建模、學習和推理三方面展開的神經 NLP 綜述。
  • 機器學習算法盤點:人工神經網絡、深度學習
    機器學習算法盤點:人工神經網絡、深度學習 佚名 發表於 2016-08-01 16:26:33   機器學習無疑是當前數據分析領域的一個熱點內容。很多人在平時的工作中都或多或少會用到機器學習的算法。
  • 人工神經網絡及其應用
    半個世紀後,生理學家 W.s.McCulloch和數學家W.A.Pitts於1943年發表了一篇神經網絡方面的著名文章。在這篇文章中,他們在已知的神經細胞生物學基礎上從信息處理的角度出發,提出形式神經元的數學模型,稱為M-P模型。該模型為開創神經學科理論研究的新時代。在1949年,心理學家Donala O.Hebb出版一本為《行為構成》的書,在書中他建立了現在被人們稱為Hebb算法的連接訓練算法。
  • 算法之「算法」:所有機器學習算法都可以表示為神經網絡
    我們可以說,神經網絡是對機器學習的普遍概括,而不是僅僅一次嘗試。與其說神經網絡是簡單的算法,不如說是框架和概念,這是顯而易見的,因為在構建神經網絡時有很大的自由度——比如對於隱藏層&節點個數、激活函數、優化器、損失函數、網絡類型(卷積神經網絡、循環神經網絡等)以及特殊層(批歸一化、隨機失活等)。
  • 深度學習:神經網絡算法的昨天、今天和明天
    從其發展歷程,我們可以窺見計算機科學家們的步步巧思,並從中探討其可能的發展方向。一、什麼是深度學習深度學習就是人工神經網絡(Artificial Neural Network)。神經網絡算法得名於其對於動物神經元傳遞信息方式的模擬,而深度學習這一「俗稱」又來自於多層級聯的神經元:眾多的層讓信息的傳遞實現了「深度」。在動物身上,神經一端連接感受器,另一端連接大腦皮層,中間通過多層神經元傳導信號。
  • 基於神經網絡算法 羊毛_基於pso算法和bp算法訓練神經網絡 - CSDN
    圖神經網絡是用於圖結構數據的深度學習架構,將端到端學習與歸納推理相結合,業界普遍認為其有望解決深度學習無法處理的因果推理、可解釋性等一系列瓶頸問題,是未來 3 到 5 年的重點方向。2019 年圖神經網絡有哪些研究成果值得關注?2020 年它又將朝什麼方向發展?讓我們一起來一探究竟。
  • 機器學習算法匯總:人工神經網絡、深度學習及其它
    常見算法有邏輯回歸(Logistic Regression)和反向傳遞神經網絡(Back Propagation Neural Network) 非監督式學習: 在非監督式學習中,數據並不被特別標識,學習模型是為了推斷出數據的一些內在結構
  • 談一談逆勢而上的圖神經網絡
    越大的自監督模型,半監督學習需要的標籤越少KDD2020 | MoFlow:基於流的分子圖生成模型【綜述】圖神經網絡與深度學習在智能交通中的應用:綜述Survey淺談圖上的自監督學習——對比學習論文快訊 | NeurIPS2020 重新思考圖神經網絡中的池化自監督學習 | ICML2020 自監督學習什麼時候可以對GCN有利?
  • 史上最全GAN綜述2020版:算法、理論及應用
    時至今日,基於 GAN 設計的新型算法如雨後春筍般紛紛湧現了出來、對於 GAN 存在的模式坍塌和收斂性等理論問題的深入分析層出不窮,其應用也廣泛滲透到了諸如計算機視覺、自然語言處理、醫療人工智慧等領域中。本文是一份出自陶大程、葉傑平老師等大牛之手的 GAN 詳細綜述,介紹了近年來有關 GAN 模型的相關研究進展,並指出了今後該領域的發展方向。
  • 神經網絡預測編碼器的設計及應用
    1 BP網絡結構及其算法 反向傳播算法又稱誤差後向傳播算法(Error Back Propagation Algorithm),它是用來訓練多層前饋網絡的一種學習算法。是一種有監督的學習算法。通常稱用誤差反向傳播算法訓練的網絡叫BP網絡。
  • 前沿綜述:大腦結構網絡、功能網絡和網絡控制中的物理學
    ,從大腦的結構網絡、功能網絡和網絡控制的角度,梳理了物理學在腦科學研究中的進展。與很多物理應用不同,腦網絡的異質性,使其無法用對稱論證和平均場理論來描述。為解決腦網絡這種非常不均質的特性,研究者們轉向網絡科學來尋求工具和洞見,從日益增大的實驗數據中,提煉出強有力的組織規律。
  • 蒙特卡洛樹搜索在黑盒優化和神經網絡結構搜索中的應用
    原創 Synced 機器之心機器之心專欄作者:王林楠、田淵棟布朗大學在讀博士王林楠在本文中介紹了他與 Facebook 田淵棟團隊合作,在 2020 年 NeurIPS 取得亮眼表現的新算法,以及其在神經網絡結構搜索中的應用
  • 莊鎮泉——中國科學技術大學——神經網絡,遺傳算法等計算智能方法...
    ,遺傳算法等計算智能方法及其在圖象處理、生物特徵識別、量子神經網絡方面的應用;數據挖掘、知識發現、移動Agent等分布式人工智慧技術及其在電子商務、網絡安全和金融信息處理中的應用。  個人主要研究方向是:神經網絡,遺傳算法等計算智能方法及其在圖象處理、生物特徵識別、量子神經網絡方面的應用;數據挖掘、知識發現、移動Agent等分布式人工智慧技術及其在電子商務、網絡安全和金融信息處理中的應用。   獲獎:   1. 基於專用處理器的神經網絡仿真器  國家教委科技進步三等獎 1994年  2.
  • 神經網絡與人工智慧應用
    算法的改進也是 ML 進展的關鍵,包括深度神經網絡(DNN)和更快的計算機硬體。今天的文章包括一份目前已經在實踐中應用的 AI 算法與技術成果清單,如時序分析(深度學習正迅速取代信號處理領域中的一些傳統技術)等。一方面,這些成果可以說相當酷炫,但本文暫時不會對強化學習的實際應用進行展望,因為在我看來,實際上其還很難在某些工業應用環境中產生實際效果。當然,不能否認的是,強化學習確實是個前景廣闊,且正處於快速發展中的研究領域。
  • 從數據結構到算法:圖網絡方法初探
    但是真實圖的數據量龐大,動輒上億節點、而且內部拓撲結構複雜,很難將傳統的圖分析方法如最短路徑、DFS、BFS、PageRank 等算法應用到這些任務上。鑑於機器學習在圖像、文本領域的廣泛應用,一部分研究者嘗試將機器學習方法和圖數據結合起來,逐漸成為機器學習領域的一股熱潮。網絡表示學習、圖嵌入的定義俗話說「巧婦難為無米之炊」,再強大的機器學習算法也需要數據進行支持。
  • Widrow-Hoff神經網絡學習規則的應用研究
    摘要:基於線性神經網絡原理,提出線性神經網絡的模型,並利用Matlab實現Widrow-Hoff神經網絡算法。分析Matlab人工神經網絡工具箱中有關線性神經網絡的工具函數,最後給出線性神經網絡在系統辨識中的實際應用。