深度神經網絡,通過使用數學模型來處理圖像

2020-12-16 電子發燒友

深度神經網絡，通過使用數學模型來處理圖像

新經網 發表於 2020-12-16 10:22:58

　　它們具有看似複雜的結果，但也有可能被愚弄，範圍從相對無害-將動物誤識別為另一動物-到引導自動駕駛汽車的網絡將停車標誌誤解為指示停車標誌的潛在危險是可以安全進行的。

　　休斯頓大學的一位哲學家在發表於《自然機器智能》上的一篇論文中暗示，關於這些假定故障背後原因的普遍假設可能是錯誤的，這些信息對於評估這些網絡的可靠性至關重要。

　　隨著機器學習和其他形式的人工智慧越來越深入地融入社會，從自動櫃員機到網絡安全系統，其用途廣泛，UH哲學副教授卡梅倫·巴克納（Cameron Buckner）表示，了解由什麼導致的明顯故障的來源至關重要。

　　研究人員稱其為「對抗性例子」，是指當深度神經網絡系統遇到用於構建網絡的訓練輸入之外的信息時，會誤判圖像或其他數據。它們很罕見，被稱為「對抗性」，因為它們通常是由另一個機器學習網絡創建或發現的-機器學習領域中的一種邊緣技術，介於創建複雜示例的更複雜方法與檢測和避免它們的更複雜方法之間。

　　巴克納說：「這些對抗性事件中的一些反而可能是人工產物，為了更好地了解這些網絡的可靠性，我們需要更好地了解它們是什麼。」

　　換句話說，不發火可能是由網絡需要處理的內容和所涉及的實際模式之間的相互作用引起的。這與完全被誤解不是完全一樣的。

　　巴克納寫道：「理解對抗性例子的含義需要探索第三種可能性：至少其中一些模式是人工製品。」「……因此，目前簡單地丟棄這些模式既有代價，也有天真地使用它們的危險。」

　　導致這些機器學習系統犯錯誤的對抗事件不一定是故意的瀆職造成的，但這是最高的風險所在。

　　巴克納說：「這意味著惡意行為者可能欺騙依賴於本來可靠的網絡的系統。」「那有安全應用程式。」

　　責任編輯：lq

打開APP閱讀更多精彩內容

聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容圖片侵權或者其他問題，請聯繫本站作侵刪。 侵權投訴

相關焦點

  • 深度學習不是萬靈藥 神經網絡3D建模其實只是圖像識別
    隨著深度學習的大熱，許多研究都致力於如何從單張圖片生成3D模型。但近期一項研究表明，幾乎所有基於深度神經網絡的3D中重建工作，實際上並不是重建，而是圖像分類。深度學習並不是萬能的！ 深度學習並不是萬靈藥。 近幾年，隨著深度學習的大熱，許多研究攻克了如何從單張圖片生成3D模型。
  • 深度神經決策樹:深度神經網絡和樹模型結合的新模型
    深度神經決策樹：深度神經網絡和樹模型結合的新模型 工程師郭婷 發表於 2018-08-19 09:14:44 近日，來自愛丁堡大學的研究人員提出了一種結合深度神經網絡和樹模型的新型模型——深度神經決策樹(Deep
  • 什麼是人工神經網絡(ANN)?
    人工神經網絡的靈感來自其生物學對應物。大腦的許多功能仍然是個謎，但是我們知道的是，生物神經網絡使大腦能夠以複雜的方式處理大量信息。大腦的生物神經網絡由大約1000億個神經元組成，這是大腦的基本處理單元。神經元通過彼此之間巨大的連接（稱為突觸）來執行其功能。人腦大約有100萬億個突觸，每個神經元約有1,000個。
  • 反之亦然,科學家開始用深度神經網絡解釋人類大腦
    老實說，在我的實驗室裡，之前沒有人用深層網絡做任何事情，"麻省理工學院神經科學家南希-坎維舍說，"而現在，他們中的大多數人反而常常去訓練神經網絡模型。"01深度網絡和視覺人工智慧裡的神經網絡是由相互連接的感知器構建的，感知器是一種生物神經元的簡化數學模型。在這種神經網絡裡至少有兩層感知器，一層是輸入層，一層是輸出層。
  • 你試過建立一個神經網絡模型來解決簡單的數學問題嗎
    字，預計學習時長4分鐘圖源：unsplash你試過建立一個神經網絡模型來解決簡單的數學問題嗎如果有，那麼你可能會意識到神經網絡模型並不是用來解決這些簡單問題的。你通過一個相對複雜的模型得到類似一個數的平方的問題，這也不盡人意。今天，在任何尖端技術中，數字的精確性非常重要，結果的一個微小變化可能會導致部署人工智慧的系統出現極大的故障。
  • 人工智慧黑盒揭秘:深度神經網絡可視化技術
    的首選模型，在圖像識別，語音識別，自然語言處理，計算生物，金融大數據等領域成效顯著。深度神經網絡的可視化作為理解人工智慧系統的主要技術，模型可視化是一個由來已久而且寬泛的話題。模型可視化與數據可視化屬於不同的範疇，數據可視化通過降維，主成分分析等技術來分析數據的結構，模型可視化針對的是對機器學習模型本身的理解。
  • 基於亞速海遙感數據,使用精確的4D模型處理海岸系統遙感數據
    打開APP 基於亞速海遙感數據，使用精確的4D模型處理海岸系統遙感數據 新華網 發表於 2020-12-15 16:35:58
  • 清華大學圖神經網絡綜述:模型與應用
    圖神經網絡（GNN）是一類基於深度學習的處理圖域信息的方法。由於其較好的性能和可解釋性，GNN 最近已成為一種廣泛應用的圖分析方法。GNN 的第一個動機源於卷積神經網絡（CNN）。CNN 的廣泛應用帶來了機器學習領域的突破並開啟了深度學習的新時代。然而 CNN 只能在規則的 Euclidean 數據上運行，如圖像（2 維網格）和文本（1 維序列）。
  • 神經網絡並不是尚方寶劍,我們需要正視深度 NLP 模型的泛化問題
    相反，LeCun 將這種結構描述成「必要的惡」，這迫使我們作出某些可能限制神經網絡的假設。LeCun 的觀點（減少歸納偏置）之所以令人信服的一個論據是，事實上使用基於語言學的偏置的現代模型最終並不能在許多對比基準測試中獲得最佳性能（甚至有一個段子說，「每當我從團隊裡開除一個語言學家，我的語言模型的準確率就會提升一些」）。
  • 俄用4D模型處理海岸遙感數據
    創新連線·俄羅斯 俄羅斯頓河國立技術大學（DSTU）正在建立一套基於亞速海遙感數據，分析海洋和沿海生態系統狀況的數學模型和方法。該項研究結果將有助於開發一種技術來監測不良和危險現象，例如石油汙染、極端增減水現象、富營養化（藻類大量繁殖），並在一個全新的水平預測水生態系統的發展。
  • 圖像處理速度提升2萬倍,傳感器當神經網絡用
    另外，由於傳感器通常會產生模擬輸出，而模數轉換既耗時又耗能，因此模擬處理要好過數字處理。維也納大學研究人員們試圖通過減少中間步驟來加快機器視覺，他們直接在圖像傳感器中實現了人工神經網絡（ANN）。▲ 輸入信息在視覺傳感器內進行計算，實現智能，高效的預處理傳統AI視覺傳感器的處理過程如圖（a）所示，傳感器收集信號，通過模數轉換器（ADC）將模擬信號轉換為數位訊號，放大後輸入到外部人工神經網絡（ANN），經參數調優訓練神經網絡。
  • 深度網絡揭秘之深度網絡背後的數學
    我在GitHub上提供了用於創建本文中使用的可視化的原始碼。了解更多的神經網絡的工作原理。我決定在今年夏天抽出點時間深入的學習一下數學。我也打算寫一篇關於最新的學習諮詢的文章，以便幫助別人理解一些生澀難懂的概念。我編寫的這篇文章會對那些不太擅長線性代數和微積分的人十分友好，但就像標題所暗示的，這將是一篇與數學密切相關的文章。
  • 深度學習面試寶典(含數學,機器學習,深度學習,計算機視覺等)
    深度學習面試寶典這是一個在 github 上開源的 深度學習面試寶典，收集和整理了很多相關的知識。相關收集內容 自我介紹 數學 機器學習 深度學習 強化學習 計算機視覺 傳統圖像處理 自然語言處理 SLAM 推薦算法 數據結構與算法 程式語言 深度學習框架 面試經驗 面試技巧 其它深度學習001 神經網絡中的Epoch、Iteration、Batchsize神經網絡中epoch與iteration是不相等的batchsize：
  • 圖像處理中的「黑科技」——超解析度重建
    這是因為，上面的這些方法都是傳統的信號處理方法，而在資訊理論中，根據數據處理不等式，無論怎樣對數據進行處理，都是無法增加本身就不存在的數據的。這聽起來好像有點打擊人，是不是說我們對於恢復圖像本身的內容就完全無能為力了呢？其實並不是。在深度學習發展的過程中，人們發現神經網絡可以通過對訓練樣本的學習，得到一些模式來恢復圖像中缺失的信息。
  • 通過使用新的學習技術,將腦部掃描和其他三維圖像的配準速度提高...
    為了解決這一問題，MIT的研究人員描述了一種機器學習算法，通過使用新的學習技術，將腦部掃描和其他三維圖像的配準速度提高1000倍以上。 研究人員的算法被稱為「VoxelMorph」，基於卷積神經網絡( CNN )，CNN是一種常用於圖像處理的機器學習方法。這些網絡由許多節點組成，這些節點跨幾個計算層來處理圖像和其他信息。
  • 通過深度學習來創作自己的音樂(附代碼)
    因此，他用隨機理論來闡述它。他對元素的隨機選擇完全依賴於數學概念。最近，深度學習架構已經成為自動生成音樂的最新技術。在本文中，我將討論使用WaveNet和LSTM(長短時記憶)架構實現自動作曲的兩種不同方法。音樂的構成要素是什麼?音樂基本上是由音符和和弦組成的。
  • 模型那麼多,該怎麼選擇呢?沒事,這裡有27種神經網絡的圖解
    下面，我們就來逐一看看圖中的27種神經網絡：Perceptron 感知機Perceptron 感知機，我們知道的最簡單和最古老的神經元模型。接收一些輸入，把它們加總，通過激活函數並傳遞到輸出層。這沒什麼神奇的地方。
  • DNNBrain:北師大團隊出品的用於映射深層神經網絡到大腦的工具箱
    導讀深度神經網絡(DNN)通過端到端的深度學習策略在許多具有挑戰性的任務上達到了人類水平的性能。深度學習產生了具有多層抽象層次的數據表示;然而，它沒有明確地提供任何關於DNNs內部運作的解釋，換句話說它的內部運作是一個黑盒子。
  • Facebook:易於解釋的神經元可能阻礙深度神經網絡的學習
    編輯：張倩、杜偉易於解釋的神經元對於提升神經網絡的性能來說是必要的嗎？Facebook 的研究者給出了出人意料的答案。AI 模型能「理解」什麼？為什麼能理解這些東西？回答這些問題對於復現和改進 AI 系統至關重要。但遺憾的是，計算機科學家在解釋深度神經網絡（DNN）方面的能力遠遠落後於我們利用這些網絡獲取有用成果的能力。
  • 人工智慧學習之什麼是人工神經網絡?
    許多人工智慧計算機系統的核心技術是人工神經網絡(ANN)，而這種網絡的靈感來源於人類大腦中的生物結構。通過使用連接的「神經元」結構，這些網絡可以通過「學習」並在沒有人類參與的情況下處理和評估某些數據。這樣的實際實例之一是使用人工神經網絡(ANN)識別圖像中的對象。