中科院計算所研究人員再獲進展 向圖神經網絡加速時代再進一步

2021-01-22 中國新聞網

中新網北京1月9日電 (記者 張素)「『HyGCN』寓意向圖神經網絡的加速說『Hi』,也寓意圖神經網絡加速的時代即將開啟。」中國科學院計算技術研究所特別研究助理嚴明玉近日在受訪時說。

「GCN」即圖卷積神經網絡的英文縮寫,這是圖神經網絡的一個分支。通過融合深度學習算法和圖計算算法,將對搜索、推薦、風險控制在內的諸多領域擁有更優的認知與問題處理等能力。

日前,《中國計算機學會通訊》(CCCF)刊發了中科院計算所特別研究助理嚴明玉、研究員範東睿以及研究員葉笑春共同撰寫的綜述文章《圖神經網絡加速晶片:人工智慧「認知智能」階段起飛的推進劑》,其中提出了圖神經網絡加速晶片設計「HyGCN」。

嚴明玉說,圖神經網絡被認為有望讓機器「能理解、會思考」。「為了應對圖神經網絡的混合執行行為,我們設計了新的處理器結構,以更高效地加速圖神經網絡的執行。」他說。

繼提出「HyGCN」以後,中國科學院計算技術研究所又發布了圖神經網絡加速晶片的IP核(即製備晶片的智慧財產權核),並面向全球開展商業授權。嚴明玉解釋說,圖神經網絡加速晶片在國際上尚屬「無人區」,他們最新成果的設計思路可匹配圖神經網絡對算力的特殊要求,將大幅提升圖神經網絡的執行效率。

據介紹,科研人員發布的這款圖神經網絡加速IP核代號為「GCU Zero」。在圖卷積神經網絡的執行進行加速的過程中,「GCU Zero」可提供低延遲獨立執行模式和高並發融合執行模式兩個工作模式。

嚴明玉說,基於「GCU Zero」,研究團隊設計了完整晶片並計劃投片,將在今年第二季度搭載在中科睿芯「金剛」高通量計算機上。他還表示,面向高性能和超高性能的圖神經網絡訓練和推斷,科研團隊將在今明兩年陸續發布新成果。

另據報導,谷歌地圖基於事件樹的風險評估、圖片社交網站Pinterest的內容推薦、阿里巴巴的風控和推薦、騰訊等公司的視覺和風控等業務中都有圖神經網絡的影子。有市場研究機構發布報告預測,圖神經網絡加速晶片可能將產生300億美元以上的市場規模。(完)

相關焦點

  • 中科院計算所提出圖神經網絡加速晶片設計
    圖神經網絡加速晶片之後有望成為主流的機器學習晶片。近日,《中國計算機學會通訊》(CCCF)刊發了中科院計算所特別研究助理嚴明玉、研究員範東睿以及研究員葉笑春,共同撰寫的綜述文章《圖神經網絡加速晶片:人工智慧「認知智能」階段起飛的推進劑》。
  • 「一文看懂」深度神經網絡加速和壓縮新進展年度報告
    中國科學院自動化研究所的程健研究員,向大家介紹過去一年,深度神經網絡加速和壓縮方面所取得的進展。鄭板橋在《贈君謀父子》一詩中曾寫道,「刪繁就簡三秋樹,領異標新二月花。」這句詩講的是,在畫作最易流於枝蔓的蘭竹時,要去掉其繁雜使之趨於簡明如「三秋之樹」;而針對不同的意境要有發散的引申,從而使每幅作品都如「二月之花」般新穎。
  • 中科院計算所沈華偉:圖神經網絡表達能力的回顧和前沿
    作者 | 蔣寶尚編輯 | 叢末6月23日,中科院計算所的研究員、智源研究院的智源青年科學家沈華偉老師在第二屆北京智源大會上做了《圖神經網絡的表達能力》的報告。沈華偉老師還對近幾年圖神經網絡表達能力的相關研究進行了梳理,他說:「GNN出現的早期,大家對它表達能力的認識是基於其在半監督學習,尤其是節點分類任務上的優秀表現,一些應用向的研究也只是對圖神經網絡表達能力經驗上的證明」。基於這個認知,在介紹完圖神經網絡的基本知識之後,沈華偉老師對圖神經網絡的表達能力給予了理論上的介紹。
  • 中科院計算所沈華偉:圖神經網絡表達能力的回顧和前沿
    作者 | 蔣寶尚編輯 | 叢末6月23日,中科院計算所的研究員、智源研究院的智源青年科學家沈華偉老師在第二屆北京智源大會上做了《圖神經網絡的表達能力》的報告。在報告中,沈華偉老師提到:這幾年,雖然圖神經網絡在其他領域大量應用,但「內核」仍然停滯不前,目前設計新圖神經網絡(GNN)的兩種常用方式都在面臨理論上的瓶頸。
  • 昆明動物所阿爾茨海默病基因表達譜與調控網絡研究獲進展
    昆明動物所阿爾茨海默病基因表達譜與調控網絡研究獲進展 2017-09-27 昆明動物研究所 在姚永剛指導下,昆明動物所博士研究生徐敏和博士張登峰等對報導的AD腦組織表達譜數據進行了全面系統的整合分析,以探究AD發展過程中基因表達譜及調控網絡的改變,尋找AD發生過程中起關鍵節點作用的上遊調控因子。研究人員收集了目前為止最大的AD相關腦區表達數據集並進行整合分析,獲得了穩健的AD差異表達基因集,構建了精細的AD調控網絡。
  • 宇宙黑暗時代再電離研究獲重要突破
    中國科學技術大學王俊賢教授自2012年發起組織的由中國、美國、智利三國天文學家參加的「宇宙再電離時期的萊曼阿爾法星系」(英文縮寫LAGER)研究項目在宇宙再電離研究領域獲突破性進展。在那段時期,宇宙中沒有恆星,沒有星系,整個宇宙被中性氫所充滿。在這個黑暗時代末期,重力作用下宇宙第一代恆星和星系開始形成,它們發出的紫外光輻射電離了周圍的中性氫,使得整個宇宙開始明亮起來。這段整個宇宙的整體相變過程被稱之為再電離。
  • 人神經膠質母細胞瘤的幹細胞起源和精準幹預研究獲進展
    人神經膠質母細胞瘤的幹細胞起源和精準幹預研究獲進展 來源:生物物理研究所   發布者:張薦轅   日期:2015-12-08   今日/總瀏覽:2/1961
  • 中科院神經所所長:體細胞克隆猴開啟新藥研發「靈長類」時代
    中國科學院神經科學研究所(以下簡稱「中科院神經所」)所長蒲慕明告訴科技日報記者。中科院神經所研究員孫強從蒲慕明那接到體細胞克隆猴任務時,給自己和團隊的時間是十年。事實上,他們僅用了五年就做出讓學術界矚目的成果。
  • 微電子所憶阻器基感知計算研究獲進展
    當前,人類社會正由信息化向智能化演進。智能化社會需要高效智能的信息感知系統對感知到的巨量信息進行有效甄別、處理和決策,並對重複無意義的信息進行有效過濾。因此,基於生物感受神經系統的功能特性構建具備生物現實性的高效智能信息感知系統將成為一個重要發展趨勢。
  • 北大、微軟亞洲研究院:高效的大規模圖神經網絡計算
    新智元報導 來源:arXiv編輯:肖琴【新智元導讀】第一個支持圖神經網絡的並行處理框架出現了!北京大學、微軟亞洲研究院的研究人員近日發表論文,提出NGra,這是第一個支持大規模GNN的系統。GNN(圖神經網絡)代表了一種新興的計算模型,這自然地產生了對在大型graph上應用神經網絡模型的需求。但是,由於GNN固有的複雜性,這些模型超出了現有深度學習框架的設計範圍。此外,這些模型不容易在並行硬體(如GPU)上有效地加速。
  • 中科院自動化所發力類腦智能研究—新聞—科學網
    從平行到交叉 在很長時間內,人腦的科學研究和人工智慧的研究,猶如兩條平行線,幾乎看不到實質性的交集。 人類研究腦的運行機制已經有上百年的歷史。出於健康的考量,腦科學的發展很快,也越來越受重視。 1956年,來自不同領域的學者在達特茅斯 (Dartmouth)研討會上首次提出「人工智慧」的概念。
  • 昆明動物所等在麻風遺傳易感性研究中獲進展
    昆明動物所等在麻風遺傳易感性研究中獲進展 2017-12-14 昆明動物研究所 【字體:,在麻風遺傳易感性研究方面取得新進展。蛋白-蛋白相互作用預測研究發現,APOE及相關脂質基因處於麻風易感基因構成的網絡中,這提示APOE參與的脂質代謝途徑在麻風桿菌感染期間發揮作用。APOE在麻風和AD發病過程是否具有相似的作用,仍需進一步研究。該研究為理解麻風與神經退行性疾病相關作用通路和共有的遺傳基礎提供了新認識。  研究工作得到了國家自然科學基金委、雲南省和中科院的資助。
  • 表徵學習、圖神經網絡、可解釋的 AI,ML & 機器人七大研究進展一覽
    作為一個對真實世界感興趣和經常使用這些新技術的人,我發現我對尤其是在像智慧型手機和小型自動機器人等資源受限的系統上使用這些技術的研究特別感興趣,這些研究將會促使這些工具和功能得到更廣泛的應用。在網絡蒸餾方面,一些很棒的工作十分值得關注:在訓練模型後使用優化技術刪除對整體性能影響不大的神經網絡部分,代價只不過是增加些計算量。
  • 變分自回歸神經網絡求解統計力學研究取得進展
    變分自回歸神經網絡求解統計力學研究取得進展 2019-03-06 理論物理研究所 物理研究所 張潘與合作者中科院物理研究所研究員王磊以及北京大學本科生吳典,合作提出了一個應用於統計力學問題的計算方法——變分自回歸神經網絡(Variational Autoregressive Networks)。
  • "計算神經生物學"研究:給機器人一個"大腦"(圖)
    該研究發表於美國的《神經元》(Neuron)雜誌上。  支撐這一技術的科學叫做計算神經生物學,用最簡單的話說,就是為不同的大腦功能建立不同的模型。  什麼是計算神經生物學?  「計算神經生物學是近年來迅猛發展的關於神經系統功能研究的一個新的交叉學科。它吸收了數學、物理學等基礎理論,以及信息科學等相關領域的研究理論和方法來研究神經科學所關心的大腦工作原理。」
  • 大連化物所超冷四原子反應的動力學計算研究獲進展
    近日,中國科學院院士、中科院大連化學物理研究所分子反應動力學國家重點實驗室研究員張東輝團隊,在超冷四原子反應的動力學計算研究中取得進展,實現超冷四原子反應的精確截面計算。  近年來,超冷(T<10-3K)分子的製備成為實驗熱點。
  • 基於憶阻器的神經網絡應用研究
    基於憶阻突觸器件的硬體神經網絡是神經形態計算的重要發展方向,是後摩爾時代突破傳統馮·諾依曼計算架構的有力技術候選。綜述了國內外憶阻硬體神經網絡的近期發展現狀,從器件發展和神經網絡兩個方面,詳細闡述了憶阻器這一新興信息器件在神經形態計算中所發揮的角色作用,討論了依然存在的關鍵問題和技術挑戰。憶阻器為實現存算一體化架構和超越摩爾定律提供了技術障礙突破的可行方案。
  • 中科院金屬所:碳基材料催化一級醇高值轉化研究中獲進展
    中國科學院金屬研究所瀋陽材料科學國家研究中心聯合研究部能源催化材料課題組致力於研究金屬催化材料的高效利用與替代,尤其是在納米碳催化反應機理和過程及新穎碳催化反應體系中開展了深入研究。近期,科研團隊在納米碳基材料高效催化一級醇轉化研究中獲進展。
  • 基於憶阻器的神經網絡應用研究
    圖2.傳統馮·諾依曼計算架構與基於非易失存儲器的存算一體化架構神經形態計算的研究與發展是通向未來人工智慧時代,構建新型存算一體架構的賽道之一。在神經形態計算的研究領域,類神經網絡與新型神經形態硬體是兩大基礎研究,在此研究基礎上,結合對生物大腦機制的愈加深入了解,最終實現人工智慧。在類神經網絡方面,以深度學習為基礎的神經網絡研究已經普遍存在於人工智慧領域。神經網絡,即以數學模型來模擬人腦神經元及突觸的結構,並結合多層次傳導來模擬神經元的互聯結構,現如今已大量應用於人工智慧。
  • 中科院神經所最新研究成果:大腦通過統計推理表徵「自我」
    在該研究中,研究人員利用自主設計搭建的虛擬實境呈現系統,在人類和獼猴被試上建立身體幻覺行為學範式,並首次在獼猴上對其身體「擁有感」 (ownership) 進行定量行為學測量和計算建模。更重要的是,研究人員通過電生理記錄的方式,發現了獼猴大腦前運動皮層的群體神經元以貝葉斯因果推斷的方式對身體擁有感進行編碼。