近日，《中國計算機學會通訊》（CCCF）刊發了中科院計算所特別研究助理嚴明玉博士、研究員範東睿以及研究員葉笑春共同撰寫的綜述文章《圖神經網絡加速晶片：人工智慧「認知智能」階段起飛的推進劑》。文章披露，為更好地支持認知智能的發展，該團隊提出了國際首款圖神經網絡加速晶片設計 HyGCN。目前，介紹該晶片設計的相關論文已先後在計算機體系結構國際頂級會議MICRO和HPCA上發表。
「HyGCN，寓意向圖神經網絡的加速說『Hi』。」嚴明玉介紹道，圖神經網絡將深度學習算法和圖計算算法相融合，取長補短，能達到更優的認知與問題處理等能力，在搜索、推薦、風險控制等重要領域有著廣泛應用。現有的處理器晶片在執行圖神經網絡的計算中效率低下，其團隊前瞻性地展開面向圖神經網絡的加速晶片設計，為解決這一難題提供了可行方案。
讓機器「能理解、會思考」
圖神經網絡被認為是推動認知智能發展強有力的推理方法，有望解決深度學習無法處理的關係推理、可解釋性等一系列問題，讓機器「能理解、會思考」。2019年後，圖神經網絡逐漸成為各人工智慧頂級會議的「熱詞」和研究熱點，眾多全球頂尖科技企業也已將圖神經網絡部署於數據中心中。
「作為近年來新興的一種智能算法，圖神經網絡不僅在學術界被高度重視，也已然成為近年來工業界非常重要的應用之一。」嚴明玉介紹說，圖神經網絡能夠備受學術界和工業界的青睞，歸功於其強大的數據和知識理解能力，以及關係推理能力。
由於圖神經網絡在圖數據處理方面的特殊性，傳統用於加速神經網絡的晶片難以直接對圖神經網絡的執行提供高效計算支撐。嚴明玉解釋，以圖數據為輸入，融合了深度學習算法和圖計算算法的圖神經網絡具有與傳統神經網絡不一樣的執行行為，即「混合執行行為」。具體而言，規則執行行為和不規則執行行為共存於圖神經網絡中。「混合執行行為」對現有的處理器結構帶來了巨大的挑戰，比如，GPU在應對不規則執行行為時極為低效。
認知智能起飛的「推進劑」
「為了應對圖神經網絡的混合執行行為，我們設計了新的處理器結構，以更高效地加速圖神經網絡的執行。」嚴明玉介紹說，HyGCN 晶片基於混合結構設計思想，分別為圖神經網絡的兩個主要執行階段——圖遍歷階段和神經網絡變換階段設計相應的加速引擎，並流水兩個引擎的執行。
研究團隊的實踐證明，HyGCN晶片設計，能夠有效應對圖神經網絡圖遍歷階段的不規則性，並能利用神經網絡變換階段的規則性提高執行效率。
「圖神經網絡加速晶片有望成為AI『認知智能』階段起飛的推進劑。我們基於12nm工藝，對HyGCN的晶片設計的核心部件在主流的圖神經網絡模型和圖測試數據集上進行了初步的評估。」嚴明玉介紹說，相對於運行在Intel至強伺服器CPU和英偉達V100 GPU的先進圖神經網絡軟體框架，HyGCN分別取得了數萬倍和60餘倍的能效提升。
在「無人區」加快布局
近年來，中科院計算所圍繞雲計算、晶片、網際網路、人工智慧等前沿IT領域開展研創產協同創新，完善我國在端、網、雲的計算基礎設施布局，並鼓勵通過技術轉移體現科研人員和科技成果的價值。
從感知智能到認知智能，對人工智慧技術的探索正挺向縱深。以中科院計算所為代表的中科院科研機構積極作為，大力推動科技創新，特別在以5G、人工智慧、大數據等為代表的智能科技的發展方面，堅持面向世界科技前沿、面向國民經濟主戰場，不斷向科學技術廣度和深度進軍，加快解決制約科技創新發展的關鍵問題。
「圖神經網絡加速晶片目前在國際上還是『無人區』，研究成果發表後得到了業界認可。」嚴明玉表示，目前中科院計算所正加快對HyGCN科技成果進行孵化，提升關鍵核心技術能力，推動各行各業從信息化向智慧化升級。
應用空間巨大
圖神經網絡的潛在應用非常多。嚴明玉舉例，在日常交通預測、網約車調度、金融詐騙偵查、運動檢測等場景，在助力科研的知識推理、EDA工程、化學研究、宇宙發現等領域，以及在知識圖譜、視覺推理、自然語言處理中的多跳推理等學科發展方向上，都有極大應用空間。
在工業界，圖神經網絡也已經有了落地應用。比如，谷歌地圖的ETA評估、圖片社交網站Pinterest的內容推薦、阿里巴巴的風控和推薦、騰訊等公司的視覺和風控等業務中都有圖神經網絡的影子。
由於圖神經網絡具有推理能力，認知智能還可以幫助機器跨越模態理解數據，學習到接近人腦認知的一般表達，從而獲得類似於人腦的多模感知能力，進而有望帶來顛覆性的產業價值。
Allied Market Research 發布的機器學習晶片市場報告顯示，2022年機器學習晶片市場規模預計將達到 827.2 億美元。圖神經網絡加速晶片有望在接下來3年內與現有的神經網絡晶片共生，甚至在5年後替換大部分的神經網絡學習晶片，成為主流的機器學習晶片，可能將產生300億美元以上的市場規模。