近日,《中國計算機學會通訊》(CCCF)刊發了中科院計算所特別研究助理嚴明玉、研究員范東睿以及研究員葉笑春共同撰寫的綜述文章《圖神經網絡加速芯片:人工智能“認知智能”階段起飛的推進劑》。文章披露,為更好地支持認知智能的發展,該團隊提出了國際首款圖神經網絡加速芯片設計“HyGCN”。目前,介紹該芯片設計的相關論文已先后在計算機體系結構國際頂級會議MICRO和HPCA上發表。
“HyGCN,寓意向圖神經網絡的加速說‘Hi’?!眹烂饔裣颉吨袊茖W報》介紹說,圖神經網絡將深度學習算法和圖計算算法相融合,取長補短,能達到更優的認知與問題處理等能力,在搜索、推薦、風險控制等重要領域有著廣泛應用?,F有的處理器芯片在執行圖神經網絡的計算中效率低下,其團隊前瞻性地展開面向圖神經網絡的加速芯片設計,為解決這一難題提供了可行方案。
傳統神經網絡與圖神經網絡的輸入數據對比
讓機器“能理解、會思考”
圖神經網絡被認為是推動認知智能發展強有力的推理方法,有望解決深度學習無法處理的關系推理、可解釋性等一系列問題,讓機器“能理解、會思考”。2019年后,圖神經網絡逐漸成為各人工智能頂級會議的“熱詞”和研究熱點,眾多全球頂尖科技企業也已將圖神經網絡部署于數據中心中。
“作為近年來新興的一種智能算法,圖神經網絡不僅在學術界被高度重視,也已然成為近年來工業界非常重要的應用之一?!眹烂饔窠榻B說,圖神經網絡能夠備受學術界和工業界的青睞,歸功于其強大的數據和知識理解能力,以及關系推理能力。
由于圖神經網絡在圖數據處理方面的特殊性,傳統用于加速神經網絡的芯片難以直接對圖神經網絡的執行提供高效計算支撐。嚴明玉對記者解釋說,以圖數據為輸入,融合了深度學習算法和圖計算算法的圖神經網絡具有與傳統神經網絡不一樣的執行行為,即“混合執行行為”。具體而言,規則執行行為和不規則執行行為共存于圖神經網絡中?!盎旌蠄绦行袨椤睂ΜF有的處理器結構帶來了巨大的挑戰,比如,GPU在應對不規則執行行為時極為低效。
認知智能起飛的“推進劑”
“為了應對圖神經網絡的混合執行行為,我們設計了新的處理器結構,以更高效地加速圖神經網絡的執行?!眹烂饔窠榻B說,HyGCN 芯片基于混合結構設計思想,分別為圖神經網絡的兩個主要執行階段——圖遍歷階段和神經網絡變換階段設計相應的加速引擎,并流水兩個引擎的執行。
研究團隊的實踐證明,HyGCN芯片設計,能夠有效應對圖神經網絡圖遍歷階段的不規則性,并能利用神經網絡變換階段的規則性提高執行效率。
“圖神經網絡加速芯片有望成為AI‘認知智能’階段起飛的推進劑。我們基于12nm工藝,對HyGCN的芯片設計的核心部件在主流的圖神經網絡模型和圖測試數據集上進行了初步的評估?!眹烂饔裾f,相對于運行在Intel至強服務器CPU和英偉達V100 GPU的先進圖神經網絡軟件框架,HyGCN分別取得了數萬倍和60余倍的能效提升。
在“無人區”加快布局
近年來,中科院計算所圍繞云計算、芯片、互聯網、人工智能等前沿IT領域開展研創產協同創新,完善我國在端、網、云的計算基礎設施布局,并鼓勵通過技術轉移體現科研人員和科技成果的價值。
從感知智能到認知智能,人們對人工智能技術的探索正挺向縱深。以中科院計算所為代表的中科院科研機構積極作為,大力推動科技創新。特別在以5G、人工智能、大數據等為代表的智能科技的發展方面,中科院計算所堅持面向世界科技前沿、面向經濟主戰場,不斷向科學技術廣度和深度進軍,加快解決制約科技創新發展的關鍵問題。
“圖神經網絡加速芯片目前在國際上還是‘無人區’,研究成果發表后得到了業界認可?!眹烂饔窀嬖V《中國科學報》,目前中科院計算所正加快對HyGCN科技成果進行孵化,提升關鍵核心技術能力,推動各行各業從信息化向智慧化升級。
應用空間巨大
圖神經網絡的潛在應用非常多。嚴明玉舉例說,在日常交通預測、網約車調度、金融詐騙偵查、運動檢測等場景,在助力科研的知識推理、EDA工程、化學研究、宇宙發現等領域,以及在知識圖譜、視覺推理、自然語言處理中的多跳推理等學科發展方向上,都有極大應用空間。
在工業界,圖神經網絡也已經有了落地應用。比如,谷歌地圖基于事件樹的風險評估、圖片社交網站Pinterest的內容推薦、阿里巴巴的風控和推薦、騰訊等公司的視覺和風控等業務中都有圖神經網絡的影子。
由于圖神經網絡具有推理能力,認知智能還可以幫助機器跨越模態理解數據,學習到接近人腦認知的一般表達,從而獲得類似于人腦的多模感知能力,進而有望帶來顛覆性的產業價值。
市場研究機構Allied Market Research 發布的機器學習芯片市場報告顯示,2022年機器學習芯片市場規模預計將達到 827.2 億美元。圖神經網絡加速芯片有望在接下來3年內與現有的神經網絡芯片共生,甚至在5年后替換大部分的神經網絡學習芯片,成為主流的機器學習芯片,可能將產生300億美元以上的市場規模。