深度學習技術正廣泛應用于人工智能的各個領域,如計算機視覺、機器翻譯、自然語言處理、智能機器人等,取得了前所未有的突破。當前,一方面,隨著深度學習新技術的出現、任務復雜度的提高,易于擴展同時保持高效的架構成為發展趨勢;另一方面,我國人工智能產業發展迅速,急需構建自己的開源深度學習生態。
清華大學計算機系可視媒體研究中心提出了一個全新的深度學習框架——計圖(Jittor)。Jittor是一個采用元算子表達神經網絡計算單元、完全基于動態編譯(Just-in-Time)的深度學習框架。

圖1 Jittor通過元算子融合實現深度神經網絡模型
深度學習采用的卷積神經網絡是由算子(Operator)組成的一個計算網絡。由于架構設計和不斷擴充等原因,當前深度學習框架有多達2000種算子,系統復雜,優化和移植困難。
Jittor將算子運算進一步分解,形成了更加底層的三類20余種元算子閉包,目前神經網絡常用算子均可以使用元算子的組合進行表達。面向未來深度學習框架的發展趨勢,Jittor利用元算子組合表達的優勢,提出統一計算圖進行優化,并從底層開始設計了一個全新的動態編譯架構。
該架構支持多種編譯器,實現了所有代碼的即時編譯和動態運行,確保了實現和優化分離,大幅提升了應用開發靈活性、可拓展性和可移植性,與國際主流平臺相比,具有多項先進特性(圖2)。

圖2 Jittor與其他平臺的計算圖特性對比
目前ResNet、VGG、SSD、DeepLab、LSGAN等多個網絡模型已經在Jittor平臺實現,可供用戶使用。與同類型框架相比,Jittor在收斂精度一致情況下,推理速度取得了10%-50%的性能提升(圖3)。

Jittor得到國家自然科學基金項目、北京信息科學與技術國家研究中心團隊項目和清華-騰訊聯合實驗室(成立于2010年,以下簡稱“聯合實驗室”)項目的資助和支持。
聯合實驗室橋接清華大學和騰訊公司在科技研發、學術交流、人才培養等方面進行深入合作,雙方圍繞國際學科前沿、國家重大需求和騰訊產業發展的重要技術開展緊密合作,攜手共同承擔國家重大科研項目、探索原創性技術成果、培養和吸收一流人才。
聯合實驗室在AI、社交網絡、大數據和安全等領域取得了豐碩成果,獲得國家科學技術進步二等獎等多項國家及省部級科技獎勵,共同研發的幾十項科研成果已在騰訊得到實際應用。未來清華大學和騰訊公司將在更廣的領域、更深的層面開展更緊密的合作。
期望Jittor能為學界和業界提供一個靈活高效的深度學習平臺,促進人工智能的研究和應用,賦能人工智能產業。