近日,由國家科技部主導的“科技創新2030重大項目—安全大腦國家新一代人工智能開放創新平臺”正式進入實施評審階段,該項目由360牽頭,聯合清華大學、瑞萊智慧RealAI、中科院自動化所、中科院信工所共同協作完成。其中“面向人工智能算法的安全對抗攻防”的課題任務將由清華大學與瑞萊智慧RealAI共同承擔研發。
人工智能安全是廣泛智能應用的基礎。在推動新一輪科技革命的同時,人工智能自身存在的嚴重安全問題引入了全新的安全威脅,尤其是涉及國防、經濟、民生的人工智能設施系統,一旦遭受攻擊,可能威脅到國防安全、企業安全、公民財產和生命安全。
科技創新2030重大項目是體現國家戰略意圖的重大工程,人工智能算法模型安全研究作為提升人工智能自身安全的重要課題參與其中,體現了國家新一代人工智能發展規劃對人工智能安全治理的重要布局。
由RealAI負責的“面向人工智能算法的安全對抗攻防”課題項目主要針對深度學習對抗攻防中存在的問題,深度學習的對抗攻擊、魯棒防御和算法庫等方面進行研究,為人工智能模型的安全性和可信賴應用提供理論基礎和技術儲備。
本課題的開展將本著開源開放的原則,技術層面圍繞人工智能算法對抗安全,強調功能性和安全性的有機結合,在基礎理論和基本算法等共性技術面向新一代人工智能“OpenI”的建設進行開源,服務國家新一代人工智能開源開放平臺的建設,為我國和全球人工智能行業發展保駕護航,也為人工智能長久穩健發展提供重要積累。
RealAI之所以能參與本次重大項目,與其雄厚的技術實力密不可分。作為清華大學的人工智能研究院的核心孵化企業,RealAI是國內率先對深度學習的對抗攻擊與防御進行深入研究的課題組之一,在人工智能的對抗安全領域具有深厚的積累,在ICML、NIPS、CVPR、AAAI 等頂級會議期刊發表論文數十余篇,提出多種代表性的深度學習對抗攻防算法,被主流開源軟件收錄為標準方法,榮獲英偉達先鋒研究獎。在 2017NIPS對抗攻防競賽、2018 DEFCON CAAD CTF對抗攻防賽等多項國際競賽中,RealAI戰勝多支頂尖參賽隊伍斬獲冠軍,在2019 國際安全極客安全大賽GeekPwn上更是一舉獲得“CAAD CTF圖像對抗樣本挑戰賽”及 “CAAD隱身挑戰賽”兩項冠軍。
對于項目的未來規劃,RealAI表示將持續強化對抗攻防關鍵技術的研發,同時構建對抗攻防算法系統平臺和對抗安全基準,打造行業應用示范,助力建設國家級AI安全防護體系,為科技創新2030的實現貢獻力量。
