近日，西安交通大學與螞蟻集團合作落地了國內第一門以“可信AI理論及應用實踐”為核心內容的產學合作課程——《對抗性機器學習與人工智能安全》。課程是面向研究生和高年級本科生的專業性課程，共計32學時，3學分，由西安交通大學教授與螞蟻集團技術專家共同講授。內容圍繞“數據隱私保護”、“魯棒性（Robustness）”、“可解釋性與因果分析”、“公平性”四個部分進行設計，涵蓋了可信AI領域中的重要技術理論以及應用實踐。

基于理論研究與實踐積累，后續螞蟻集團還將與清華大學、上海交通大學、浙江大學等高校合作定制特色課程；通過參與產學合作教育，支持高校推進可信AI相關人才培養。

可信AI發展依賴人才體系建設

在人工智能被廣泛應用的今天，其安全和可信性引發了社會各界的關注，已經成為制約下一階段人工智能技術快速發展的瓶頸所在。早在2017年，國務院在《新一代人工智能發展規劃》中，就將人工智能的安全可信性研究、評估和有效管理作為重點提及。

如何破解人工智能在數據使用、流轉過程中的安全性問題？如何增強AI模型的抗打擊能力、穩定性？如何破解AI決策過程的“黑盒”，增加人們對于決策結果的信賴度？如何防范因為數據、算法問題造成不公平性？可信AI技術研究，涉及人工智能中包括多方安全計算、智能對抗等多個細分技術域，并且對于技術的綜合性應用提出了更高的要求。

課程負責人、西安交通大學網安學院副院長沈超在采訪中指出，“真實工業場景中的問題往往是多面和交錯的，而高校傳統的學科教育則更側重于某一技術域的體系性和完整性。學生需要真實的場景案例，來幫助建立分析、解決綜合性問題的能力。”同時，課程的聯合負責人西安交通大學藺琛皓研究員也強調“可信AI的發展依賴于技術探索，而技術探索則來自于技術人才的培養。”

“及早建立對可信AI的關注和認知，將有助于推動高校參與可信AI技術研究，同時也能為產業培養更加‘接地氣’的綜合性人才”，本次課程講師、螞蟻安全天筭實驗室內容算法總監祝慧佳表示。

產學合作培養 可信AI走入高校

公開資料顯示，自2015年起投入可信AI相關技術研究，螞蟻集團在智能風控、隱私保護、智能搜索等多樣化的數字服務場景中摸索建立了一整套“可信AI”技術理論及應用體系，在探索技術實踐的同時，積極參與和推動各類安全可信標準建設。

國際專利權威機構IPR daily在今年6月發布的《人工智能安全可信關鍵技術專利報告》中指出，螞蟻集團旗下的支付寶在該領域專利申請及授權數上均位列全球第一；其基于可信AI技術研發的反欺詐模型，也成為業內首個通過國家金融科技測評中心測評的人工智能算法金融應用，在安全性、性能、可解釋性等方面均以高標準通過。

其實不僅螞蟻，各家互聯網大廠和研究機構，也在積極投入可信AI相關技術領域的討論和研究。

2020年，商湯率先成立了人工治理倫理委員會，從算法、數據以及社會影響三個方面旗下產品線進行倫理審核。2021年，中國信通院與京東探索研究院聯合發布《可信人工智能白皮書》，對可信AI技術及行業發展提出建議。同年10月，哥倫比亞大學數據科學研究院主任周以真在權威期刊《ACM通訊》上發表文章《可信人工智能》，介紹「可信AI」的定義與研究意義。

作為學界和工業界研究的熱點問題，此次可信AI的前沿技術理論和實踐案例走入高校，既是響應國家“產學合作人才培養”的號召、促進人才培養與產業接軌，也為可信AI技術領域的多維發展做出了先行示范作用。