速途網訊 日前，在北京智源大會期間，由北京瑞萊智慧科技有限公司與阿里安全聯合舉辦的“AI安全與產業治理”論壇正式召開。本次論壇圍繞人工智能創新發展與安全可控展開，北京瑞萊智慧科技有限公司CEO田天在主題演講中表示，人工智能正進入高速增長向高質量發展的新階段，需加快建設安全可控第三代人工智能。

人工智能正從高速增長進入高質量發展的新階段

田天表示，人工智能正進入新的發展階段，從技術發展的目標來看，人工智能開始接近一些核心的智能問題，突破傳統的感知智能階段，進入到更加高階的認知決策階段。他認為，如果將將人工智能與生物智能相類比，視覺、聽覺等感知能力是所有生物普遍具備的基礎智能能力，但一些更高級的生物，包括人類在內，與一般生物的區別其實是在于決策能力或者認知能力。

而認知智能如何體現？田天從三個方面進行了解釋。一是復雜策略能力，能夠完成多步驟的非常復雜的策略決策；二是語法理解能力，不僅能夠理解概念，還能夠理解語法層面，這是更高層次的認知智能的核心方面；三是理解不確定性，在面對更多復雜問題的時候會給出不確定性的判斷，在理解的基礎上進行反饋。

同時從產業的視角來看，田天表示，人工智能產業正從高速增長發展進入高質量發展的新階段。一方面金融、工業等領域，AI的應用開始突破單一的感知決策，進入復雜決策、取代人工決策的多元認知階段。另一方面，隨著AI算法技術不斷提升，安全可控性變得十分重要。特別像人臉識別領域，易攻擊性等安全問題的不斷出現，促使大眾深層次關注AI技術發展過程中的社會影響以及技術本身的可靠性。

產業側對人工智能的期待進一步提升，但第一二代人工智能都存在天然的算法漏洞和缺陷，難以支撐人工智能的長久高質量發展，為此田天提出，需加快發展第三代人工智能，從目前的產業階段與技術需求來看，第三代人工智能需發展“安全、可控”兩大核心能力。

發展安全可控第三代人工智能

田天介紹道，在實現路徑上，第三代人工智能融合了第一代的知識驅動和第二代的數據驅動的人工智能，利用知識、數據、算法和算力四個要素，建立新的可解釋和魯棒的AI理論與方法，一方面可以提高AI的魯棒性，實現像人一樣的舉一反三，以及動態變化環境下的深層次問題。

而如何定義“安全可控”？田天闡述道，“安全”是指打造數據安全與算法安全兩大核心能力，解決數據強依賴帶來的隱私泄漏與數據投毒等隱患，同時提升算法的魯棒性與可靠性，“可控”既指應用層面的合規可控，更指核心技術的自主可控，以自主可控為根基，通過理論創新、技術突破形成核心競爭力。安全可控是發展第三代人工智能的核心基準，也是加快人工智能高質量發展的有力支撐，田天強調。

作為第三代人工智能的先行者，RealAI團隊目前圍繞打造安全可控人工智能基礎設施已經進行了一系列布局，基于自主創新的核心技術，研發了圍繞數據安全、算法可靠、應用可靠等一系列領先的人工智能算法和平臺。包括在數據安全共享基礎設施RealSecure，通過打通數據孤島將數據計算環節移動到數據端，解決數據風險和隱私泄露的問題，提升人工智能本身效果；在算法的首個人工智能安全平臺RealSafe，通過內置的攻防算法對各類的人工智能提供端到端的攻防解決方案，提高人工智能系統安全性。

• 安全可控人工智能重塑產業智能

如何看待安全可控人工智能的產業價值？田天認為，在安全可控的核心支撐下，可以更高效的貢獻人工智能的技術優勢，重塑產業智能，推動人工智能從“單點自動化”到“深度智能化”的價值提升。他以金融場景與人臉識別場景為例展開介紹。

在金融領域，基于安全可控的人工智能基礎設施，打造兼具感官感知和決策分析的金融智慧大腦，左腦提供數據統計與決策分析，應用在包括智慧營銷、智能風控、智能催收、智能營運等不同場景，右腦提供圖像和語音等感知能力。基于安全可控的基礎能力，在數據安全和隱私保護方面提供更加可信的AI數據保障，打通業務鏈條。在右腦方面基于算法安全能力，提供各類感知系統的安全監測業務，讓感知應用更加安全可靠。  

圍繞人臉識別場景，RealAI也打造了完整的人臉識別治理的解決方案。具體分為三個層面，首先在數據層面，利用多方安全計算技術將人臉數據拆分到不同的數據源進行存儲，使得任何一方無法單獨查詢，同時用深度合成技術生成不存在的合成人臉數據，在保護用戶隱私的情況下支持各類的AI應用，同時通過結合了區塊鏈的數字水印技術實現數據溯源。在算法層面提供了一系列的檢測功能，對于對抗樣本攻擊、算法公平性等進行檢測。在合規層面通過提供信息采集授權、信息管理權限控制、信息審計和溯源的完整合規咨詢與實施服務，確保各類人臉識別系統的安全可控。

最后，田天強調，安全可控將助力未來人工智能在更廣以及更深的領域有新發展和新表現，結合領域知識與算法開發能力，面向垂直領域的需求，挖掘深層次的需求。