2025年7月26日下午，中國人工智能發(fā)展與安全研究網(wǎng)絡(luò)在上海世博中心金廳A成功舉辦“人工智能發(fā)展與安全”全體會議。上海市委常委、常務(wù)副市長吳偉、國家發(fā)展和改革委員會創(chuàng)新驅(qū)動發(fā)展中心主任霍福鵬出席并致辭。會議由清華大學文科資深教授、人工智能國際治理研究院院長薛瀾主持，來自清華大學、上海交通大學、多倫多大學、加州大學伯克利分校、牛津大學、中國信通院、中國電子信息產(chǎn)業(yè)發(fā)展研究院、中國電信集團、阿里巴巴集團、微軟公司等國內(nèi)外科研院校、研究智庫和企業(yè)的近20位資深專家，圍繞人工智能發(fā)展與安全的前沿進展與應(yīng)用實踐，深入探討如何安全地發(fā)展人工智能技術(shù)，如何促進成果共享、縮小智能鴻溝，如何為確保人工智能技術(shù)造福于全人類而開展國際合作，構(gòu)建包容性的全球治理框架。

會議伊始，邀請諾貝爾和圖靈獎得主、多倫多大學教授杰弗里·辛頓與圖靈獎得主、清華大學交叉信息研究院、人工智能學院院長姚期智進行了一場高端對談。他們重點圍繞人工智能與神經(jīng)科學、人工智能的“自我意識”、量子計算對人工智能發(fā)展的影響等前沿話題展開深度討論。他們談到，人工智能與合成生物學一樣，都是在創(chuàng)造“新的生命”，當前人工智能已經(jīng)初步展現(xiàn)出很強的理解能力甚至“自我意識”，人們應(yīng)該拋棄只有人類存在“意識”的固有思維。辛頓尤其強調(diào)，如何訓練對人類保持善意的人工智能，確保“智能向善”是人類必須關(guān)注和解決的重要問題。

隨后，加拿大蒙特利爾大學教授約書亞·本吉奧和美國加州大學伯克利分校教授大衛(wèi)·帕特森分別線上發(fā)言，分享了他們的獨到見解。本吉奧強調(diào)，過去幾年人們所見證的人工智能對社會的影響只是冰山一角，隨著其能力的不斷提升，安全風險也在同步增加，國際社會亟須加強合作，共同應(yīng)對。帕特森分享了自己團隊的最近研究成果，他們發(fā)現(xiàn)人機協(xié)同時的能力優(yōu)于人類與人工智能各自的單打獨斗，如果人類能把人工智能的應(yīng)用聚焦于提升生產(chǎn)力，將獲得更多收益。

在隨后進行的專家討論環(huán)節(jié)，姚期智作為主持人邀請美國加州大學伯克利分校教授斯圖爾特·羅素、中國信息通信研究院院長余曉暉、英國皇家工程院院士約翰·麥克德米、清華大學交叉信息研究院副院長徐葳、奇安信集團合伙人鄔怡等專家，圍繞“AI與人類的和諧未來”問題展開研討。嘉賓們聚焦人工智能風險研判、評估及其治理的技術(shù)路徑等話題，談到人工智能與網(wǎng)絡(luò)等多領(lǐng)域的安全相互影響，需要在傳統(tǒng)安全防護手段的基礎(chǔ)上提升能力，呼吁加強跨學科協(xié)作，充分借鑒生物倫理、傳統(tǒng)工程安全等領(lǐng)域的經(jīng)驗，構(gòu)建“輔助博弈”框架，促使人工智能系統(tǒng)主動學習人類偏好而非簡單模仿行為，通過冗余驗證等“軟硬件結(jié)合”的方式降低人工智能風險等。

英國牛津大學布拉瓦尼克政府學院的創(chuàng)始院長林奈莉、上海交通大學文科資深教授季衛(wèi)東、美國微軟公司前首席研究與戰(zhàn)略官克雷格·蒙迪、中國電子信息產(chǎn)業(yè)發(fā)展研究院黨委副書記胡國棟、中國電信集團網(wǎng)絡(luò)與信息安全首席專家劉紫千、阿里云智能集團副總裁劉湘雯等專家參加了薛瀾主持的討論，圍繞“人工智能發(fā)展與安全的全球治理”問題展開，在探討人工智能全球治理框架的同時，分享了中國人工智能發(fā)展與治理的最佳實踐。大家談到，智能體（Agent）的快速發(fā)展使得原本“點對點”的安全問題逐漸轉(zhuǎn)變?yōu)橄到y(tǒng)性安全風險，僅依靠行業(yè)自我監(jiān)管很難有效應(yīng)對。呼吁世界各國加強合作，通過建立類似國際原子能機構(gòu)的專門機構(gòu)等方式，形成具有廣泛共識的人工智能治理框架和標準規(guī)范，共同應(yīng)對人工智能風險，?

最后，中國信息通信研究院、中國電子信息產(chǎn)業(yè)發(fā)展研究院、清華大學、上海人工智能實驗室4家網(wǎng)絡(luò)成員單位代表網(wǎng)絡(luò)聯(lián)合發(fā)布《中國人工智能安全承諾框架》，邀請中國電信集團、阿里巴巴、百度、MiniMax上海稀宇科技等相關(guān)企業(yè)代表發(fā)言，并開放邀請全球人工智能企業(yè)簽署。框架在相關(guān)企業(yè)安全承諾基礎(chǔ)上新增針對加強安全治理國際合作和關(guān)于防范前沿人工智能安全風險的重要內(nèi)容。

本場論壇論壇兼顧前沿議題與最佳實踐，旨在通過對風險治理技術(shù)路線、全球治理框架等現(xiàn)實問題的探討，結(jié)合中國有效實踐、安全承諾框架等實操內(nèi)容的發(fā)布，推動全球人工智能治理從共識走向行動。論壇由清華大學人工智能國際治理研究院、中國電子信息產(chǎn)業(yè)發(fā)展研究院(賽迪研究院)、上海期智研究院、清華大學交叉信息研究院、中國信息通信研究院、上海人工智能實驗室等多家網(wǎng)絡(luò)成員單位共同承辦，現(xiàn)場注冊參會人數(shù)超過700人，CGTN等媒體全程直播，超過40萬觀眾在線參會。論壇取得圓滿成功，受到國內(nèi)外專家和聽眾高度評價。