速途網(wǎng)訊 12月21日，“云融未來，安全內(nèi)在”第七屆云安全聯(lián)盟大中華區(qū)大會（CSA GCR Congress）在深圳圓滿舉辦。百度副總裁陳洋出席大會并圍繞“安全大模型”+“大模型安全”發(fā)表主題演講。陳洋表示，大模型在加速產(chǎn)業(yè)升級與經(jīng)濟(jì)增長的同時，也為網(wǎng)絡(luò)安全行業(yè)帶來了全新的機(jī)遇與挑戰(zhàn)。基于大模型，通過智能人機(jī)協(xié)同可以重構(gòu)整個安全業(yè)務(wù)流程，大模型可以進(jìn)化成為一種“生產(chǎn)力工具”。

人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，而大模型的興起，使得人工智能應(yīng)用的深度和廣度進(jìn)一步拓展。自百度3月發(fā)布知識增強(qiáng)大語言模型文心一言至今，文心一言的基礎(chǔ)模型已迭代到文心大模型4.0版本，在理解、生成、邏輯、記憶四大基礎(chǔ)能力上都有了顯著提升。與會，陳洋分享了文心大模型應(yīng)用在安全領(lǐng)域，在安全運(yùn)營、內(nèi)容審核、APP隱私合規(guī)檢測、業(yè)務(wù)風(fēng)控等多領(lǐng)域的AI原生應(yīng)用構(gòu)建思路與實踐，助力大幅提升安全效率及能力。

陳洋表示，如何提升行業(yè)AI 原生安全應(yīng)用研發(fā)的效率也非常關(guān)鍵。目前，基于百度領(lǐng)先的AI大模型平臺，百度安全打造了百度AI安全底座，基于安全知識和技能強(qiáng)化的大模型和全場景的智能體，針對各類安全業(yè)務(wù)場景，以低代碼的方式實現(xiàn)人機(jī)協(xié)同安全工作流，進(jìn)而通過AI原生安全服務(wù)層，讓各類的安全應(yīng)用都可以進(jìn)行AI原生化重構(gòu)。

另一方面，大模型自身的安全、可信、可控變得至關(guān)重要，網(wǎng)絡(luò)與系統(tǒng)安全、模型算法安全、數(shù)據(jù)安全和隱私保護(hù)、內(nèi)容安全在大模型全生命周期中環(huán)環(huán)相扣，體系安全與內(nèi)生安全將長期共存。

作為人工智能領(lǐng)軍企業(yè)，百度高度重視大模型安全風(fēng)險防范的能力建設(shè)和生態(tài)建設(shè)。基于百度大模型安全實踐經(jīng)驗，百度安全從大模型全生命周期視角出發(fā)總結(jié)出一套從服務(wù)提供方視角的應(yīng)對思路，方案涵蓋大模型訓(xùn)練/精調(diào)/推理、大模型部署、大模型業(yè)務(wù)運(yùn)營等關(guān)鍵階段，提供全流程的包含數(shù)據(jù)安全與隱私保護(hù)、模型保護(hù)、內(nèi)容安全、業(yè)務(wù)運(yùn)營風(fēng)控的安全產(chǎn)品與服務(wù)，同時結(jié)合以攻促防守的思路建立AIGC 內(nèi)容安全評測能力，對大模型實現(xiàn)例行化的安全評估，助力企業(yè)構(gòu)建平穩(wěn)健康、可信可靠的大模型服務(wù)。

例如，在大模型運(yùn)營階段中，百度安全構(gòu)建了包括紅線知識庫/紅線大模型、prompt審核與改寫、多模態(tài)內(nèi)容審核、內(nèi)容安全評測等一系列安全服務(wù)。針對違法犯罪、不良價值觀等負(fù)面及高危紅線問題，重點(diǎn)構(gòu)建了“紅線知識庫和紅線大模型”提供安全回復(fù)內(nèi)容進(jìn)行代答，并可對用戶做出正向的引導(dǎo)。針對Prompt注入攻擊，可在保持其初始指令和數(shù)據(jù)不變的基礎(chǔ)上，通過改寫Prompt的方式讓大模型輸出安全的內(nèi)容。

作為云安全聯(lián)盟CSA全球會員單位，百度長期以來致力于以更安全的AI護(hù)航產(chǎn)業(yè)發(fā)展，積極布局智能云計算的前沿技術(shù)探索與實踐，持續(xù)深化“人工智能+云安全”的融合創(chuàng)新。與會，作為北京人工智能產(chǎn)業(yè)聯(lián)盟人工智能安全專委會主任，陳洋代表專委會與CSA云安全聯(lián)盟正式戰(zhàn)略簽約。未來，雙方將發(fā)揮各自優(yōu)勢，在人工智能領(lǐng)域開展聯(lián)合研究、共同前沿技術(shù)和應(yīng)用領(lǐng)域的發(fā)展。

面對當(dāng)下“大模型+安全”所面臨的新形勢、新機(jī)遇、新挑戰(zhàn)，百度安全將一方面不斷拓展人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的技術(shù)革新與應(yīng)用，一方面與各界保持合作，共筑大模型安全防線，探索更安全的大模型賦能千行百業(yè)的無限可能。