最近，阿里安全一線風(fēng)控小二可粒發(fā)現(xiàn)，在禁售的風(fēng)險(xiǎn)防控庫(kù)里，有人試圖“上新”新品種，不法份子借助在社交媒體上走紅的“魔法改運(yùn)”等說(shuō)辭，引人入玄學(xué)騙局。

盡量提前發(fā)現(xiàn)風(fēng)險(xiǎn)問(wèn)題，提早布防是阿里安全風(fēng)控部門(mén)的日常工作。“但是，風(fēng)險(xiǎn)對(duì)抗是不斷升級(jí)的，各類(lèi)風(fēng)險(xiǎn)詞不斷變異試圖躲避各家平臺(tái)管控，如果單靠人力防控，只會(huì)是杯水車(chē)薪。”可粒說(shuō)。

針對(duì)類(lèi)似具有行業(yè)共性的風(fēng)險(xiǎn)治理難題，業(yè)界和學(xué)界推動(dòng)以技術(shù)創(chuàng)新探索網(wǎng)絡(luò)風(fēng)險(xiǎn)治理。今年中國(guó)中文信息學(xué)會(huì)語(yǔ)言與知識(shí)計(jì)算專(zhuān)業(yè)委員會(huì)主辦了“CCKS 2021通用百科知識(shí)圖譜實(shí)體類(lèi)型推斷”比賽，邀請(qǐng)國(guó)內(nèi)283支隊(duì)伍參賽。12月25日，比賽結(jié)果出爐，阿里安全升級(jí)包含封建迷信、軟色情、野生動(dòng)植物保護(hù)、血腥暴力等重難點(diǎn)風(fēng)險(xiǎn)治理域在內(nèi)的AI技術(shù)獲得第一名。

圖說(shuō)：“CCKS 2021通用百科知識(shí)圖譜實(shí)體類(lèi)型推斷”競(jìng)賽公布獲獎(jiǎng)情況

阿里安全高級(jí)風(fēng)控專(zhuān)家杜衡介紹，阿里安全在平臺(tái)部署了上述新升級(jí)的新一代安全架構(gòu)核心AI能力，讓AI對(duì)風(fēng)險(xiǎn)商品進(jìn)行“聯(lián)想”，以此對(duì)抗突發(fā)新增、變異的風(fēng)險(xiǎn)商品。此前阿里風(fēng)控平臺(tái)對(duì)多類(lèi)風(fēng)險(xiǎn)商品出臺(tái)了明確的管理規(guī)則，進(jìn)行了禁售規(guī)范，今年綠網(wǎng)計(jì)劃則針對(duì)相關(guān)風(fēng)險(xiǎn)詞，上線了科普宣導(dǎo)。

雖然該AI技術(shù)在競(jìng)賽的公開(kāi)數(shù)據(jù)集上獲得了突出的成果，但據(jù)阿里安全反饋，技術(shù)應(yīng)用在真實(shí)環(huán)境中遇到了更多難題。

阿里安全算法工程師科藍(lán)解釋?zhuān)谝粋€(gè)難點(diǎn)是商家發(fā)現(xiàn)相關(guān)風(fēng)險(xiǎn)詞被平臺(tái)管控后，立馬試圖用新詞代替，為了讓AI的能力跟上變異的節(jié)奏，甚至提前布防，AI會(huì)基于風(fēng)險(xiǎn)防控經(jīng)驗(yàn)以及公共新聞事件等，自動(dòng)挖掘一些新詞，并對(duì)這些詞進(jìn)行擴(kuò)充解釋?zhuān)孉I系統(tǒng)理解這些詞的真正含義和匹配的風(fēng)險(xiǎn)場(chǎng)景，最后候選風(fēng)險(xiǎn)詞還要經(jīng)過(guò)運(yùn)營(yíng)的人工校驗(yàn)。

“相當(dāng)于你在跟一個(gè)不斷易容、換衣服的人賽跑，他跑著跑著就換一層皮，你得找準(zhǔn)對(duì)手，不停地往前跑。”科藍(lán)說(shuō)，目前依靠AI自動(dòng)搜尋生產(chǎn)的非正常風(fēng)險(xiǎn)詞匯，最終被人工運(yùn)營(yíng)審核后的采納率為60%，逐步降低了人工尋找新風(fēng)險(xiǎn)詞的成本，同時(shí)盡量提升覆蓋更多風(fēng)險(xiǎn)區(qū)域的效率。

第二個(gè)難點(diǎn)是，除了風(fēng)險(xiǎn)詞變異速度快，平臺(tái)發(fā)現(xiàn)有些商家會(huì)以正常商品介紹的“外套”引導(dǎo)消費(fèi)者到其他社交工具上進(jìn)行溝通和成交。

“這種情況比較難以通過(guò)某種技術(shù)防控，一方面我們通過(guò)各種渠道向商家進(jìn)行合規(guī)知識(shí)的宣導(dǎo)，一方面也希望互聯(lián)網(wǎng)平臺(tái)聯(lián)合起來(lái)，針對(duì)此類(lèi)風(fēng)險(xiǎn)共同探索合作治理機(jī)制。”杜衡說(shuō)。

該AI目前升級(jí)覆蓋到17個(gè)風(fēng)險(xiǎn)場(chǎng)景。阿里安全資深算法專(zhuān)家薛暉介紹，阿里安全在加大技術(shù)治理風(fēng)險(xiǎn)場(chǎng)景的投入，比如建立人工智能治理與可持續(xù)發(fā)展的新型實(shí)驗(yàn)室，與頂尖高校聯(lián)合發(fā)起“安全AI挑戰(zhàn)者計(jì)劃”等項(xiàng)目，培養(yǎng)實(shí)戰(zhàn)型AI人才。

“要強(qiáng)調(diào)的是，AI技術(shù)不是萬(wàn)能的，平臺(tái)遇到各種風(fēng)險(xiǎn)變異與挑戰(zhàn)也正說(shuō)明，治理多類(lèi)風(fēng)險(xiǎn)場(chǎng)景將是持續(xù)的博弈，但使用技術(shù)進(jìn)行風(fēng)險(xiǎn)治理是其中一個(gè)發(fā)展方向，我們還在繼續(xù)提升AI聯(lián)想的準(zhǔn)確率，希望依靠科技創(chuàng)新構(gòu)建更清朗的平臺(tái)環(huán)境，探索如何更好地解決大眾遇到的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)問(wèn)題。”薛暉說(shuō)。