一款 AI 換臉 APP 忽然火爆全網!憑借“僅需一張照片,出演天下好戲”,迅速收割了百萬下載量,一躍成為App Store全站排行榜第7位。用戶只需要在 APP 中上傳一張照片,就能將自己的臉替換成影視劇里的主角形象,幾乎可以以假亂真。

這場普通用戶近距離感受AI強大能力的狂歡,僅僅持續了不到半天就急轉直下,在這個處處需要刷臉的時代,“臉”存在被泄露風險的恐慌澆滅了所有擁抱技術的熱情。

“我的第一直覺,AI 換臉技術引發的連鎖反應是有巨大風險的。在金融領域被廣泛使用的人臉生物識別,刷臉支付都會有出現風險的可能,換臉視頻作為偽造證據也可能會被非法分子利用,這些后果都是無法想象的。”作為在業務風控領域深耕四年的數美科技的CTO,梁堃一看到這個技術應用,就在工作群里表達了自己的擔憂。

24小時之后,梁堃宣布,數美科技換臉識別產品正式研發上線,“業務風控是我們的專業領域,盡快研發出針對風險行為的識別產品是我們的使命。”

“失控”的AI換臉技術

AI換臉技術的核心是一個“自動編碼器”,這個“自動編碼器”實際上是一個深度神經網絡,它能夠接收數據輸入,并將其壓縮成一個小的編碼,然后從這個編碼中重新生成原始的輸入數據。

換臉技術并不是一種新技術,在影視劇制作中早已有之。不過早期影視劇制作中的換臉需要剪輯師和CG(電腦三維動畫)專家長時間的復雜工作,所以并不具有推廣普及的基礎。

但是AI換臉出現的時間卻并不長,2017年12月,一位叫Deep Fakes的人把情色電影里的女主角換成了好萊塢明星蓋爾·加朵,這是人們第一次公開見識到AI換臉這項技術。
 

“Deep Fakes”技術背后的來源是一種名為 GAN(生成式對抗網絡)的 AI 模型,它在 2014 年 10 月由前谷歌著名神級技術大咖 Ian Good Fellow 發布的一篇 GAN 論文而奠定了地位,GAN 是當前人工智能學界一個最熱門的研究方向。

然而這項技術,很快就失控了。大量受害者進行了投訴。

連Facebook首席執行官馬克?扎克伯格都成為了受害人。他的一段被篡改過的視頻浮出水面,在視頻中他對該公司的用戶數據隱私提出了質疑。

受害者的名單不斷增多,艾瑪·沃特森、斯嘉麗·約翰遜等多位好萊塢女星躺槍,被換臉成成人電影女主角,無故陷入“艷照門”事件。部分初創企業、美國政府機構和學術界都在與所謂的“Deep Fakes”作斗爭,他們擔心被篡改的視頻和照片會被用來擾亂明年的美國總統選舉。

“臉”不安全 錢也可能不安全 

換臉技術會不會用于制作虛假視頻,比如假扮公眾人物的演講,偽造訴訟證據,偽造曖昧、甚至通奸視頻進行敲詐勒索,偽造不在證據,偽造身份進行網絡詐騙?

在一系列對虛假視頻的擔心之外,中國普通民眾擔心最多的是,如果“臉”不安全,“錢”也將面臨莫大風險。畢竟中國的互聯網支付遠遠領先于全球其他國家。

當前,大部分銀行等金融機構開設了人臉識別登陸APP功能,“刷臉”支付甚至是遠程簽約等場景也越來越多見。微博上有網友擔憂:“非法收集面部信息”、“萬一哪天被黑客把數據庫給拿走了,你的支付寶分分鐘可以被盜刷,你們自己看著吧。”

中國的兩大互聯網支付巨頭很快做出了響應,“刷臉支付”采用的是3D人臉識別技術,在進行人臉識別前,也會通過軟硬件結合的方式進行檢測,來判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的,能有效地避免各種人臉偽造帶來的身份冒用情況。支付寶稱,即便出現賬戶被冒用的極小概率事件,支付寶也會通過保險公司進行全額賠付。

然而刷臉支付的核心場景是各大商場的人臉支付,這種情況下不需要接觸APP,單純臉對攝像頭,只要用視頻讓攝像頭認為是真人即可,是不是能夠避免被盜刷還是個問號。

AI換臉識別用技術防御風險 

據媒體報道,目前 AI 換臉黑產已經在國內形成了完整的產業鏈,從下游成品情色視頻、中游定制視頻到上游軟件及教程都有提供,有的賣家甚至提供全產業鏈產品和售后服務。

“風控技術要迅速響應,才能防御風險行為帶來的用戶損失。”帶著這樣的使命感,CTO梁堃迅速調動團隊,第一時間推出了AI換臉識別產品,識別哪些視頻采用了AI換臉。

“數美科技的AI換臉識別產品,是基于人臉檢測技術、人臉特征提取技術、以及針對人臉識別場景優化后的XceptionNet網絡,通過視頻多幀綜合識別,通常只需要10秒包含目標人物的視頻,就可快速精準識別視頻內容是否通過AI換臉技術偽造而成。”梁堃說。

數美科技的AI換臉識別模型能夠自動提取人臉關鍵點、臉部邊緣、人臉朝向等重要特征,這些特征幫助模型在視頻識別上的準確率達到90%以上,有效防范各種利用AI換臉視頻實施詐騙的行為。

在梁堃看來,數美科技作為人工智能領域的解決方案專家,將持續致力于發揮專業優勢,幫助客戶防御業務風險,保障平臺內容安全,保護公民肖像權、名譽權,維護健康、純凈的互聯網環境。