
美國風投公司Verizon Ventures的董事大衛·法莫拉里(David
Famolari)今日在科技博客Venturebeat上撰文稱,虛假新聞問題因為跟總統大選牽連在一起而受到越來越多的人關注,現在很多公司開始嘗試利用AI(人工智能)技術來解決這個問題,這雖然并非最完美的解決方案,但是或許能夠在一定程度上減輕這個問題。原文如下:
在最近一次的美國總統大選期間,民主黨和共和黨顯然都曾利用互聯網和社交媒體來散布錯誤信息,這是一種陰險的招數。散布虛假新聞這種做法見效快,而且幾乎沒有太大的成本,任何組織和個人都可以隨心所欲地在各大新聞網站、社交媒體和博客上發布假消息,這會讓其他人感覺到這些消息都是真的。無數人看到這些消息就會受到相應的影響。正如奧巴馬總統在與德國總理默克爾(Merkel)一起召開的新聞發布會上所說:“如果我們不嚴肅對待客觀事實,不能明辨真假,我們就會遇到問題;在如此多的人通過語音和手機獲得信息的社交媒體時代,如果我們不能辨別嚴肅的觀點和宣傳之詞,我們就會遇到問題。”
關于虛假新聞是否影響甚至改變了最近一次總統大選的結果這個問題,現在仍存在較大的爭議,但是不管怎么說,大多數人都承認:如果沒有虛假新聞,我們的國家乃至整個世界將變得更加美好。
AI來救場
雖然現在還沒有能夠簡單有效地解決虛假新聞問題的好辦法,但是有一種技術卻有助于改善公共話語的質量,那就是人工智能技術。Facebook和谷歌(微博)已經開始使用人工智能技術來識別那些看起來似是而非的內容,很快我們就會見到其他媒體公司、各國政府和無黨派組織以及關心虛假新聞問題的各個組織使用類似的工具。
基于人工智能的軟件已經可以通過分析一篇文章的結構來評價起邏輯合理性。雖然現在還無法對視頻內容進行類似的分析,但是相信這一點很快就會實現。
我們可以想像一下,如果每一篇文章都可以根據它的內容進行評價,整個世界肯定會變得真實許多。幾年前,我讀過初創孵化器Y
Combinator的創始人和著名投資者保羅·格雷漢姆(Paul
Graham)撰寫的一篇文章。他在文章中列出了爭論的各個階段,比如最簡單的人身攻擊、自以為是的攻擊以及對核心觀點的直接反駁等等。人工智能技術可以理解自然語言和使用機器學習工具,從而對文章進行分析,找到文章的基礎修辭體系結構,包括主要觀點、支持核心論點的論述、以及判斷作者是直接攻擊核心論點還是想攻擊支持核心論點的論據。
這是軟件開發環境的更高級別的抽象概念,它可以根據編程語言和上下文自動將內容格式化。這些功能可以讓人工智能技術更容易理解上下文和基礎代碼的功能以及每一小段代碼與更大代碼庫之間的關系。另外,人工智能軟件還可以為支持核心論點和反對核心論點的信息自動插入指向源材料的鏈接。雖然這些工具并不能消除虛假新聞,但是他們可以讓讀者將相關信息納入文章的上下文,從而更好地評價文章的邏輯結構,對文章的真實性作出更明智的判斷。
需求將推動創新
不幸地是,這只是理論上的情況。用人工智能技術來攔截虛假新聞流雖然是有可能的,但是代價也不小。除非出現真正的商業需求,否則大規模監視虛假新聞的情況是不會出現的。媒體公司對保護其名譽的興趣越來越大,它們可以投資AI內容監視系統來證明其內容的可信。市場研究公司和品牌商們也有興趣利用AI來更好地了解媒體(包括虛假新聞和真實新聞)對消費者購買決策的影響。
但是現在,我們還沒有見過虛假新聞監視系統的真實商業案例。實際上,現在并不缺乏有利于提升總體瀏覽量和讀者參與度的經濟激勵,這也造成了標題黨的泛濫。
這并不意味著就不會有創新了。實際上,打擊虛假新聞的舉措會越來越多。最近,谷歌的Jogsaw部門宣布推出了一款新的軟件工具來幫助出版商識別不良評論。Facebook和谷歌也在投資人工智能技術,通過人工智能技術來過濾虛假新聞和不文明內容,因為這關系到他們的聲譽。其他很多公司比如Narrative
Science、Automated Insights和Smart
Logic都開始使用人工智能技術來自動撰寫新聞報道,因此只要業務有這種需求,這些公司就會利用他們的技術來過濾虛假新聞。與此同時,計算機科學研究員、開發員和黑客也都已經開始研究如何解決虛假新聞的問題。斯坦福大學一位年僅19歲的學生完全憑借自己的努力開發出一款基于AI的虛假新聞過濾工具。
但是現在還沒有能夠掃描和評估網絡上的所有新聞內容的可信度的大規模、無黨派的新聞過濾系統。這種系統的規模可能十分巨大,并且需要經常升級以保證其安全性。
政府是否應該為解決虛假新聞問題提供資金上的支持并開發出一款基于AI的虛假新聞監視系統?媒體行業是否有責任開發和維護第三方監視系統?虛假新聞監視系統是否應該作為一種眾籌項目的形式存在,由無數個獨立的開發員共同開發和監視?不管由誰來管理這樣一個監視系統,我們如何保證觀點各異的無數開發員能夠開發出一款毫無偏見的監視系統?這些問題都不好解決。
我們只知道,AI技術已經能夠在媒體監督方面發揮出重要的作用。它可以分析一篇文章來確定信息的出處并且建立文章與出處之間的鏈接。它可以根據信息出處的質量和話語力度來給文章的可信度打分。當然,AI并非識別虛假新聞的完美解決方案。雖然它可以提供一些工具和總體方針來幫助人們更好地判斷一篇文章是否可信,但是它絕對做不到百分百的準確。
作為很多AI公司的投資者,我一直關注著試圖解決世界性難題的初創公司。總有一天,會有某一家企業找到一種合適的商業模式來對抗虛假新聞。但是在那之前,錯誤內容、宣傳言論和帶有主觀偏見的標題黨仍將四處橫行。