文/雷喻翔（法務部調查局資通安全處）

何謂內容農場？
以往由媒體記者人工撰寫的新聞報導，隨著人工智慧（Artificial Intelligence, AI）的蓬勃發展，現在只需輸入幾個關鍵字，甚至任由電腦利用網路爬蟲（Web Crawler）程式自行擷取訊息，東拼西湊下便可產生一篇看似煞有其事的新聞，內容農場（Content Farm）便是後者衍生出的產物。民眾常在瀏覽臉書或一般網頁時，在網頁邊緣看到標題聳動的短篇新聞或連結，這便是內容農場的傑作，它會大量且快速地製造不容易辨識真偽的網路文章，目的在於衝高網路點擊率，用以圖謀網路廣告等商業利益，更甚者出於政治利益而衝擊政府施政。
 
除了臺灣，2016 年的美國總統大選期間假新聞瘋傳，社群網站龍頭─臉書被指助長假新聞，引起大眾關注，有鑑於此，臉書宣布投入研發能量，除了禁止內容農場買廣告外，更要主動發掘假新聞，杜絕於未然。水能載舟亦能覆舟，AI 既然可以製造假新聞，當然也可用其來偵測假新聞。
 
偵測假新聞的手法
社群網路上的假新聞因其獨特的特性，在偵測上有其困難之處，首先假新聞是故意撰寫來誤導讀者使其相信真實性，若想單就該篇新聞本身內容來判定真偽，較無明確的指標。因此必須加入輔助性的資訊，例如新聞發布者在網路的身分以及與其他網站的關聯性等，如此才能提高判斷正確率。
 
其實假新聞並非全新的議題，早在傳統媒體，例如以電視、廣播、報章雜誌為主體的時代便已存在，至於在社群網路上製造假新聞的方式大致分成兩種：第一種是利用多重身分帳號來產生、散播假新聞，如先前提及先用網路爬蟲大量蒐集資料後，再用註冊的不同帳號將這些新聞張貼至各大社群媒體；第二種則是有目的性地將製造的假新聞張貼至特定類型或族群的網站，例如中資所架設的內容農場常將假新聞張貼至我國專門討論反對政府政策的網站，如此一來即便是假的新聞也很容易取得閱讀人的同感，進而凝聚共識、進一步向外傳播，這便是所謂的「回音室效應」（Echo Chamber Effect）。上述分類提供研究學者偵測假新聞的方向，目前偵測假新聞的演算法大致可區分成兩類：「以新聞內容為基礎」的偵測演算法及「以社群網路背景（Social Context）為基礎」的偵測演算法。
 
「以新聞內容為基礎」的偵測演算法
顧名思義就是從新聞本身挖掘可疑的線索，進而判定該則新聞是否偏離事實，它可以再區分成兩類：以知識為基礎、以風格為基礎。既然假新聞存在的根本目的是為了混淆視聽，刊載的內容一定程度上必然偏離了事實，因此「以知識為基礎」的演算法會先廣納所有的新聞訊息，以此建立檢索資料庫，當要判斷某一篇新聞時，便可將新聞內容與該資料庫內容進行比對，從而得出其真偽的機率性；另假新聞的發布者為了達到渲染的目的，會以不同於平常撰寫文章的筆觸，增加具有吸引力及訴求的文字，以求獲得讀者的認同，因此「以風格為基礎」的偵測演算法便是偵測是否有人工斧鑿的寫作手法，從而於網路新聞大海中撈出假新聞。
 
「以社群網路背景為基礎」的偵測演算法
此方法除了新聞內容本身外，亦著眼於發布者的身分。「以立場為基礎」的偵測演算法是其中一種方式，它會考慮發布者曾經在其他網站上發表過的文章，檢視發布者的觀點是否與以往的立場相差甚遠，藉以提高判定的準確性；「以傳播為基礎」的偵測演算法則是檢查所有張貼某篇文章的社群網站，接著計算出該社群網站的信用度，信用度的計算方式會根據過往使用者的活動及發表新聞後續討論的真實性等，綜合所有社群網站的信用後，便可得到欲偵測文章的平均分數，據以輔助系統判定其真偽。
 
以AI 打AI 發展空間仍大
偵測假新聞是近幾年AI 最為熱門的研究議題之一，但平心而論，該研究領域尚處於起步階段，若要達到百分之百的準確度，仍然有一段路要走。然而也正因如此，吸引了許多AI 專家前仆後繼地投入其中。以AI 來偵測假新聞的未來研究方向，可歸納如圖二的三類方法：特徵導向、模型導向以及應用導向。
 
特徵導向是本篇主要介紹的方法，可進一步研究除了以知識、風格、立場、傳播為基礎的四種方式外，是否有其他方式可用來偵測假新聞；模型導向的方式則是導入AI 領域中的機器學習技術。機器學習可分為監督式及非監督式模型，主要是用來對某一未知物的分類及分群，如果能夠建立一套通用數學模型，則可以直接利用模型來偵測每一則假新聞，達到一勞永逸的功效，但假新聞型態千變萬化，因此這也是最困難的方式；應用導向則指除了偵測假新聞外，有何方法能進一步防止、排解假新聞擴散。
 
假新聞固然可藉由資訊科技的幫忙，早期發現、早期排除，但在資訊科技能夠提供毫無疑慮的判斷前，最重要的守門員仍是每位社群網路的使用者，若能多一分警惕、少一分無所謂，不輕易傳遞未經證實、危言聳聽的消息，假新聞散播仍可獲得有效預防。
 
--（本文轉載清流雙月刊）---