為何打擊網路極端主義的行動屢屢失敗

(SeaPRwire) –   當我們讀到又一起與網路仇恨有關的槍擊事件，或另一個在社群媒體上蔓延的暴力網路時，常見的說法是「社群媒體平台必須做得更多」。

事實上，我自己在網路極端主義和內容審核方面的研究表明，儘管主要網站上的內容審核移除在過去幾年中有所增加，但極端分子仍然可以找到大量的數位空間來招募、組織和呼籲暴力。因此，也許我們應該問的問題不是平台是否在孤立地做得足夠——而是我們是否正在解決一個任何單一網站都無法處理的更大問題。

我們打擊網路仇恨和極端主義的方法過於關注個別平台——Facebook、X、YouTube 或 TikTok——而對整個網路中內容審核的分散關注不足。從歷史上看，當政府審查「大型科技公司」且平台收緊其審核規則時，極端主義運動會分散到較小或另類平台。較少的規則和較小的信任與安全團隊意味著有更多的機會來激進化一個忠實的受眾，同時仍然測試潛回較大平台的方法。

最近，這變得更容易了，因為一些主要平台在言論自由的幌子下放寬了其內容審核規則。例如，在 Elon Musk 的所有權下， 大幅削減了其信任與安全團隊， 並且 。同樣，擁有 Facebook 和 Instagram 的 ，結束了其第三方事實查核計畫，並重新定義了其仇恨言論政策，因此某些曾經不允許的言論現在被允許。而且由於這些平台提供了最廣泛的覆蓋範圍，極端分子不僅重新獲得了主流受眾的訪問權限，而且還重新進入了較小平台難以維持的激進化、招募和動員的週期。

我的 基於廣泛的多平台資料集和跨意識形態的行動者的案例研究顯示了極端分子如何在這個不平衡的環境中建立韌性。他們的策略既是審慎的又是動態的。他們使用邊緣網站或加密訊息應用程式來發布最具煽動性或暴力的材料，繞過更嚴格的執法。然後，他們為主流平台製作「緩和」的訊息——也許是可恨的，但還不足以引發大規模的移除。他們利用那些覺得自己在主流社群媒體上受到審查的用戶的怨恨，將這種不滿轉化為他們集會口號的一部分。這個週期在我在「不一致的執法系統」中喜歡稱之為的裂縫中蓬勃發展——一個無意或有意地允許極端分子適應、逃避禁令和跨平台重建的生態系統。

但這種零碎的方法也意味著極端主義運動永遠不會真正瓦解——只是暫時轉移。它非但沒有削弱這些網路，反而教會了它們進化，使未來的執法變得更加困難。

如果平台協調其標準（而不僅僅是在模糊的聲明中，而是在具體的執法協議中），那麼這種一致性將開始消除極端分子所依賴的「套利」。對 60 個平台的分析顯示，在存在真正政策趨同的地方，暴力團體發現的安全避風港較少，因為它們無法再利用執法漏洞來維持線上存在。當平台應用類似的規則並協調執法時，極端分子在禁令生效時，重新集結的地方更少，並且從一個網站轉移到另一個網站的機會也更少。

以這種方式協調並非易事——內容審核引發了對言論自由、審查制度以及政府或私營公司可能濫用的擔憂。儘管如此，對於我們大多數人都認為屬於禁區的狹窄內容——恐怖主義宣傳和鼓吹暴力的仇恨言論——統一標準將彌補許多巨大的漏洞。

建立強大的信任和安全能力並非廉價或簡單——特別是對於無法僱用數百名版主和法律專家的較小平台。湧現出了一波旨在做到這一點的第三方倡議：例如，ROOST 是 由一個慈善基金會和科技公司（如 Google、OpenAI 和 Roblox）組成的聯盟 。它提供開源軟體和共享資料庫，以便無論大小平台都可以更好地識別和刪除已知會煽動現實世界傷害的極端主義材料。像這樣的項目承諾了一條通往更大趨同的路徑，而無需公司從頭開始重新發明審核。

當然，一些最大的障礙仍然是政治性的。我們仍然缺乏關於在哪裡劃分有害的極端主義言論和合法的政治表達之間的界限的共識。這個話題已經變得非常兩極分化，不同的行動者和利害關係者對應該被認為是有害的東西持有截然不同的觀點。但極端主義暴力並非黨派問題：從猶太教堂槍擊事件到基督城直播的暴力事件，再到一系列與線上激進化有關的伊斯蘭主義啟發的襲擊事件，我們已經目睹了足夠多的暴行，知道仇恨和恐怖在平台之間的縫隙中蓬勃發展。

是的，我們將繼續辯論有害內容的界限。但是 可以同意，明確呼籲暴力、基於仇恨的騷擾和恐怖宣傳值得迅速而嚴肅的干預。這個共同點是 ROOST 等多平台倡議，或由全球互聯網反恐論壇領導的協作資料庫，可以取得實質性進展的地方。

在我們解決使跨平台極端主義內容的遷移、協調和重新出現成為可能的系統性誘因之前，我們將在每次可怕的襲擊事件發生後不斷想知道：為什麼這種情況不斷發生？答案是我們建立了一個分散的系統——在這個系統中，每個平台都在進行自己的戰鬥，而極端分子則在利用其中的縫隙。

現在不僅要要求「大型科技公司做得更多」，而且要要求所有線上空間都對抗擊極端主義採取更加統一的立場。只有這樣，我們才能開始堵住不斷滋養數位仇恨的無數漏洞。