為反恐盡心力　臉書利用AI審查貼文 -- 上報 / 國際

快訊

一条通 8 家指定門市祭出半價優惠、10 款美食最低 20 元起！

2025-03-11 03:45
uuuu

2025-02-11 03:14
銷魂拌麵「剁椒魚頭」、創意甜點「花椒豆腐腦」必點！奇岩一號雙強主廚合推 10 款川湘風味菜單

2024-06-27 07:00
習近平的親俄路線徹底敗壞了中共的處境

2024-06-25 07:00
71歲的習近平為中國帶來什麼

2024-06-24 07:00
投書：從黃埔建軍到黃埔「遺毒」

2024-06-24 07:00
宋國誠專欄：怪哉，依法懲治「台獨」──中共的「自嗨政治學」

2024-06-24 07:00
普丁與金正恩親密駕車互動的「小心機」

2024-06-24 07:00
世界亂局中重建台灣能源安全：賴清德總統的抉擇

2024-06-24 07:00
投書：「核電是AI耗能的救星」　別扯了

2024-06-24 07:00

#恐怖主義 #臉書 #網路公司

為反恐盡心力　臉書利用AI審查貼文

徐華廷 2017年06月16日 21:27:00

為回應政府及民間對於網路反恐的訴求，社群網站臉書（Facebook）對外公開反恐策略。臉書表示目前已經開始採用AI針對貼文、照片、影片甚至假帳號進行審查。但批評者認為，AI審查在現階段仍有諸多缺點需要克服。

13日，英國首相梅伊（Theresa May）前往法國拜訪總統馬卡洪（Emmanuel Macron）。在歐洲恐怖攻擊頻傳之際，兩國元首一致同意道：網路公司應該採取更積極的措施來打擊恐怖主義。

英法兩國皆同意網路公司應提高自身反恐責任。左為英國首相梅伊，右為法國總統馬卡洪。（美聯社）

為了向大眾展示其努力，全球最大社群網站臉書（Facebook）對外公開資訊，說明其如何在網路世界對抗恐怖主義。

臉書的全球管理政策負責人比克特（Monika Bickert）表示：「我們希望讓大眾知道我們正努力地去確保臉書為一個敵視恐怖組織的環境」。

《英國廣播公司》（BBC）報導，臉書已經開始使用人工智慧（AI）來監控平台上的涉及恐怖主義的貼文、照片、影片，包含一連串的假帳號也在監控範圍之中。

臉書現階段採用AI和人工並行的方式來審查平台上的內容。（湯森路透）

藉由分析文字內容，臉書可以判斷發文者是否有散播恐怖主義的意圖。BBC報導，這套系統會藉由自我學習的方式來不斷精進。比克特表示：「總有一天，我們的科技將能處理所有的東西」。她補充道，但現階段仍然有採用人力審查需要。

在假帳號審查的部分，臉書表示其正在著手追蹤那些不斷申請新帳號來張貼恐怖主義內容的使用者。

臉書的反恐管理政策領導人費雪曼（Brian Fishman）表示，公司已經聘用了150位相關專家，目前的審查範圍也已涵蓋了30種語言。

"Hard Questions: How We Counter Terrorism" Newly public insights on Facebook's counterterrorism work. https://t.co/sRecwGujZl

— Brian Fishman (@brianfishman) June 15, 2017

雖然AI可以快速地做出反應，但以現階段的技術來說，無可避免地會波及無辜，特別是當AI在進行判斷的時候。

舉例來說，當一名反對恐怖主義的用戶張貼一則與伊斯蘭國（Islamic State, IS）有關的貼文時，系統可能誤將該用戶判定為正在散播恐怖主義。

也有專家認為對於「極端份子」的定義仍需要進一步說明。「最關鍵的問題在於決定什麼是極端份子，而什麼不是」任職於國際反恐中心（ICCT）的博格（J.M. Berger）說道：「（臉書）是不是只針對伊斯蘭國和蓋達組織（Al Qaeda），或是他們也會去處理白人國家主義（white nationalism）和新納粹運動（neo-Nazi movements）。」

另外還有批評者認為目前投入的資源仍有不足，他們認為臉書身為一個擁有20億用戶的平台，再加上高達上千億的收入，其應當投入更多的資源在反恐議題上。