準確率高達99.99%，英政府打擊極端影片，研發這套機器學習軟體

英國在2017年頻頻遭受恐怖攻擊，為了打擊網路上流竄的極端主義資訊，英國政府與民間科技新創攜手合作，打造了一款機器學習演算法，號稱有高達99.99%的準確率可以偵測出ISIS極端主義素材，要提供中小型影音網站協助審核內容。

從源頭攔截極端影片，錯誤率僅0.005 %

根據英國內政部統計，2017年ISIL的支持者透過400多個網路平台來宣揚極端主義思想，且有高達三分之一的影片，在上線的一個小時內就被廣泛散布，兩個小時後就能出現在各大影音平台上。

為了打擊恐怖主義，英國內政部斥資60萬英鎊（約合新台幣2490萬元）的公共基金，與英國新創ASI Data Science一起攜手合作，打造了一款適用於任何平台，專門揪出極端主義影音素材的機器學習演算法。

根據ASI說法，這套演算法可以偵測出94%的ISIS素材，且有99.99%的準確率，錯誤率大約只有 0.005 %，若以每天上傳量500萬支影片的網站來說，約有250支影片被錯誤標記，需要人類二次審核。而這樣的成果已經能攔截絕大多數的惡意宣傳影片進一步散布，再藉由人類與演算法的相互合作，可望大幅提升成效。

ASI並沒有透露演算法詳細的衡量標準，但根據外媒報導，這款工具以大量伊斯蘭國武裝組織ISIL宣傳影片做為訓練素材，會分析影片中的的聲音及影像，甚至是影片上傳的地點，綜合多項數據來判讀。

提供中小型影音網站使用

英國內政部部長Amber Rudd表示，這些極端主義影片目的是要扇動暴力行為，以及在社會中製造恐慌情緒，而這類科技可以協助打擊恐怖主義，避免人們接觸到這類恐怖影像。

英國內政部表示，像Facebook、YouTube這大型科技公司都已經有自行研發的演算法，去年12月，YouTube 稱他們移除了15萬支暴力極端主義影片，演算法可以標記出98%有問題影片；Facebook則稱他們的軟體可以移除99% ISIS相關的極端主義內容。因此這套軟體將專門提供給Vimeo、pCloud 這類中小型影音平台使用。

但專家也警告，這類的演算法並非遏止極端主義影片傳播的終極解方，這就像是「貓捉老鼠」的遊戲，恐怖組織永遠都有辦法找新的宣傳散布手法，因此平台就算使用這類輔助工具，還是必須隨時以最高標準把關。

英國政府砸60萬英鎊打造AI工具，能自動偵測ISIL恐怖主義內容

英國內政部周二（2/13）宣布，已與資料科學業者ASI Data Science共同開發一個可自動偵測恐怖主義內容的AI工具，並適用於任何的平台。根據媒體報導，為了打造該工具，英國政府動用了60萬英鎊（約2490萬元新台幣）的公共基金。

此一尚未被命名的工具是利用機器學習技術來分析影片中的聲音及影像，以逾1,000支伊斯蘭國武裝組織ISIL的宣傳影片進行訓練，可於任何的影片串流或下載網站上進行即時偵測。

內部測試顯示，該工具能夠自動偵測94%的ISIL宣傳內容，且準確度高達99.995%。舉例來說，當它分析100萬個隨機影片時，當中只有50個需要人工複審，它除了可以應用在任何平台之外，也能整合到上傳機制，意謂著這些宣傳影片在上網散布前就會被攔阻。

由於許多大型的科技公司皆已開發自家平台專用的內容偵測機制，但小型平台卻缺乏可打造類似機制的資源，因此，英國內政部與ASI將會把該工具所使用的方法與小型平台分享。

英國內政部部長Amber Rudd表示，ISIL所製作的影片是用來煽動社群的暴力行為，招募恐怖份子，並嘗試於社會中傳播恐懼，此一自動化技術將能有效地破壞恐怖份子的行動，同時防止人們曝露在可怕的影像中。

根據內政部的估計，去年ISIL的支持者藉由超過400個不同的網路平台來宣揚他們的理念，有1/3的連結是在上線的第一個小時就被散布，兩小時後大多數的連結便已流竄在網路上。

除了發展相關技術之外，Rudd也將與美國國土安全部部長Kirstjen Nielsen會面，以討論兩國將如何一同對抗網路上的恐怖份子言論。