Facebook已開(kāi)始利用人工智能技術(shù),以阻止恐怖分子利用其網(wǎng)絡(luò)進(jìn)行相關(guān)活動(dòng)。
周四,公司官員在一篇博客文章中表示,F(xiàn)acebook將通過(guò)人工審閱和人工智能技術(shù),確保宣揚(yáng)恐怖主義的內(nèi)容在還沒(méi)接觸到其瀏覽者之前就遭屏蔽。
Facebook和Youtube在早前就已經(jīng)利用了相關(guān)技術(shù)來(lái)屏蔽兒童色情內(nèi)容。但在此之前,F(xiàn)acebook一直不愿意將這一技術(shù)應(yīng)用到其他不那么黑白分明的內(nèi)容上。在大多數(shù)情況下,F(xiàn)acebook只有在用戶舉報(bào)時(shí)才刪除那些令人反感的內(nèi)容。
政府已向Facebook和其他互聯(lián)網(wǎng)公司不斷施壓,要求它們阻止恐怖主義組織在其網(wǎng)頁(yè)上發(fā)布宣揚(yáng)恐怖主義或是“征兵”廣告。本月早些時(shí)候,英國(guó)首相特雷莎·梅呼吁各國(guó)政府簽署國(guó)際協(xié)議,以防止極端主義在網(wǎng)絡(luò)上蔓延。一些提議的措施將要求公司對(duì)其網(wǎng)站上發(fā)布的資料負(fù)法律責(zé)任。
Facebook全球政策主管BrianFishman發(fā)布這篇博文中沒(méi)有提到首相梅的提議。但文章中承認(rèn)人們的質(zhì)疑:“在最近的恐怖襲擊之后,人們質(zhì)疑科技公司在網(wǎng)絡(luò)反恐方面的作用。我們想要對(duì)這些問(wèn)題做出切實(shí)回應(yīng)。我們同意社交媒體不應(yīng)該成為恐怖分子發(fā)聲的地方這一觀點(diǎn)。”
這一過(guò)程利用了圖像識(shí)別技術(shù),通過(guò)該技術(shù),F(xiàn)acebook將人們上傳的圖片和視頻和已知的恐怖主義圖片和視頻作對(duì)比。這意味著這些做對(duì)比的恐怖主義視頻和圖片要么是之前就被Facebook屏蔽過(guò),要么是來(lái)自由Facebook、推特與Youtube共享的一個(gè)恐怖主義圖片數(shù)據(jù)庫(kù)。
Facebook還對(duì)之前被屏蔽的那些宣揚(yáng)恐怖主義的文章進(jìn)行文本分析,找到這些文本的共同特點(diǎn)。之后,將這些特點(diǎn)錄入機(jī)器學(xué)習(xí)系統(tǒng)之中,不斷迭代,使其能夠很快偵測(cè)到類(lèi)似的帖子。
Bickert和Bickert表示,當(dāng)Facebook收到“恐怖主義內(nèi)容”的舉報(bào)時(shí),公司會(huì)立即對(duì)所舉報(bào)內(nèi)容進(jìn)行審查。此外,這篇博文還表示,在極端情況下,當(dāng)系統(tǒng)發(fā)現(xiàn)了受重大傷害的證據(jù)時(shí),會(huì)立即通知當(dāng)局。
但是人工智能僅僅只是該過(guò)程的一部分而已。這項(xiàng)技術(shù)目前還不能理解語(yǔ)言上以及不同語(yǔ)境間的細(xì)微差別,所以目前還是以人工審查為主。
Facebook表示,超過(guò)150名雇員的“主要或全部工作內(nèi)容就是打擊網(wǎng)絡(luò)恐怖主義”。這篇博文透露,這150人中包括反恐專家、前檢察官、前執(zhí)法人員、分析人士以及工程師。