Facebook：一個(gè)漏洞導(dǎo)致一些沒(méi)有違反其規(guī)則的內(nèi)容被錯(cuò)誤地刪除

據(jù)CNET報(bào)道，F(xiàn)acebook母公司Meta周二表示，一個(gè)漏洞導(dǎo)致今年前三個(gè)月的一些沒(méi)有違反其規(guī)則的內(nèi)容被錯(cuò)誤地刪除。這家社交媒體巨頭表示，它修復(fù)了這個(gè)漏洞，并恢復(fù)了那些被錯(cuò)誤地標(biāo)記為違反其規(guī)則的帖子，包括反對(duì)恐怖主義和有組織仇恨。

Facebook在第一季度對(duì)250萬(wàn)條被標(biāo)記為有組織仇恨的內(nèi)容采取了行動(dòng)，比2021年第四季度的160萬(wàn)條有所增加。該社交網(wǎng)絡(luò)在第一季度還對(duì)1600萬(wàn)條恐怖主義內(nèi)容采取了行動(dòng)，比第四季度的770萬(wàn)條增加了一倍多。Meta公司將這一高峰歸因于其媒體匹配技術(shù)中的一個(gè)漏洞。該公司季度標(biāo)準(zhǔn)執(zhí)行報(bào)告中的一張圖表顯示，該社交網(wǎng)絡(luò)恢復(fù)了超過(guò)40萬(wàn)條被錯(cuò)誤標(biāo)記為恐怖主義的內(nèi)容。

Meta的照片和視頻服務(wù)Instagram也因?yàn)檫@個(gè)漏洞對(duì)更多的恐怖主義和有組織的仇恨內(nèi)容采取了行動(dòng)。這個(gè)漏洞也影響了其他類(lèi)型的內(nèi)容。報(bào)告說(shuō)，由于這個(gè)問(wèn)題，F(xiàn)acebook在第一季度恢復(fù)了34.56萬(wàn)條被標(biāo)記為自殺和自殘的內(nèi)容，比第四季度的95300條有所增加。該社交網(wǎng)絡(luò)還在第一季度恢復(fù)了超過(guò)68.78萬(wàn)條被錯(cuò)誤標(biāo)記為性剝削的內(nèi)容，比上一季度的18.06萬(wàn)條有所增加。

這些錯(cuò)誤引起了人們對(duì)Meta公司的自動(dòng)技術(shù)運(yùn)作情況的質(zhì)疑，以及是否存在其他未被發(fā)現(xiàn)的漏洞或錯(cuò)誤。該公司表示，它一直在采取更多措施，防止內(nèi)容審核錯(cuò)誤的發(fā)生。Meta正在測(cè)試新的人工智能技術(shù)，從上訴和恢復(fù)的內(nèi)容中學(xué)習(xí)。Meta公司誠(chéng)信副總裁Guy Rosen在周二的新聞電話會(huì)議上說(shuō)，它還在試驗(yàn)在社交網(wǎng)絡(luò)對(duì)違反規(guī)則的人進(jìn)行處罰之前給他們更多的提前警告。

Rosen說(shuō)，當(dāng)誤報(bào)被輸入其媒體匹配技術(shù)時(shí)，它將它會(huì)“散開(kāi)”并刪除大量沒(méi)有違反平臺(tái)規(guī)則的內(nèi)容?！拔覀儽仨毞浅Ｖ?jǐn)慎地對(duì)待在發(fā)生扇出之前進(jìn)入系統(tǒng)的所謂種子。在這種情況下，我們所遇到的是引進(jìn)了一些新技術(shù)，這給系統(tǒng)帶來(lái)了一些誤報(bào)，”Rosen補(bǔ)充說(shuō)，內(nèi)容后來(lái)被恢復(fù)了。

與此同時(shí)，F(xiàn)acebook也面臨著在恐怖主義內(nèi)容傳播之前沒(méi)有將其刪除的審查。上周末，官方稱(chēng)被指控在布法羅市一家雜貨店向10名黑人開(kāi)槍致死的白人男子在Twitch上發(fā)布的直播視頻，也在Facebook和Twitter等社交網(wǎng)絡(luò)上傳播。《華盛頓郵報(bào)》報(bào)道，該視頻副本的鏈接出現(xiàn)在Facebook上，被分享了46000多次，收到了500多條評(píng)論。Facebook在10多個(gè)小時(shí)內(nèi)沒(méi)有刪除該鏈接。

Rosen說(shuō)，在公司知道了這起槍擊事件后，員工們迅速將該事件定為恐怖襲擊，并刪除了該視頻的任何副本以及官員們所說(shuō)的槍手長(zhǎng)達(dá)180頁(yè)的充滿仇恨的言論。

Rosen說(shuō)，挑戰(zhàn)之一是人們創(chuàng)建新版本的視頻或鏈接，試圖逃避社交媒體平臺(tái)的執(zhí)法。他說(shuō)，該公司與任何發(fā)生的情況一樣，將完善其系統(tǒng)，以更快地發(fā)現(xiàn)違規(guī)內(nèi)容。Rosen補(bǔ)充說(shuō)，關(guān)于Facebook正在考慮采取哪些具體措施，他沒(méi)有更多的細(xì)節(jié)可以分享。