Meta采用少樣本學(xué)習(xí)技術(shù)，更全面地偵測(cè)社交平臺(tái)有害內(nèi)容

Meta構(gòu)建并且部署了一種稱為少量樣本學(xué)習(xí)（Few-Shot Learner，F(xiàn)SL）的人工智能技術(shù)，將平臺(tái)對(duì)有害內(nèi)容的反應(yīng)時(shí)間從數(shù)月降低到數(shù)周，并且能夠不斷適應(yīng)新的有害內(nèi)容類型。該技術(shù)適用超過100種語(yǔ)言，還可以從圖像和文本等不同類型的資料中學(xué)習(xí)，同時(shí)能夠強(qiáng)化現(xiàn)有已經(jīng)部署，用來偵測(cè)其他類型有害內(nèi)容的人工智能模型。

有害內(nèi)容演變的速度很快，無(wú)論是由事件驅(qū)動(dòng)，抑或是惡意人士刻意規(guī)避系統(tǒng)偵測(cè)的行為，官方提到，人工智能系統(tǒng)能跟上有害內(nèi)容演變速度變得很重要，但人工智能要能偵測(cè)這些有害內(nèi)容，通常需要數(shù)個(gè)月的時(shí)間收集并且標(biāo)記范例，才能訓(xùn)練每個(gè)單獨(dú)的人工智能系統(tǒng)，發(fā)現(xiàn)新類型的內(nèi)容。

而Meta新發(fā)展的這個(gè)人工智能系統(tǒng)，使用少樣本學(xué)習(xí)技術(shù)，官方解釋，這是一種相對(duì)較新的方法，其模型能夠從對(duì)許多不同主題，擁有大量且一般性的理解，接著只要使用少量或甚至零樣本來學(xué)習(xí)新任務(wù)，就能有效地執(zhí)行任務(wù)，Meta以捕魚技術(shù)來比喻人工智能偵測(cè)技術(shù)，傳統(tǒng)系統(tǒng)類似可以捕捉特定魚種的釣魚線，而少樣本學(xué)習(xí)技術(shù)則像是額外的網(wǎng)子，可以捕捉其他類型的魚。

之所以Meta現(xiàn)在才能夠采用少樣本學(xué)習(xí)技術(shù)，研究人員解釋，這是因?yàn)樽罱募夹g(shù)突破，像是自我監(jiān)督學(xué)習(xí)技術(shù)，和超高效基礎(chǔ)設(shè)施，使該領(lǐng)域能夠開始從傳統(tǒng)、特定的人工智能系統(tǒng)，轉(zhuǎn)向更大且更通用的系統(tǒng)，并且降低對(duì)標(biāo)記資料的依賴。

Meta使用違反政策的內(nèi)容，來訓(xùn)練新的人工智能系統(tǒng)，最后該模型還以解釋新政策的文本進(jìn)行訓(xùn)練，和過去通過比對(duì)資料模式的系統(tǒng)不同，F(xiàn)SL使用通用語(yǔ)言，以及違反政策的內(nèi)容進(jìn)行訓(xùn)練，因此可以學(xué)習(xí)政策的隱藏含義。

目前Meta已經(jīng)在一些較新的事件中，測(cè)試FSL的表現(xiàn)，像是識(shí)別暗指疫苗會(huì)改變DNA，這類以誤導(dǎo)性或是危言聳聽信息，嚇阻他人接種COVID-19疫苗的貼文，其他的任務(wù)還有改進(jìn)現(xiàn)有分類器，該分類器能夠標(biāo)記煽動(dòng)暴力的內(nèi)容，偵測(cè)到類似“那個(gè)人需要所有的牙齒嗎？”這種貼文，官方提到，傳統(tǒng)的方法可能會(huì)忽略這類型的煽動(dòng)性貼文，因?yàn)槭褂肈NA來質(zhì)疑疫苗接種，和利用牙齒來暗示暴力的樣本并不多。

官方運(yùn)用各種方法來衡量模型的性能，并且查看FSL在臉書和Instagram上部署后，有害內(nèi)容的流行率，也就是人們看到違規(guī)內(nèi)容的次數(shù)百分比之間的差異，經(jīng)過實(shí)驗(yàn)，Meta人工智能少樣本學(xué)習(xí)技術(shù)，能夠正確偵測(cè)傳統(tǒng)系統(tǒng)可能遺漏的貼文，并且通過主動(dòng)偵測(cè)潛在有害內(nèi)容，來防止有害內(nèi)容在平臺(tái)中傳播，以減少這類內(nèi)容的流行。