全球化的社區(qū)TikTok，一直在思考，如何提高我們用戶(hù)的安全性

TikTok是一個(gè)多元化、全球化的社區(qū)，由創(chuàng)造力推動(dòng)，我們相信人們應(yīng)該能夠創(chuàng)造性地表達(dá)自己，并在安全和友好的環(huán)境中娛樂(lè)。為了保持這種環(huán)境，我們開(kāi)發(fā)了工具和技術(shù)來(lái)開(kāi)發(fā)創(chuàng)造者，并抵制違反我們社區(qū)準(zhǔn)則的行為。

　　在過(guò)去的一年里，在不同的市場(chǎng)，我們一直在研究和調(diào)整新的系統(tǒng)，以識(shí)別和刪除違規(guī)內(nèi)容，并通知人們他們的違規(guī)行為。今天，我們將這些系統(tǒng)帶到美國(guó)和加拿大，以提高我們社區(qū)的安全性和平臺(tái)的完整性

　　TikTok上不斷發(fā)展的內(nèi)容調(diào)節(jié)

　　我們位于美國(guó)的安全團(tuán)隊(duì)負(fù)責(zé)制定和實(shí)施旨在確保美國(guó)和加拿大人民安全的政策和安全戰(zhàn)略。與大多數(shù)用戶(hù)生成的內(nèi)容平臺(tái)一樣，上傳到TikTok的內(nèi)容最初通過(guò)一種技術(shù)，該技術(shù)用于識(shí)別和標(biāo)記潛在的違反策略行為，以供安全團(tuán)隊(duì)成員進(jìn)一步審查。如果違規(guī)行為被確認(rèn)，視頻將被刪除，并將通知?jiǎng)?chuàng)作者刪除和原因，并給予機(jī)會(huì)上訴刪除。如果未發(fā)現(xiàn)違規(guī)行為，視頻將被發(fā)布，TikTok上的其他人將可以觀(guān)看

　　在接下來(lái)的幾周里，除了Safoty團(tuán)隊(duì)確認(rèn)的刪除內(nèi)容外，我們還將開(kāi)始使用技術(shù)自動(dòng)刪除上傳時(shí)發(fā)現(xiàn)的某些類(lèi)型的違規(guī)內(nèi)容。自動(dòng)化將保留在我們的技術(shù)具有最高準(zhǔn)確度的內(nèi)容類(lèi)別中，首先是違反我們關(guān)于輕微安全成人裸體和活動(dòng)、暴力和圖形內(nèi)容以及非法活動(dòng)和受監(jiān)管商品的政策。雖然沒(méi)有哪項(xiàng)技術(shù)能夠完全準(zhǔn)確地控制文檔內(nèi)容（文檔通常需要高度的上下文或細(xì)微差別），但我們將不斷提高技術(shù)的精確度，以最大限度地減少不正確的刪除。創(chuàng)作者將能夠上訴他們的視頻刪除直接我們的應(yīng)用程序或報(bào)告潛在的違規(guī)行為給我們審查，就像今天thoy可以。

　　除了改善TikTok的整體體驗(yàn)外，我們希望此更新還可以通過(guò)減少版主觀(guān)看得令人不快的視頻的數(shù)量，并使他們能夠在高度上下文和細(xì)微差別的領(lǐng)域花費(fèi)更多時(shí)間，例如欺凌和騷擾、錯(cuò)誤信息和仇恨行為，來(lái)支持我們安全團(tuán)隊(duì)的彈性。我們的安全團(tuán)隊(duì)將繼續(xù)審查來(lái)自我們社區(qū)的報(bào)告、技術(shù)標(biāo)記的內(nèi)容或上訴，并刪除違規(guī)行為。請(qǐng)注意，大量報(bào)告內(nèi)容或帳戶(hù)不會(huì)導(dǎo)致自動(dòng)刪除或我們的安全團(tuán)隊(duì)刪除的可能性更大。

　　正如我們?cè)谕该鲌?bào)告中所詳述的，這項(xiàng)技術(shù)最初是在由于COVID-19大流行而需要額外安全支持的地方推出的。從那以后，我們發(fā)現(xiàn)自動(dòng)刪除的假陽(yáng)性率是5%，對(duì)視頻刪除提出上訴的請(qǐng)求一直保持一致。我們希望隨著時(shí)間的推移繼續(xù)提高我們的準(zhǔn)確性

　　幫助人們了解我們的

　　我們已經(jīng)改進(jìn)了通知人們違反社區(qū)準(zhǔn)則的方式，以提高政策的可視性，減少重復(fù)違反行為。新系統(tǒng)統(tǒng)計(jì)用戶(hù)累積的違規(guī)行為，并基于違規(guī)的嚴(yán)重性和頻率。從收件箱的帳戶(hù)更新部分開(kāi)始，用戶(hù)將收到違規(guī)后果的通知。在那里，他們還可以看到自己累積的違規(guī)記錄。

　　更頻繁的違規(guī)行為將在我們的應(yīng)用程序的不同部分產(chǎn)生更多的懲罰和通知。

　　其工作原理如下：

　　第一次違規(guī)

　　在應(yīng)用程序中發(fā)送警告，除非違反的是零容忍策略，這將導(dǎo)致自動(dòng)禁止。

　　第一次違規(guī)后

　　根據(jù)違規(guī)行為和以前違規(guī)行為的嚴(yán)重程度，暫停帳戶(hù)上傳視頻、評(píng)論或編輯其個(gè)人資料的功能24或48小時(shí)。

　　或者，將帳戶(hù)限制為72小時(shí)或最多一周只能查看體驗(yàn)，這意味著該帳戶(hù)不能發(fā)布或參與內(nèi)容。

　　或者，在多次違規(guī)之后，如果用戶(hù)的帳戶(hù)即將被禁止，用戶(hù)將收到通知。如果該行為持續(xù)存在，則該帳戶(hù)將被永久刪除。

 　　我們的零容忍政策，如張貼兒童性虐待材料，自動(dòng)導(dǎo)致帳戶(hù)的刪除。我們還可以阻止一個(gè)設(shè)備，以幫助防止未來(lái)的帳戶(hù)被創(chuàng)建。

　　盡管我們努力保持一致性，但無(wú)論是技術(shù)還是人類(lèi)都不會(huì)100%正確地做出適度決策，這就是為什么創(chuàng)作者可以繼續(xù)在我們的應(yīng)用程序中直接呼吁刪除他們的內(nèi)容或帳戶(hù)是很重要的。如果他們的內(nèi)容或帳戶(hù)已被錯(cuò)誤地刪除，它將被恢復(fù)，罰款將被刪除，它不會(huì)影響帳戶(hù)的前進(jìn)。累積的違規(guī)行為將隨著時(shí)間的推移從個(gè)人記錄中消失。

　　我們利用美國(guó)內(nèi)容咨詢(xún)委員會(huì)（US Content Advisory Council）的投入開(kāi)發(fā)了這些系統(tǒng)，在過(guò)去幾周在美國(guó)和加拿大進(jìn)行的測(cè)試中，超過(guò)60%因違反我們的指導(dǎo)方針而收到第一次警告的人沒(méi)有第二次違反。我們的政策越透明、越容易獲得，違反政策的人就越少，在TikTok上創(chuàng)造和娛樂(lè)的人就越多。

　　人們花費(fèi)大量的時(shí)間和精力為T(mén)ikTok創(chuàng)建內(nèi)容，而我們的內(nèi)容調(diào)節(jié)系統(tǒng)的準(zhǔn)確性和一致性對(duì)我們來(lái)說(shuō)至關(guān)重要。我們希望從我們的社區(qū)中了解他們的經(jīng)驗(yàn)，以便在我們努力為我們的全球社區(qū)保持平臺(tái)的安全性和包容性的同時(shí)，我們能夠繼續(xù)做出改進(jìn)。