全球化的社區(qū)TikTok，一直在思考，如何提高我們用戶的安全性

TikTok是一個多元化、全球化的社區(qū)，由創(chuàng)造力推動，我們相信人們應該能夠創(chuàng)造性地表達自己，并在安全和友好的環(huán)境中娛樂。為了保持這種環(huán)境，我們開發(fā)了工具和技術(shù)來開發(fā)創(chuàng)造者，并抵制違反我們社區(qū)準則的行為。

　　在過去的一年里，在不同的市場，我們一直在研究和調(diào)整新的系統(tǒng)，以識別和刪除違規(guī)內(nèi)容，并通知人們他們的違規(guī)行為。今天，我們將這些系統(tǒng)帶到美國和加拿大，以提高我們社區(qū)的安全性和平臺的完整性

　　TikTok上不斷發(fā)展的內(nèi)容調(diào)節(jié)

　　我們位于美國的安全團隊負責制定和實施旨在確保美國和加拿大人民安全的政策和安全戰(zhàn)略。與大多數(shù)用戶生成的內(nèi)容平臺一樣，上傳到TikTok的內(nèi)容最初通過一種技術(shù)，該技術(shù)用于識別和標記潛在的違反策略行為，以供安全團隊成員進一步審查。如果違規(guī)行為被確認，視頻將被刪除，并將通知創(chuàng)作者刪除和原因，并給予機會上訴刪除。如果未發(fā)現(xiàn)違規(guī)行為，視頻將被發(fā)布，TikTok上的其他人將可以觀看

　　在接下來的幾周里，除了Safoty團隊確認的刪除內(nèi)容外，我們還將開始使用技術(shù)自動刪除上傳時發(fā)現(xiàn)的某些類型的違規(guī)內(nèi)容。自動化將保留在我們的技術(shù)具有最高準確度的內(nèi)容類別中，首先是違反我們關(guān)于輕微安全成人裸體和活動、暴力和圖形內(nèi)容以及非法活動和受監(jiān)管商品的政策。雖然沒有哪項技術(shù)能夠完全準確地控制文檔內(nèi)容（文檔通常需要高度的上下文或細微差別），但我們將不斷提高技術(shù)的精確度，以最大限度地減少不正確的刪除。創(chuàng)作者將能夠上訴他們的視頻刪除直接我們的應用程序或報告潛在的違規(guī)行為給我們審查，就像今天thoy可以。

　　除了改善TikTok的整體體驗外，我們希望此更新還可以通過減少版主觀看得令人不快的視頻的數(shù)量，并使他們能夠在高度上下文和細微差別的領域花費更多時間，例如欺凌和騷擾、錯誤信息和仇恨行為，來支持我們安全團隊的彈性。我們的安全團隊將繼續(xù)審查來自我們社區(qū)的報告、技術(shù)標記的內(nèi)容或上訴，并刪除違規(guī)行為。請注意，大量報告內(nèi)容或帳戶不會導致自動刪除或我們的安全團隊刪除的可能性更大。

　　正如我們在透明報告中所詳述的，這項技術(shù)最初是在由于COVID-19大流行而需要額外安全支持的地方推出的。從那以后，我們發(fā)現(xiàn)自動刪除的假陽性率是5%，對視頻刪除提出上訴的請求一直保持一致。我們希望隨著時間的推移繼續(xù)提高我們的準確性

　　幫助人們了解我們的

　　我們已經(jīng)改進了通知人們違反社區(qū)準則的方式，以提高政策的可視性，減少重復違反行為。新系統(tǒng)統(tǒng)計用戶累積的違規(guī)行為，并基于違規(guī)的嚴重性和頻率。從收件箱的帳戶更新部分開始，用戶將收到違規(guī)后果的通知。在那里，他們還可以看到自己累積的違規(guī)記錄。

　　更頻繁的違規(guī)行為將在我們的應用程序的不同部分產(chǎn)生更多的懲罰和通知。

　　其工作原理如下：

　　第一次違規(guī)

　　在應用程序中發(fā)送警告，除非違反的是零容忍策略，這將導致自動禁止。

　　第一次違規(guī)后

　　根據(jù)違規(guī)行為和以前違規(guī)行為的嚴重程度，暫停帳戶上傳視頻、評論或編輯其個人資料的功能24或48小時。

　　或者，將帳戶限制為72小時或最多一周只能查看體驗，這意味著該帳戶不能發(fā)布或參與內(nèi)容。

　　或者，在多次違規(guī)之后，如果用戶的帳戶即將被禁止，用戶將收到通知。如果該行為持續(xù)存在，則該帳戶將被永久刪除。

 　　我們的零容忍政策，如張貼兒童性虐待材料，自動導致帳戶的刪除。我們還可以阻止一個設備，以幫助防止未來的帳戶被創(chuàng)建。

　　盡管我們努力保持一致性，但無論是技術(shù)還是人類都不會100%正確地做出適度決策，這就是為什么創(chuàng)作者可以繼續(xù)在我們的應用程序中直接呼吁刪除他們的內(nèi)容或帳戶是很重要的。如果他們的內(nèi)容或帳戶已被錯誤地刪除，它將被恢復，罰款將被刪除，它不會影響帳戶的前進。累積的違規(guī)行為將隨著時間的推移從個人記錄中消失。

　　我們利用美國內(nèi)容咨詢委員會（US Content Advisory Council）的投入開發(fā)了這些系統(tǒng)，在過去幾周在美國和加拿大進行的測試中，超過60%因違反我們的指導方針而收到第一次警告的人沒有第二次違反。我們的政策越透明、越容易獲得，違反政策的人就越少，在TikTok上創(chuàng)造和娛樂的人就越多。

　　人們花費大量的時間和精力為TikTok創(chuàng)建內(nèi)容，而我們的內(nèi)容調(diào)節(jié)系統(tǒng)的準確性和一致性對我們來說至關(guān)重要。我們希望從我們的社區(qū)中了解他們的經(jīng)驗，以便在我們努力為我們的全球社區(qū)保持平臺的安全性和包容性的同時，我們能夠繼續(xù)做出改進。