facebook公民敦促?gòu)?qiáng)制性算法偏差檢測(cè)

當(dāng)談到Facebook在民權(quán)問(wèn)題上的進(jìn)展時(shí)，一項(xiàng)獨(dú)立評(píng)論發(fā)現(xiàn)，該公司為檢測(cè)算法偏見而做出的努力非常危險(xiǎn)，使用戶容易受到操縱。

根據(jù)今天早些時(shí)候發(fā)布的審計(jì)報(bào)告，F(xiàn)acebook發(fā)現(xiàn)算法偏差的努力主要仍在只有少數(shù)團(tuán)隊(duì)進(jìn)行的試點(diǎn)項(xiàng)目中。該報(bào)告的作者，民權(quán)律師勞拉·墨菲(Laura Murphy)和梅根·卡塞斯(Megan Cacace)指出，該公司越來(lái)越依賴人工智能來(lái)完成諸如預(yù)測(cè)用戶可能點(diǎn)擊哪些廣告并清除有害內(nèi)容等任務(wù)。

報(bào)告稱，但是這些工具，以及Facebook在AI團(tuán)隊(duì)多元化等領(lǐng)域所做的其他嘗試性努力，都必須走得更遠(yuǎn)，更快。盡管該小組在為期兩年的審查中對(duì)Facebook進(jìn)行了獨(dú)特的觀察，但任何采用AI的公司都將很好地研究算法偏差問(wèn)題。

報(bào)告稱：“Facebook已有責(zé)任確保對(duì)數(shù)十億人產(chǎn)生重要影響的算法和機(jī)器學(xué)習(xí)模型不會(huì)產(chǎn)生不公平或不利的后果。”“審計(jì)師認(rèn)為，F(xiàn)acebook需要更加迫切地解決這些問(wèn)題?！?/span>

該報(bào)告發(fā)布之際，F(xiàn)acebook面臨歷史性的廣告抵制?！巴Ｖ钩鸷逓闋I(yíng)利”活動(dòng)得到396個(gè)廣告商的支持，他們停止了在平臺(tái)上的支出，要求Facebook采取更大膽的步驟來(lái)反對(duì)種族主義，厭女癥和虛假信息。

本周早些時(shí)候，F(xiàn)acebook首席執(zhí)行官馬克·扎克伯格(Mark Zuckerberg)會(huì)見了民權(quán)組織，但堅(jiān)稱他的公司不會(huì)回應(yīng)財(cái)務(wù)壓力，令與會(huì)者感到失望。

首席運(yùn)營(yíng)官謝麗爾·桑德伯格(Sheryl Sandberg)在博客中稱自己是“第一家接受此類審核的社交媒體公司”，以此來(lái)得分。她還對(duì)兩年前完成報(bào)告的時(shí)間點(diǎn)了點(diǎn)頭。她的文章“在爭(zhēng)取民權(quán)方面取得進(jìn)步，但還有很長(zhǎng)的路要走”，強(qiáng)調(diào)了Facebook的觀點(diǎn)，即它正在與好戰(zhàn)斗爭(zhēng)。

桑德伯格寫道：“沒(méi)有針對(duì)這些問(wèn)題的快速解決方案，也不應(yīng)該有。”“這次審核是對(duì)我們?nèi)绾卧诠镜母鱾€(gè)層面上加強(qiáng)和促進(jìn)民權(quán)的深入分析，但這只是旅程的開始，而不是終點(diǎn)。越來(lái)越清楚的是，我們還有很長(zhǎng)的路要走。盡管我們的缺點(diǎn)很難被專家揭露，但這無(wú)疑對(duì)我們公司來(lái)說(shuō)是一個(gè)非常重要的過(guò)程。我們將敦促行業(yè)內(nèi)及其他行業(yè)的公司也這樣做。”

盡管注意到了Facebook的許多內(nèi)部努力，但作者們并沒(méi)有那么高興。

作者寫道：“經(jīng)過(guò)多年的接觸，民權(quán)界的許多人感到沮喪，沮喪和憤怒，他們懇求公司在促進(jìn)平等和反對(duì)歧視的同時(shí)做更多的事情，同時(shí)還維護(hù)言論自由，”作者寫道。

該報(bào)告剖析了Facebook在公民權(quán)利問(wèn)責(zé)制，選舉，普查，內(nèi)容審核，多樣性和廣告方面的工作。但是，它也特別關(guān)注算法偏差問(wèn)題。

報(bào)告稱：“人工智能通常被認(rèn)為是客觀，科學(xué)和準(zhǔn)確的，但在許多情況下卻并非如此?！薄八惴ㄊ怯刹豢杀苊獾鼐哂衅姾图僭O(shè)的人們創(chuàng)建的，這些偏見可以通過(guò)決定哪些數(shù)據(jù)很重要或算法的結(jié)構(gòu)，以及通過(guò)信任反映過(guò)去實(shí)踐，現(xiàn)有或歷史不平等，假設(shè)的數(shù)據(jù)而注入算法中。或刻板印象。算法還會(huì)驅(qū)使并加劇不必要的不利差距……隨著算法在我們社會(huì)中越來(lái)越普遍，確保算法的公正性，公正性和非歧視性，并且不僅僅是放大先前存在的刻板印象或差距，變得越來(lái)越重要?！?/span>

作者強(qiáng)調(diào)了由“倫理學(xué)家，社會(huì)和政治科學(xué)家，政策專家，AI研究人員和工程師組成的團(tuán)隊(duì)領(lǐng)導(dǎo)的Facebook負(fù)責(zé)任AI(RAI)努力，他們致力于了解與在Facebook產(chǎn)品中部署AI相關(guān)的公平性和包容性問(wèn)題?！?/span>

RAI工作的一部分涉及開發(fā)可在公司范圍內(nèi)使用的工具和資源，以確保AI公平。迄今為止，該組織已開發(fā)出“在Facebook上實(shí)現(xiàn)公平和融入AI的四管齊下的方法”。

創(chuàng)建準(zhǔn)則和工具以限制意外偏見。

制定公平的咨詢程序。

參與有關(guān)AI偏見的外部討論。

使AI團(tuán)隊(duì)多樣化。

作為第一個(gè)支柱的一部分，F(xiàn)acebook創(chuàng)建了“公平流”工具來(lái)通過(guò)檢測(cè)基礎(chǔ)數(shù)據(jù)的意外問(wèn)題并發(fā)現(xiàn)有缺陷的預(yù)測(cè)來(lái)評(píng)估算法。但是“公平流”仍處于試驗(yàn)階段，具有訪問(wèn)權(quán)限的團(tuán)隊(duì)純粹是自愿使用它的。去年下半年，F(xiàn)acebook還啟動(dòng)了公平咨詢?cè)圏c(diǎn)項(xiàng)目，以使發(fā)現(xiàn)產(chǎn)品偏差問(wèn)題的團(tuán)隊(duì)能夠在內(nèi)部與具有更多專業(yè)知識(shí)的團(tuán)隊(duì)聯(lián)系，以提供反饋和建議。在作者敬重這些步驟的同時(shí)，他們還敦促Facebook在整個(gè)公司范圍內(nèi)擴(kuò)展此類程序，并強(qiáng)制使用它們。

報(bào)告說(shuō)：“審核員堅(jiān)信，旨在促進(jìn)發(fā)現(xiàn)問(wèn)題并幫助解決公平問(wèn)題的流程和指導(dǎo)必須是強(qiáng)制性的(而非自愿的)，并且是整個(gè)公司范圍內(nèi)的?！薄耙簿褪钦f(shuō)，應(yīng)該要求所有團(tuán)隊(duì)構(gòu)建模型都遵循全面的最佳實(shí)踐指導(dǎo)，并且應(yīng)該定期測(cè)試現(xiàn)有算法和機(jī)器學(xué)習(xí)模型。這既包括構(gòu)建模型的指導(dǎo)，也包括測(cè)試模型的系統(tǒng)?！?/span>

該公司還成立了AI工作組，負(fù)責(zé)領(lǐng)導(dǎo)改善員工多樣性的計(jì)劃。Facebook現(xiàn)在正在佐治亞理工學(xué)院資助一項(xiàng)深度學(xué)習(xí)課程，以增加代表性不足的求職者的渠道。它還正在與其他幾所大學(xué)進(jìn)行討論，以擴(kuò)展該計(jì)劃。并利用非營(yíng)利組織，研究和倡導(dǎo)團(tuán)體擴(kuò)大其招聘人數(shù)。

但再次，審查發(fā)現(xiàn)這些舉措的范圍太有限，并呼吁擴(kuò)大招聘力度，并在整個(gè)公司范圍內(nèi)加強(qiáng)培訓(xùn)和教育。

報(bào)告稱：“盡管審計(jì)師認(rèn)為，有一個(gè)專門致力于AI公平和偏見問(wèn)題的團(tuán)隊(duì)對(duì)Facebook很重要，但確保公平和不歧視也應(yīng)成為所有團(tuán)隊(duì)的責(zé)任，”報(bào)告說(shuō)?！盀榇?，審計(jì)師建議，對(duì)于所有在Facebook上構(gòu)建算法和機(jī)器學(xué)習(xí)模型的團(tuán)隊(duì)以及Facebook初始入職流程的一部分，都必須對(duì)培訓(xùn)進(jìn)行側(cè)重于理解和緩解AI偏見和歧視來(lái)源的培訓(xùn)。”