Twitter將研究其算法造成的潛在“無意傷害”

據(jù)外媒Engadget報道，Twitter宣布了一項研究其算法公平性的新計劃。作為這項被該公司稱為“負(fù)責(zé)任的機(jī)器學(xué)習(xí)計劃”的努力的一部分，來自整個公司的數(shù)據(jù)科學(xué)家和工程師將研究其算法造成的潛在“無意傷害”，并將研究結(jié)果公之于眾。

“我們正在進(jìn)行深入的分析和研究，以評估我們使用的算法是否存在潛在的危害，”該公司在宣布該倡議的一篇博客文章中寫道。

首先，該公司將研究Twitter的圖像裁剪算法，該算法一直被批評為偏向皮膚較白的人。Twitter還將研究其內(nèi)容推薦，包括“對我們的Home時間線推薦在不同種族亞群中的公平性評估”，以及“對七個國家不同政治意識形態(tài)的內(nèi)容推薦進(jìn)行分析”。

目前還不清楚這一舉措會產(chǎn)生多大的影響。Twitter指出，在某些情況下，它可能會根據(jù)其研究結(jié)果改變其平臺的各個方面，而其他研究可能只是導(dǎo)致“圍繞我們構(gòu)建和應(yīng)用ML（機(jī)器學(xué)習(xí)）的方式進(jìn)行重要討論”。但對于Twitter和其他社交媒體平臺來說，這個問題是一個及時的問題。在美國國會大廈發(fā)生暴亂后，立法者已經(jīng)向Twitter、YouTube和Facebook施壓，要求它們的算法更加透明。一些立法者已經(jīng)提出立法，要求這些公司評估其算法是否存在偏見。

Twitter首席執(zhí)行官杰克·多西（Jack Dorsey）也曾表示，他希望建立一個算法“市場”，讓用戶可以控制自己使用哪些算法。該公司在其最新的博客文章中表示，對于類似的想法，它正處于“探索的早期階段”。