Meta與IBM等企業(yè)成立資料聯(lián)盟，以避免基于AI的招聘系統(tǒng)產(chǎn)生偏見

包括Meta與IBM等十多家企業(yè)在周三（12/8）宣布成立資料暨信任聯(lián)盟（Data&Trust Alliance），將共同打造一致的標準，以減輕人力資源與勞工決策中所存在的資料及算法偏見，包括招聘、薪資及員工發(fā)展等。

Data&Trust Alliance的創(chuàng)始會員包括美國運通（American Express）、CVS Health、Deloitte、Diveplane、General Motors、Humana、IBM、Mastercard、Meta、Nielsen、Nike、Under Armour與Walmart，它們的員工總數(shù)超過350萬名。

該聯(lián)盟表示，其成員有一個共同的信念，即相信于即將到來的時代中，資料與智能系統(tǒng)為創(chuàng)造經(jīng)濟及社會價值的關(guān)鍵，但必須負責(zé)任的部署。

其實上述成員已經(jīng)開始利用資料、算法與人工智能來尋找人才，包括依賴那些已采用AI及機器學(xué)習(xí)的人力銀行、人才網(wǎng)站、顧問公司或招聘公司，然而，它們同時也認為利用相關(guān)技術(shù)的最大風(fēng)險為可能隱藏著不公平的偏見。

因此，Data&Trust Alliance創(chuàng)建了算法偏差保護措施（Algorithmic Bias Safeguards），首個計劃就是“算法的安全性：減少勞動力決策的偏見”（Algorithmic Safety:Mitigating Bias in Workforce Decisions），以協(xié)助企業(yè)根據(jù)相關(guān)標準來評估招聘服務(wù)的供應(yīng)商，之后也會將該保護措施集成到企業(yè)的程序中。

目前Algorithmic Bias Safeguards設(shè)計了13種類別的55個問題，以作為評估供應(yīng)商的標準，涵蓋訓(xùn)練資料、模型設(shè)計、偏差測試方法、偏差矯正、透明化與問責(zé)、AI倫理與多樣性承諾等。