微軟公布負責任AI指導準則,將限制部分臉部識別能力

來源:十輪網(wǎng)
作者:十輪網(wǎng)
時間:2022-06-24
1649
微軟昨(21)日更新負責任AI的指導準則,將在本月起開始限制AI臉部識別的部分能力。

0622-microsoft-facial_recognition-960.jpg

微軟昨(21)日更新負責任AI的指導準則,將在本月起開始限制AI臉部識別的部分能力。

隨著AI能力越來越強,侵犯隱私及對黑人或少數(shù)群體辨別度較低的問題,促使科技業(yè)及學界推動負責任AI(Responsible AI)的準則,像是微軟2019年公布的6項AI開發(fā)及應用準則,包括公平、可靠性、隱私及安全性、包容性、透明性及權(quán)責等。微軟更新版準則則依據(jù)新的研究結(jié)果再加以改良。

3-2-1a.jpg

圖片來源/微軟

新版負責任AI包含三點。首先是語音轉(zhuǎn)錄(speech-to-text)技術(shù)對少數(shù)群體的識別錯誤率偏高,一項2020年3月研究,特別是黑人及非裔人士的語音聽寫錯誤率為白人的近2倍。微軟表示,對此將再擴大訓練樣本的多樣性,以提升其技術(shù)識別性能。

第二項則是AI聲音模擬及臉部識別服務。微軟Azure AI的自訂神經(jīng)網(wǎng)絡語音(Custom Neural Voice)服務可運用AI技術(shù)模擬出和原人物幾乎一模一樣的聲音,雖然娛樂性高,但也可能被用作Deepfake視頻,欺騙觀者。同樣的問題也發(fā)生在AI臉部識別應用。應對新準則,微軟將為這項服務加入多層管控框架,限制可以使用的客戶、明確定義可接受的使用場景,并且清楚告知聽者。在臉部識別服務下,微軟將限定可用的客戶,以及限縮到預先定義的使用場景,也將加入技術(shù)控制以避免濫用。

第三項則是限制Azure Face臉部識別服務的能力。依循新準則,微軟將拿掉這項服務推論情緒狀態(tài),以及識別性別、年齡、微笑、臉部毛發(fā)、頭發(fā)及化妝的能力。以情緒狀態(tài)為例,科學家對情緒的判定尚未有共識,無法跨各種場景、地區(qū)或人口屬性適用,草率適用將帶來刻板印象、歧視或拒絕服務。

為了避免臉部識別AI技術(shù)的差錯,微軟的Face API將不再提供一般用途系統(tǒng)對接,讓這些客戶用來掃描人們臉部,根據(jù)臉部表情或動作推論出情緒。微軟說明,從6月21日起,這項功能已經(jīng)不再提供給新客戶。

既有客戶則只能用到2023年6月30日,之后也將關(guān)閉。但是一些針對身障人士的受控識別應用場景,微軟說會持續(xù)支持。另外,微軟也承諾將對用來推論人們情緒的所有AI系統(tǒng)謹慎分析,包括使用臉部分析或其他AI科技的系統(tǒng)。

2022-06-23_115700.jpg

原文鏈接:點擊前往 >
版權(quán)說明:本文內(nèi)容來自于十輪網(wǎng),本站不擁有所有權(quán),不承擔相關(guān)法律責任。文章內(nèi)容系作者個人觀點,不代表快出海對觀點贊同或支持。如有侵權(quán),請聯(lián)系管理員(zzx@kchuhai.com)刪除!
掃碼關(guān)注
獲取更多出海資訊的相關(guān)信息
個人VIP
小程序
快出海小程序
公眾號
快出海公眾號
商務合作
商務合作
投稿采訪
投稿采訪
出海管家
出海管家