微軟公布負責任AI指導準則，將限制部分臉部識別能力

微軟昨（21）日更新負責任AI的指導準則，將在本月起開始限制AI臉部識別的部分能力。

隨著AI能力越來越強，侵犯隱私及對黑人或少數(shù)群體辨別度較低的問題，促使科技業(yè)及學界推動負責任AI（Responsible AI）的準則，像是微軟2019年公布的6項AI開發(fā)及應用準則，包括公平、可靠性、隱私及安全性、包容性、透明性及權責等。微軟更新版準則則依據(jù)新的研究結果再加以改良。

圖片來源／微軟

新版負責任AI包含三點。首先是語音轉錄（speech-to-text）技術對少數(shù)群體的識別錯誤率偏高，一項2020年3月研究，特別是黑人及非裔人士的語音聽寫錯誤率為白人的近2倍。微軟表示，對此將再擴大訓練樣本的多樣性，以提升其技術識別性能。

第二項則是AI聲音模擬及臉部識別服務。微軟Azure AI的自訂神經(jīng)網(wǎng)絡語音（Custom Neural Voice）服務可運用AI技術模擬出和原人物幾乎一模一樣的聲音，雖然娛樂性高，但也可能被用作Deepfake視頻，欺騙觀者。同樣的問題也發(fā)生在AI臉部識別應用。應對新準則，微軟將為這項服務加入多層管控框架，限制可以使用的客戶、明確定義可接受的使用場景，并且清楚告知聽者。在臉部識別服務下，微軟將限定可用的客戶，以及限縮到預先定義的使用場景，也將加入技術控制以避免濫用。

第三項則是限制Azure Face臉部識別服務的能力。依循新準則，微軟將拿掉這項服務推論情緒狀態(tài)，以及識別性別、年齡、微笑、臉部毛發(fā)、頭發(fā)及化妝的能力。以情緒狀態(tài)為例，科學家對情緒的判定尚未有共識，無法跨各種場景、地區(qū)或人口屬性適用，草率適用將帶來刻板印象、歧視或拒絕服務。

為了避免臉部識別AI技術的差錯，微軟的Face API將不再提供一般用途系統(tǒng)對接，讓這些客戶用來掃描人們臉部，根據(jù)臉部表情或動作推論出情緒。微軟說明，從6月21日起，這項功能已經(jīng)不再提供給新客戶。

既有客戶則只能用到2023年6月30日，之后也將關閉。但是一些針對身障人士的受控識別應用場景，微軟說會持續(xù)支持。另外，微軟也承諾將對用來推論人們情緒的所有AI系統(tǒng)謹慎分析，包括使用臉部分析或其他AI科技的系統(tǒng)。