情境示意圖,圖片來源/微軟

微軟昨(21)日更新負責任AI的指導準則,將在本月起開始限制AI臉部辨識的部份能力。

隨著AI能力愈來愈強,侵犯隱私及對黑人或少數族群辨別度較低的問題,促使科技業及學界推動負責任AI(Responsible AI)的準則,像是微軟2019年公布的6項AI開發及應用準則,包括公平、可靠性、隱私及安全性、包容性、透明性及權責等。微軟更新版準則則依據新的研究結果再加以改良。

圖片來源/微軟

新版負責任AI包含三點。首先是語音轉錄(speech-to-text)技術對少數族群的辨識錯誤率偏高,一項2020年3月研究,特別是黑人及非裔人士的語音聽寫錯誤率為白人的近2倍。微軟表示,對此將再擴大訓練樣本的多元性,以提升其技術辨識效能。

第二項則是AI聲音模擬及臉部辨識服務。微軟Azure AI的自訂神經網路語音(Custom Neural Voice)服務可運用AI技術模擬出和原人物幾乎一模一樣的聲音,雖然娛樂性高,但也可能被用作Deepfake影片,欺騙觀者。同樣的問題也發生在AI臉部辨識應用。因應新準則,微軟將為這項服務加入多層控管框架,限制可以使用的客戶、明確定義可接受的使用情境,並且清楚告知聽者。在臉部辨識服務下,微軟將限定可用的客戶,以及限縮到預先定義的使用情境,也將加入技術控制以避免濫用。

第三項則是限制Azure Face臉部辨識服務的能力。依循新準則,微軟將拿掉這項服務推論情緒狀態,以及辨識性別、年齡、微笑、臉部毛髮、頭髮及化妝的能力。以情緒狀態為例,科學家對情緒的判定尚未有共識,無法跨各種情境、地區或人口屬性適用,草率適用將帶來刻板印象、歧視或拒絕服務。

為了避免臉部辨識AI技術的差錯,微軟的Face API將不再提供一般用途系統介接,讓這些客戶用來掃瞄人們臉部,根據臉部表情或動作推論出情緒。微軟說明,從6月21日起,這項功能已經不再提供給新客戶。

既有客戶則只能用到2023年6月30日,之後也將關閉。但是一些針對身障人士的受控辨識應用情境,微軟說會持續支援。另外,微軟也承諾將對用來推論人們情緒的所有AI系統謹慎分析,包括使用臉部分析或其他AI科技的系統。


熱門新聞

Advertisement