人臉辨識系統隱含高偏見！美研究：有色人種誤判率多出100倍

人臉辨識系統被用於手機解鎖、執法單位、機場及銀行等機構，應用愈趨廣泛。但近期美國政府研究指出，人臉辨識系統針對｢非白人面孔｣的誤判相當高，引發技術疑慮。

美國國家標準技術研究所（NIST）針對數十種臉部辨識演算法的研究報告顯示，在「一對一」辨識技術中，非裔美國人及亞裔的臉孔被誤判成的機率，是白種人的10至100倍。另一項針對「一對多」辨識技術的測試結果則顯示，非裔女性性別較容易遭誤判。該系統通常用於犯罪辨識，這意味著，這些技術誤判可能導致無辜的民眾遭捕或入獄。

先前據科學家研究，不僅人臉辨識系統存在偏見，包括Google、亞馬遜等搜尋引擎在內，都含有大量性別偏見；華盛頓大學的研究也顯示，非裔美國人所發布的Twitter貼文中，被AI偵測為仇恨言論的數量，相較其他族裔多了1.5倍。顯然隨著人工智慧技術應用日益普及，如何解決AI訓練素材的偏見問題以及系統的精確度，也變得更加迫切。

人臉辨識系統有偏見 研究：有色人種誤判機率高

美國政府今天發布的研究指出，人臉辨識系統可能產生誤差非常大的結果，特別是非白種人臉孔。這項人工智慧技術的運用，可能引發新疑慮。

美國國家標準技術研究所（NIST）針對數十種臉部辨識演算法的研究報告顯示，辨識亞裔和非裔美國人臉孔的「偽陽性」率比白種人高100倍。美國國家標準技術研究所是政府研究機構。

美國國家標準技術研究所研究人員也發現，其中兩個演算法誤認非裔女性性別的機率將近35%。

人臉辨識系統廣泛運用在執法單位、機場、邊境管制、銀行、商家和學校，以及像是解鎖智慧型手機等個人科技。

某些倡議人士和研究人員宣稱，人臉辨識的潛在錯誤層出不窮，而這些錯誤可能導致無辜民眾入獄。另外，這項科技若被用來建立成資料庫，可能被駭或被不當使用。

首席研究員葛羅勒（Patrick Grother）說：「偽陰性可能僅會造成不便，你無法解鎖手機，但通常試了第2次就能補救。但在一對多搜尋中出現偽陽性，不正確比對結果會被列入名單中，有必要進行進一步檢視。」