■即使在選美方面，AI亦會傾向選擇白人勝出。圖為2016年環球小姐選舉。 資料圖片雖然AI已經可以在很多範疇上代替人類做決定，但一旦涉及辨別美醜這種判斷，便會發現電腦的局限性。由微軟資助研發的「Beauty.AI」系統，去年舉行全球首次由電腦擔任評判的國際選美比賽，研究員本來預期系統會根據面部對稱性、皺紋數量等客觀因素評判，結果卻令人大跌眼鏡：44名勝出者中，絕大部分是白人，只有一名黑人脫穎而出。研究員指，結果反映AI的演算法在建立期間，已經會因樣本質素和數量產生偏見，從而影響判斷力。
Beauty.AI由獲微軟資助的「深度學習」研究組織Youth Laboratories研發，系統去年收集全球100個國家共6,000名佳麗的照片，從中選出最能代表「人類美貌」的美女。參加者中白人佔多數，但也有不少有色人種參與，包括大批印度和非洲佳麗。
缺有色美女參考 產生偏見
Beauty.AI首席科學家扎沃龍科夫表示，雖然系統正式運作前，已分析大量美女的照片作為演算參考，但由於資料庫中有色人種相片不足，導致系統誤以為美女以白人為主，繼而產生「白人就是美」的偏見。
同樣問題都出現在其他AI系統中，例如用來預測未來罪犯的軟件，往往會對黑人存有偏見。哈弗福德學院電腦科學教授弗里德勒指，由於少數族裔所佔樣本不多，容易被演算法忽略，例如AI即使對佔美國人口2%的原住民有偏見，準確度仍可達98%。弗里德勒認為，研發者可藉改善輸入資料庫的數據，以及加入篩選，以確保不同種族人士可獲平等對待。 ■《衛報》