據(jù)微軟公司的一篇博客文章稱(chēng)，微軟公司的臉部識(shí)別工具在識(shí)別膚色較暗的人上準(zhǔn)確率更高了。對(duì)于膚色較深的男性和女性，微軟將錯(cuò)誤率降低了20倍，單就女性方面來(lái)看錯(cuò)誤率降低了9倍。

該公司表示，他們一直在訓(xùn)練數(shù)據(jù)集更為強(qiáng)大的AI工具，目前已經(jīng)取得了進(jìn)展?！叭绻覀冇糜?xùn)練的機(jī)器學(xué)習(xí)系統(tǒng)來(lái)模擬在有偏見(jiàn)的社會(huì)中做出決策，同時(shí)使用該社會(huì)所產(chǎn)生的數(shù)據(jù)，那么這些系統(tǒng)必然會(huì)重現(xiàn)它的偏見(jiàn)，”微軟高級(jí)研究員漢納瓦拉赫在博客文章中說(shuō)。

今年2月，麻省理工學(xué)院媒體實(shí)驗(yàn)室的一份報(bào)告稱(chēng)，他們測(cè)試了微軟，IBM和中國(guó)的Megvii的面部識(shí)別系統(tǒng)，發(fā)現(xiàn)多達(dá)35％的深色皮膚女性的性別不能被系統(tǒng)正確識(shí)別。

該報(bào)告證實(shí)了許多人多年來(lái)一直懷疑的情況，即面部識(shí)別系統(tǒng)可能會(huì)受到有限的數(shù)據(jù)和其他因素如種族主義的偏見(jiàn)的影響。如研究人員可能覺(jué)得女性的膚色不會(huì)那么深，同時(shí)也沒(méi)有足夠的數(shù)據(jù)讓系統(tǒng)學(xué)習(xí)，就可能導(dǎo)致深色皮膚的女性被錯(cuò)誤識(shí)別成男性。

早在2015年，谷歌就在一張照片中將一位黑人軟件工程師認(rèn)定為“大猩猩”，谷歌后來(lái)也不得不為這個(gè)錯(cuò)誤道歉。

盡管今天微軟宣布減少人臉識(shí)別系統(tǒng)中的種族偏見(jiàn)，但如果執(zhí)法部門(mén)掌握了改進(jìn)的面部識(shí)別工具，那么對(duì)于有色人種如何實(shí)施可能會(huì)引發(fā)什么問(wèn)題，以及這是否會(huì)加劇已存在問(wèn)題。

微軟今年1月公開(kāi)宣布，將與美國(guó)移民及海關(guān)執(zhí)法局(ICE)合作，幫助該部門(mén)進(jìn)行人臉以及身份識(shí)別，但這一消息一出就引起了包括微軟員工在內(nèi)的民眾們的強(qiáng)烈抗議，很多人呼吁微軟員工進(jìn)行抗議或者辭職。

微軟首席執(zhí)行官Satya Nadella上周在一份備忘錄中澄清說(shuō)，“微軟并未與美國(guó)移民及海關(guān)執(zhí)法局達(dá)成任何有關(guān)于拆散邊境家庭的合作。微軟對(duì)強(qiáng)制將兒童從邊境家庭分離的行為深感痛心，同時(shí)將極力敦促有關(guān)部門(mén)改變立場(chǎng)以及國(guó)會(huì)通過(guò)相關(guān)法規(guī)來(lái)改善現(xiàn)狀。”