微軟CEO納德拉：面部識別技術(shù)對社會危害大

BI中文站 1月18日 報道

微軟首席執(zhí)行官薩提亞-納德拉(Satya Nadella)認為，如果一些技術(shù)被濫用，那么它們就會對社會形成很大的危害，因此政府應(yīng)該對它們進行監(jiān)管。他列出的第一個例子就是面部識別技術(shù)。

周一，在該公司總部的媒體邀請會議上，他對滿屋子的記者發(fā)表了自己的看法。一名記者問他如何看待科技行業(yè)即將面臨的監(jiān)管問題。

“我們認為監(jiān)管問題將會變得越來越復(fù)雜。”他補充說。在某些情況下，微軟實際上是在呼吁政府采取新的監(jiān)管措施。

“就拿面部識別技術(shù)這個概念來說，它現(xiàn)在太可怕了。這絕對是一場徹頭徹尾的競爭。”他說，“這一切都是以競爭的名義進行的。任何贏得交易的人都能做任何事。這對我們這個行業(yè)或整個社會都不會有好的結(jié)果。更好的做法是制定一些我們大家都可以遵守的規(guī)則，這樣我們才能保護真正重要的東西。”

溫文爾雅的納德拉并沒有點名道姓地批評誰。但他發(fā)表這番言論的背景是在亞馬遜的Rekognition面部識別服務(wù)正飽受詬病。

今年5月，美國公民自由聯(lián)盟(ACLU)披露，亞馬遜向政府機構(gòu)提供了Rekognition面部識別服務(wù)，讓政府機構(gòu)來監(jiān)督公民。它還寫了一封公開信，要求該公司停止這樣做。為了證明這項技術(shù)對公民自由的危害，美國公民自由聯(lián)盟在7月份報告稱，Rekognition面部識別服務(wù)錯誤地將28名美國國會議員認定為曾被逮捕的罪犯。

去年夏季，數(shù)百名亞馬遜員工向該公司請愿，要求停止銷售Rekognition面部識別服務(wù)。就在本周，由五名亞馬遜股東組成的聯(lián)盟提交了一份決議，呼吁亞馬遜停止向政府機構(gòu)出售Rekognition。這些股東總共擁有13.2億美元的亞馬遜股票。

早在2018年7月份，在人們針對亞馬遜的批評達到頂峰時，微軟首次呼吁對面部識別技術(shù)進行監(jiān)管。

去年12月，微軟首席律師布拉德-史密斯(Brad Smith)在一篇博客文章中再次呼吁監(jiān)管面部識別技術(shù)。他指出，面部識別技術(shù)在三個方面非常危險：侵犯人們的隱私，政府以犧牲“民主自由”為代價進行大規(guī)模監(jiān)控，以及科技行業(yè)中的種族偏見帶來的風(fēng)險。

在辨別有色人種時，面部識別技術(shù)的效果非常糟糕，經(jīng)常認錯人。這種誤認可能產(chǎn)生非常嚴重的后果，特別是在執(zhí)法部門使用這項技術(shù)的時候。

有趣的是，亞馬遜不是第一家搗鼓這項技術(shù)的公司。Facebook也在這項技術(shù)上引起了爭議，比如在歐盟GDPR隱私法規(guī)生效后，該公司試圖在歐洲重新引入這項技術(shù)。

而且，早在亞馬遜成為焦點之前，微軟在面部識別技術(shù)問題上也曾遭到批評。

一年前，《紐約時報》報道了喬伊-布蘭韋尼(Joy Buolamwini)在麻省理工學(xué)院媒體實驗室所做的一項研究。她發(fā)現(xiàn)三個領(lǐng)先的人臉識別系統(tǒng)——微軟、IBM和中國的曠視科技的人臉識別系統(tǒng)——在識別非白人面孔方面表現(xiàn)得很糟糕。微軟對深色皮膚女性的錯誤率為21%(而另外兩者的錯誤率為35%)。

周一，納德拉承認，每當(dāng)該公司受到嚴肅的批評時，它都會認真對待。

事實上，史密斯在去年12月的一篇博客文章中第二次呼吁對這項技術(shù)進行監(jiān)管。就在不久之前，美國國家標(biāo)準(zhǔn)研究所(National Institute Of Standard)公布了對這項技術(shù)的持續(xù)測試結(jié)果。測試發(fā)現(xiàn)，微軟的面部識別技術(shù)的水平有了很大提高。

與此同時，提供面部識別技術(shù)的公司數(shù)量也在激增。在去年9月的最后一次測試中，美國國家標(biāo)準(zhǔn)研究所測試了來自全球39個開發(fā)機構(gòu)的面部識別算法。

（騰訊科技審校/樂學(xué)）