IBM、亞馬遜停用人臉識別,原因是?

尋夢新聞LINE@每日推播熱門推薦文章,趣聞不漏接❤️

加入LINE好友

IBM、亞馬遜停用人臉識別,原因是? 熱門 第1張
美國的科技公司正掀起一場對人臉識別技術的反思。

不久前,IBM的CEO阿里德·克里希納在給過會的一封信裡面說,IBM將不會繼續提供、開發、研究面部識別或者分析軟件。相比決絕的IBM,亞馬遜的態度看起來曖昧了不少,只是宣布將暫停警方使用人臉識別技術一年,也隱晦提到,“如有需要我們將隨時準備提供幫助。”

黑人喬治·弗洛伊德之死在美國扔下了一顆深水炸彈,讓全體美國人關注警察執法正當性的同時, 又引申到了警察們普遍使用的人臉識別技術上來。

其實,在人類技術發展的長河中,人臉識別幾乎是最具有爭議的一項技術。

IBM、亞馬遜停用人臉識別,原因是? 熱門 第2張

在過去的十年中,人工智能的進步讓人臉識別技術有了很大的進展,這項技術也逐漸成為美國執法部門保護公民安全的輔助工具。

不過,由於人臉識別技術需要依託大量的公民面部生物信息,技術上也主要由私營公司提供,所以幾乎很難受到法規和政府的監管。在實際運用中,人臉識別一直存在著隱私爭議,此次的弗洛伊德事件,又讓人臉識別背後所涉及的年齡、種族偏見問題浮出水面。

在倫理和民眾情緒面前,科技也得讓道。IBM並不是第一家對旗幟鮮明放棄人臉識別的科技巨頭。

早在2018年,據英國金融時報報導,微軟已經悄悄刪除掉其2016年建立起來、號稱全球最大的公開人臉識別數據庫。谷歌的高管也曾經公開表態稱,人臉識別技術存在社會風險,不會通過Google Cloud提供人臉識別API。

同年,也有學者研究首次揭示了許多商業面部識別系統存在不同程度的偏見程度,其中就包括IBM的系統。IBM雖然在此後一直在調整面部識別的偏差問題,比如通過公開數據集調整數據偏差。但這一問題一直沒有完全根治。

推動IBM做最後決定的或許是如今熊熊燃起的民族情緒。

但其實,對於IBM來說,其實放棄人臉識別並不是一個多麼艱難的決定——從商業的角度來看,人臉識別並沒有為IBM帶來多大的營收,放棄小利益把錢花在刀刃上的雲計算、又能迎合民眾訴求。

但長遠的影響可能是,IBM此次也踩到了當局痛處,IBM很大一部分的業務來自於與美國政府的合作,這一決定是否會對後續合作產生影響也還無法判定。

亞馬遜可能是少數對人臉識別態度比較模糊的科技公司。此前一次公開演講中,亞馬遜CTO Werner Vogels在回應人臉識別爭議時候提出了“技術無罪”的觀點,同時,亞馬遜同時也是少數幾個向執法部門出售面部識別軟件的主要科技公司之一。

難能可貴的是兩家公司對人臉識別倫理的表態。IBM在給國會的信中提議,AI系統的供應商和用戶都有責任保證對AI進行偏見測試,尤其是在執法中使用的時候,需要對偏見測試進行審計和報告。

此外,阿里德·克里希納還提議,需要提高警務透明度和問責制。亞馬遜方面也表態稱,主張政府制定更嚴格的法規規範人臉識別技術的道德使用。

隨著兩家科技公司旗幟鮮明的選擇,也會促進更多科技公司開始反思。毫無疑問的是,人臉識別這場圍繞商業技術和倫理的這場爭議中,倫理取得了短暫的勝利。