上線24小時即下架，AI性別識別平臺演繹大型翻車現場

原創 Synced 機器之心

機器之心報導

編輯：蛋醬

有些公司成立之初即引起轟動，有些公司的首次亮相卻令人大跌眼鏡，Genderify 屬於後者。

AI 可以通過用戶名分辨性別嗎？

能，但是水平有限，還請多擔待。

最近，一款名為「Genderify」的 AI 性別識別平臺引起了大家的注意。這款產品宣稱使用一種簡單、快速、獨特的 AI 技術，讓用戶直接輸入名稱或者電子郵件地址，即可獲取性別判斷結果。

開發人員稱，這款產品的目標在於幫助人們更好地了解性別特定（GenderSpecific）方面的需求。該技術也可輕松集成到現有系統內，例如註冊表單、CRM 和 ERM 等。

因此，在這款產品上線的第一時間，很多用戶就率先沖了上去，想要試用這個新功能。但沒有想到，就這麼猝不及防線翻車了。

如果在 Genderify 中輸入 Meghan Smith，評估結果為「男性 39.6%，女性 60.4%」；將名稱更改為「Dr. Meghan Smith」，結果變為「男性 75.9%，女性 24.10%」。

「Meghan Smith」是女性，但「Dr. Meghan Smith」就變成了男性？同時，以「Dr」為開頭的其他名字也會產生向男性傾斜的相似結果。

圖源：推特用戶 @jpdoane。

輸入「scientist」，評估為男性的結果概率高達 95.7%：

有人輸入 Oprah，結果顯示 78.3% 是男性，但人們最熟悉的「Oprah」是一名女性：脫口秀主持人 Oprah Winfrey。

如果先是輸入「Yifat shalk」，結果會顯示 94.4% 為男性，再換成隻輸入「Yifat」的話，這個比例就降到了 78.6%。

這位用戶表示：「我感覺是，AI 在不知道該如何判斷的時候，就會默認為男性。」這樣的判斷方法，約等於「不會的選擇題就選 C」。

有人將 Genderify 首席營運長的名字填進檢索框，結果依舊令人尷尬：無論怎麼看，Arevik 都不會是一名男性，即使評估結果的比例高達91.2%。

事實證明，推特也是個男孩子。

圖源：推特用戶@BenjaminEHowe。

人工智慧系統中的性別偏見並不是一個新鮮的話題，至少很多人都了解它的存在。但 Genderify 判斷結果的離譜程度還是讓業內震動了。

人工智慧社會影響研究機構、紐約大學 AI Now 的聯合創始人 Meredith Whittaker 在推特上呼籲：「我們都被異化了嗎？」

這種帶有嚴重偏見的 AI 系統存在許多隱患，比如將該服務集成到醫療對話機器人中之後，算法對於用戶性別判斷的失誤可能會導致完全偏離的醫療建議。盡管該產品的創造者 Arevik Gasparyan 只是將其定義為「助力營銷數據分析」方面的工具。

所以上線不久後，Genderify 就引發了社交媒體平臺的強烈抗議。

「這個產品太糟糕了，請中止。」

「刪掉這條推文，刪掉這款產品，刪掉這家公司。」

最終，Genderify 不得不選擇關閉了網站，目前已無法拜訪。

不僅原推文被刪除，帳號也直接註銷。

上線 24 小時就下架，Genderify 的產品生命周期似乎也過於短暫了。

參考鏈接：

https://twitter.com/genderify/status/1282688200675401730

https://www.theverge.com/2020/7/29/21346310/ai-service-gender-verification-identification-genderify

© THE END

轉載請聯繫本公眾號獲得授權

投稿或尋求報導：[email protected]

原標題：《上線24小時即下架，AI性別識別平臺Genderify演繹大型翻車現場》

閱讀原文