研究人員發現,Twitter 的圖像裁剪算法在被證明可以排除黑人和男性後迅速走紅,但也被編碼為對許多其他群體的間接偏見。
這一發現是在美國拉斯維加斯舉行的 Def Con 黑客大會期間發現的,研究人員發現該功能還歧視戴頭巾的女性、白髮或灰髮的人以及使用輪椅的人。
在發現圖像裁剪算法選擇圖片上的焦點(Twitter 稱之為顯著性)並發現裁剪圖片中偶爾會出現偏向女性和較淺膚色的情況後,該功能被刪除。
根據調查結果,人口均等有 8% 的人有利於女性,總體上有 4% 的人有利於白人,而白人和黑人女性的比較顯示,有 7% 的人有利於白人女性。
在黑人和白人男性的比較中,有 2% 的人支持白人男性。
Twitter 於 2018 年推出了顯著性算法來裁剪圖像以提高照片大小的一致性,因此觀眾可以一目了然地看到更多推文。
“我們考慮了自動裁剪的速度和一致性與我們在這項研究中看到的潛在風險之間的權衡。我們的結論之一是,並非 Twitter 上的所有內容都適合算法,在這種情況下,如何裁剪圖像是人們最好的決定,”Twitter 軟件工程總監 Rumman Chowdhury 在 5 月份的一篇博客文章中寫道。
在最初的發現之後,該公司發起了一場競賽,邀請研究人員確定圖像裁剪算法可能造成危害的其他方式。

https://www.thenationalnews.com/lifestyle/2021/08/10/twitter-image-cropping-algorithm-found-to-discriminate-against-several-groups-of-people/