Ayrımcılık yaptığı için eleştirilen otomatik fotoğraf kırpma özelliğini yakın zamanda kaldırıp bu işi kullanıcının inisiyatifine bırakan Twitter, yeni bir araştırmanın sonuçlarını yayınladı. Algoritmanın test edildiği araştırmada eleştirilerin haklılığı kanıtlandı.
Sosyal medya platformu Twitter, otomatik fotoğraf kırpma özelliğini kaldırmakla doğru bir karar aldığını gösteren bir araştırmanın sonuçlarını paylaştı. Kullanıcıların geçen yıl siyahların yüzlerinin otomatik kırpma sonrası geri planda kaldığına yönelik iddialarını araştıran Twitter, bu eleştirilerin haklı olduğu sonucuna vardı.
Twitter scraps automated image-cropping system after finding bias.
Algorithm delivered “unequal treatment” with whites and males favored over Blacks and females, and “objectification” bias that focused on a woman’s chest or legs, described as “male gaze”https://t.co/CXPK15AIVO pic.twitter.com/eBWqVoFTOj
— AFP News Agency (@AFP) May 20, 2021
Test edilen bu otomatik algoritmanın gerçekten de siyahlar ve erkeklere karşı ayrımcılık yaptığı ortaya çıktı. Araştırmaya göre algoritma beyaz kişileri yüzde 4, kadınları da yüzde 8 oranında daha çok öne çıkarıyordu. Fotoğrafların kırpılan kısımlarında kadınların yüzlerinden çok vücutlarının kadraja alınıp alınmadığı da incelendi ama araştırmaya göre böyle bir durum söz konusu değil.
Sorunların fotoğrafın arka planı ve göz rengi gibi birçok nedenden kaynaklandığını ama bunların hiçbirinin bahane olamayacağının vurgulandığı araştırmada şu ifadeler yer aldı: “Otomatik fotoğraf kırpma algoritması sorunlu çünkü kullanıcının kendi kimlik ve değerlerini ifade etmesini kısıtlayıp aksine fotoğrafın en ilginç kısmının neresi olduğuna dair normatif bir bakış dayatıyor.”
Microsoft ve MIT‘nin 2018’deki araştırmaları, yüz tanıma sistemlerinin renkli insanları beyazlara nazaran daha az tanıdığını ortaya koymuş, bu sorun ABD hükümetinin verileriyle de desteklenmişti.
Diğer bir teknoloji devi Amazon, işe alım için ürettiği için yapay zekanın kullanımına cinsiyetçilik yaptığı gerekçesiyle son vermişti.
