DünyaManşet

Twitter fotoğraf algoritması da ırkçı çıktı

Twitter‘ın fotoğraf algoritmasının bazen beyaz yüzleri siyahlara tercih ettiği ortaya çıktı. Algoritmanın bu seçiminin kullanıcılar tarafından ifşa edilmesinin ardından, firma konunun araştırıldığını açıkladı.

Kullanıcılar, bir paylaşımda iki fotoğraf olduğunda, Twitter’ın cep telefonu uygulamalarında, sıklıkla beyaz yüzün gösterildiğini fark etti.

BBC Türkçe‘nin aktardığına göre, Twitter, algoritmanın geliştirilmesi aşamasında ırk ve cinsiyet taraflılığı testleri yapıldığını belirtti. Ancak şirket “Daha çok analiz yapılması gerektiği de net” dedi.

A tweet from @TwitterComms reads: We tested for bias before shipping the model & didn't find evidence of racial or gender bias in our testing. But it's clear that we've got more analysis to do. We'll continue to share what we learn, what actions we take, & will open source it so others can review and replicate.

‘Siyah kafa’ geri plan olarak algılandı

Madland bu konu hakkında Twitter’da paylaşım yapınca, mobil uygulamadaki ön izlemede, siyah arkadaşının değil, kendi resminin gösterildiğini farketti. Madland, resimlerin sıralamasını değiştirse de durum aynıydı.

Madland’in keşfi sonrası, diğer kullanıcılar da denemelerde bulunduğu ve şunlar benzer sonuçlar ortaya çıktı: 

Twitter’ın Baş Tasarım Yetkilisi, Dantley Davis, ten rengiyle kontrastı nedeniyle, Madland’in sakalını ve gözlüğünü çıkartmanın sorunu giderdiğini söyledi. .

Tweet from @Dantley reads: I know you think it's fun to dunk on me, but I'm as irritated about this as everyone else. However, I'm in a position to fix it and I will.

 

Asyalıları da tanımıyor

Geçen yıl ABD hükümetinin yaptığı bir araştırmada, yüz tanıma algoritmalarının, siyah ve Asyalıların yüzlerini tanımada, beyazlara kıyasla çok daha başarısız olduğu sonucuna varılmıştı.

Birleşik Krallık‘daki polis memurları da algoritmaların önyargıları “büyüttüğünü” söylemiş ve teknolojinin kullanımı için net bir talimatname hazırlanmasını istemişlerdi. Son olarak da geçtiğimiz aylarda, IBM benzer kaygılarla, yüz tanıma yazılımı üretmeyeceğini açıklamıştı.

Kategori: Dünya