AI taramalarının aynı yaşta ve aynı cinsiyetten kişilerden alındığında bile, bu görüntülerde hastanın bildirilen ırksal kimliğini şaşırtıcı bir doğrulukla tahmin edebildiği ortaya çıktı. Yazılım, bazı görüntülerde yüzde 90 oranında doğru tahminde bulundu.
Araştırmacılar, yayımladıkları makalelerinde “AI’nın bir hastanın ırksal kimliğini tıbbi görüntülerden tanıma yeteneğinin kapsamlı bir değerlendirmesini yapmayı hedefledik” diye yazdı: “Böylece standart AI derin öğrenme modellerinin, harici doğrulama koşulları altında sürdürülen çoklu görüntüleme yöntemlerinde yüksek performansla tıbbi görüntülerden yarışı tahmin etmek için eğitilebileceğini gösteriyoruz.”
Araştırma , X-ışını görüntülerinin yapay zeka taramalarının Siyahlardaki hastalık belirtilerini gözden kaçırma olasılığının daha yüksek olduğunu bulan önceki bir çalışmanın sonuçlarını yansıtıyor.
Yapay zeka, doğası gereği, verilerdeki kalıpları hızlı bir şekilde tespit etmek için insan düşüncesini taklit ediyor. Ancak bu aynı zamanda istemeden aynı türden önyargılara yenik düşebileceği anlamına da geliyor.
Bilim insanları AI sisteminin, en azından yüzeyde, bu tür bilgileri içermeyen görüntülerden ırkı tanımlamada neden bu kadar iyi olduğunu henüz çözebilmiş değiller. Örneğin kemik yoğunluğuyla ilgili ipuçlarını ortadan kaldırarak veya vücudun küçük bir bölümüne odaklanarak sınırlı bilgi sağlandığında bile, modeller dosyada bildirilen teşhisi tahmin etmede şaşırtıcı derecede iyi performans gösterdi.
Melanin olabilir mi?
Sistemin, cilde rengini veren pigment olan melanin belirtileri bulmasının olası olabileceği düşünülüyor.
Araştırmacılar, “Yapay zekanın, genellikle klinik uzmanların yapamadığı durumlarda, bozuk, kırpılmış ve gürültülü tıbbi görüntülerden bile, ırkı doğru bir şekilde tahmin edebildiğini bulmamız, tıbbi görüntülemedeki tüm model dağıtımları için çok büyük bir risk oluşturuyor” diyor .
Çalışma, yapay zeka sistemlerinin, ister ırkçılık, ister cinsiyetçilik veya başka bir şey olsun, insanların önyargılarını yansıtabileceğine dair giderek artan bir kanıt yığınına katkıda bulunuyor. Bu, hastalık tespit tekniklerinden iklim değişikliği modellerine kadar pek çok yerde, insanlardan çok daha hızlı bir şekilde çok daha fazla veri elde etmek için yapay zekanın güçlü potansiyeline karşı dengelenmesi gereken bir sorun olarak ortaya çıkıyor.
Çalışmada henüz yanıtlanmamış pek çok soru var, ancak şimdilik, yapay zeka sistemlerinde ırksal yanlılığın ortaya çıkma potansiyelinin farkında olmak önemli bulunuyor.
Massachusetts Teknoloji Enstitüsü’nden araştırmacı bilim insanı Leo Anthony Celi, Boston Globe’a “Belki bu çalışmalara biraz ara vermemiz gerekiyordur. Algoritmaları hastanelere ve kliniklere getirmekte acele edemeyiz, ta ki onların ırkçı veya cinsiyetçi kararlar almadıklarından emin olana kadar” dedi.
