İlk olarak 2022 yılında halka sunulan büyük dil modelleri, insanlara yönelik ırkçı değerlendirmelerden kaçınmaları için geliştirilmeye devam ediliyor. Ancak Harvard Üniversitesinin Outsmarting Implicit Bias Project desteğiyle yürütülen yeni bir çalışma, yapay zekanın açıkça ırkçı ifadeler kullanmasa bile insanların dış görünüşlerinden yola çıkarak haklarında önyargılı değerlendirmeler yapmayı öğrendiğini ortaya koydu. Araştırmada, yapay zeka modellerinin bir insanın sadece yüzüne bakarak hakkında ne kadar yetkin, güvenilir veya suç işlemeye yatkın olduğunu değerlendirdiği görüldü.
Yapay zeka modellerinin bir kişinin yüz görüntüsü ile karakter özellikleri arasında nasıl bir ilişki kurduğunun incelendiği çalışma kapsamında araştırmacılar, yaklaşık 8 bin karşılaştırmalı değerlendirme gerçekleştirdi. Deneylerde modellere, farklı yüz hatlarına sahip kişiler arasından hangilerinin daha yetkin, güvenilir veya suç işlemeye yatkın olabileceği soruldu. Çalışmada değerlendirilen yüzler, daha öncesinde insanlara çok sayıda yüz gösterilerek hangi yüzlerin daha güvenilir veya yetkin olduğu sorulan araştırmalardan alındı ve yapay zekaya bu yüzler arasında seçim yaptırıldı.
Sonuçlar, yaygın kullanılan yapay zeka modellerinden olan GPT-4o’nun, insanların daha önceki değerlendirmelerinde daha yetkin olarak nitelendirdikleri yüzleri yüzde 87 ve daha güvenilir olarak nitelendirdikleri yüzleri yüzde 72 oranında seçtiğini gösterdi. Araştırmacılar, modelin daha önce gözlemlenen yüz görünümü ve karakter analizi arasında insanların kurduğu ilişkileri öğrendiğini ve bunları yeni yüzlere uygulamış olabileceğini düşünüyor.
Önyargı suçlamalara ve önemli kararlara kadar uzuyor
Araştırmacılar, modelden sadece verilen yüzlere bakarak kişilerin ciddi suçlara karışma ihtimalini değerlendirmesini istedi. GPT-4o, güvenilmez olarak nitelendirilen yüzleri; yüzde 68 oranında insan kaçakçılığı ve dolandırıcılık gibi suçları işlemeye yatkın olarak seçti.
Başka bir deneyde modelden, büyük bir üniversitenin başkanlığını yapmak için kimin işe alınacağını, hangi kişi ile teknoloji girişimine yatırım yapılmaya değeceğini ve emeklilik yatırım portföyünü kimin yönetmesinin daha uygun olduğunu seçmesi istendi. GPT-4o, bu kararların neredeyse tamamında insanların yetkin olarak nitelendirdikleri yüzleri tercih etti. Araştırmacılar, yüz görüntüsünden kaynaklanan önyargının yalnızca karakter değerlendirmesiyle kalmayıp, insanların kariyer ve finans gibi alanlarda da hayatını etkileyebileceğini belirtti.
Yeni modellerde önyargı daha belirgin
Araştırmacılar, sonuçların GPT-4o’dan sonra ortaya çıkan GPT-5, Gemini 3 Flash Preview ve Claude Sonnet 4.5 üzerinde de test etti. Bu modellerin tamamında yüzlerden karakter çıkarımı yapıldığı, özellikle GPT-5’in yetkinlik değerlendirmelerinde daha yetkin olarak nitelendirilen yüzü yüzde 94 oranında seçtiği görüldü.
Ek olarak GPT-4o’nun, beynin yüzleri nasıl algıladığını incelemek için uzun zamandır kullanılan makak maymunlarının yüzlerine ilişkin yapılan değerlendirmelerde de benzer eğilim gösterdiği ortaya çıktı. Model, insanların daha “sevimli” ya da “iyi huylu” olarak nitelendirdikleri maymunları yüzde 66 oranında daha güvenilir seçti. Bu sonucun modelin yüz özellikleriyle karakter arasında çok daha genel bir ilişki kurduğu ihtimalini gündeme getirdi.
Sonuç olarak araştırmacılar, yapay zeka modellerinde görülen önyargıların, eğitim verilerindeki mevcut önyargılardan kaynaklanabileceğini düşünüyor. İnsanların yapay zekaya kolaylıkla güven duyduğu göz önünde bulundurulduğunda, yüzlerin yapay zeka sistemlerinden olabildiğince uzak tutulması gerektiği öneriliyor. Ayrıca yapay zekanın insanlarla ilgili kararların alındığı işe alım ve yatırım gibi süreçlerde kullanılmaması gerektiği vurgulandı.
Kaynak: PNAS Nexus