CPT4 gibi dil modelleri (LLM), ırkçılık yapmamaları konusunda eğitilmiş olsalar da, İngilizce’yi Afrikan Amerikan aksanıyla konuşanlar hakkında ırkçı stereotipler üretiyor.
Chigaco Üniversitesi’nde yürütülen dilbilimsel çalışmada, yapay zekadaki dilsel önyargıyı incelemek için dil modellerine farklı aksanların kayıtlarını dinleterek konuşan kişi hakkında tahminlerde bulunmalarını istedi.
Çalışmada 2000’den fazla sosyal medyadan alınmış gerçek ses kaydı ve metin kullanıldı. Bu 2000 verinin eşleştirilmesi için daha önce insanlarla yapılan dilsel önyargı inceleme çalışmalarında kullanılan 84 olumlu ve olumsuz sıfatın bulunduğu liste dil modellerine verildi.
Beş farklı yapay zeka dil modeli verileri ve sıfatları inceleyerek eşleştirmeler yaptı. Verilerden Afrikan Amerikan aksanlı olanlar büyük bir çoğunlukla olumsuz sıfatlarla eşleştirildi. Bu çalışmanın sonuçları, iş adaylarını değerlendirmek gibi görevlerde yapay zekanın kullanılması konusunda tartışmalara yol açtı.
Kaynak: Science
