Yapay zeka işe alımda adil olabilir mi?

Araştırmalar, giderek daha fazla sayıda şirketin işe alımda yapay zeka araçlarını kullandığını ve pek çoğunun adayları elemek için sohbet botlarına güvendiğini gösteriyor. İşe alım süreçlerine yapay zekanın dahil edilmesi ve insanların yapay zeka algoritmalarına göre elenmesi senaryolarında adaletin nasıl sağlanacağı konusu tartışılıyor. Bu sistemlerin insan önyargılarını yansıttığı, hatta güçlendirebildiği ve bazı grupları diğerlerine kıyasla daha avantajlı hale getirebilmesi tartışmaların merkezini oluşturuyor.

Yapay zeka tarafından desteklenen sohbet robotları işe alımlarda otomatik sorular sorabilir, yanıtları puanlayabilir ve kimin işe alınıp alınmayacağına karar verebilir.

Rice Üniversitesinden Tianjun Sun, yapay zeka mülakat sistemlerinin nasıl çalıştığını ve nasıl daha adil hale getirilebileceğini incelemek üzere Florida Üniversitesi ile yürütülecek iki yıllık ortak bir projeye liderlik edeceği için Ulusal Bilim Vakfı’ndan (National Science Foundation) ödül aldı.

İşverenler için sohbet botu tabanlı mülakatlar tutarlılık ve verimlilik vadediyor. Ancak adaylar açısından riskler oldukça büyük. Bir erkekten, bir kadından ya da farklı kültürel geçmişe sahip birinden gelen cevabı yapay zeka farklı yorumlarsa ne olacak? Sun’un projesi bu soruları cevaplamayı amaçlıyor. 

Psikoloji Bölümünde yardımcı doçent Sun “İki aday temelde aynı cevabı verebilir. Ama algoritma onları farklı şekilde işleyebilir. Bu da adil olmayan ya da hatalı işe alım kararlarına yol açabilir” diyerek yapay zekanın oluşturacağı adaletsizliğe dikkat çekiyor.

Sun’un “Yapay Zeka Sohbet Botu Mülakatlarına Süreç Odaklı Bir Yaklaşım” başlıklı projesi, önyargıyı üç düzeyde inceleyecek: tahminleyiciler (yani yapay zekanın çıkardığı dilsel özellikler), sonuçlar (mülakat puanları ve sistemin ürettiği öneriler) ve iş arayanların algıları. İş arayanların algıları düzeyinde iş arayanlar süreci adil ve şeffaf görüp görmediklerini inceliyor.

Sun’un ekibi kısa mülakatlar yapan ve Beş Faktör Kişilik Profili (Big Five) oluşturan bir prototip sohbet botu geliştirdi. Sun aracı bu sistemlerin nasıl evrilebileceğini göstermek için kullanıyor.

Sun yaklaşımını “psikometrik yapay zeka” olarak tanımlıyor. Psikometrik yapay zeka; psikolojik ölçme ilkelerinin modern algoritmalara uygulanmasına deniyor.

Sun projenin odağını şöyle anlatıyor:

 “Bilgisayar bilimciler genellikle bir algoritmanın iyi tahmin yapıp yapmadığına odaklanır. Ama psikologlar farklı bir soru sorar: Gerçekte tahmin ettiğimizi düşündüğümüz şeyi mi tahmin ediyoruz ve süreç adil mi?” 

Başarılı olması halinde Sun’un araştırması, daha etik yapay zeka tabanlı işe alım araçları için ölçütler belirlenmesine yardımcı olacak.

Kaynak: Eurekalert