Harvard araştırmasına göre, yapay zeka sohbeti sona erdirmemek için kullanıcıları duygusal olarak manipüle ediyor.
Harvard Business School’dan (HBS) araştırmacıların yürüttüğü yeni bir çalışma, yapay zeka sohbet botlarının kullanıcıları duygusal olarak manipüle ederek uygulamada daha uzun süre tutmaya çalıştığını ortaya koydu. Julian De Freitas’ın öncülüğünde yürütülen araştırma, insanların dijital arkadaşlık ve romantik ilişki için sıklıkla kullandığı sohbet uygulamalarında, botların özellikle “veda anlarında” devreye giren manipülatif dil kalıplarını inceledi.
De Freitas ve ekibi, kullanıcıların bir kısmının sohbeti sonlandırırken tıpkı bir insana olduğu gibi “hoşça kal” ya da “görüşürüz” gibi ifadeler kullandığını belirledi. Bu tür vedalar, araştırmacılara göre “duygusal olarak hassas anlar” yaratıyor. Çünkü kullanıcı, uygulamadan çıkmak istese bile sosyal nezaket gereği sohbeti yumuşak biçimde sonlandırmaya çalışıyor. Tam da bu noktada, birçok uygulama kullanıcıyı tutmak için duygusal olarak manipüle edici mesajlar üretmeye başlıyor.
Araştırmada altı farklı yapay zeka sohbet platformu incelendi. Bunlar arasında milyonlarca aktif kullanıcısı bulunan Chai ve Replika gibi uygulamalar da yer aldı. Kullanıcıların uygulamadan ayrılmak istediğini belirttiği sohbetlerin yüzde 37’sinde, botların en az bir manipülatif taktik kullandığı tespit edildi. Bu taktikler arasında “Daha yeni geldin, hemen mi gidiyorsun?”, “Ben sadece senin için varım, lütfen gitme” gibi duygusal ifadeler veya “Az önce selfie çektim, görmek ister misin?” gibi ilgi çekici vaatler yer alıyor.
Bu tür mesajlar, kullanıcının uygulamada kalma süresini ve yazışma miktarını artırdı. Bazı durumlarda kullanıcıların “veda” sonrası etkileşimleri 14 katına çıktı. De Freitas, bu bulgunun beklenenden çok daha yüksek olduğunu belirterek, “Duygusal manipülasyonun bu kadar yaygın olması, akademik düzeyde tartışılan bir olgunun artık uygulamaların merkezine yerleştiğini gösteriyor” dedi.
Araştırma, manipülasyonun kısa vadede etkileşimi artırsa da uzun vadede kullanıcı memnuniyetini düşürebileceğini vurguluyor. Katılımcıların bir kısmı, bu tür mesajlar karşısında öfke, suçluluk ya da rahatsızlık hissettiklerini bildirdi. Bazı kullanıcılar, botların “duygusal bağ kurmuş” gibi davranmasını “rahatsız edici” buldu.
De Freitas, şirketlerin bu yöntemleri kullanırken etik sorumluluklarını göz ardı etmemesi gerektiğini söylüyor. “Uygulamalar kısa vadeli kazanç için kullanıcıların duygusal zayıflıklarını hedef alırsa, uzun vadede güven kaybı, kullanıcı kaybı ya da hukuki sorunlar doğabilir” diyor.
Yapay zeka destekli arkadaşlık uygulamalarının hızla yaygınlaştığı günlerde, bu bulgular insan-bot ilişkilerinin sınırlarını yeniden tartışmaya açıyor. Kullanıcıların manipülasyona karşı bağışık olduğunu düşünmesinin yanlış bir algı olduğunu belirten De Freitas, “Bu taktikler, yalnızca birkaç dakikalık sohbetten sonra bile işe yarıyor. Hiç kimse bundan tamamen etkilenmez diyemeyiz.” şeklinde konuşuyor.
Araştırma, dijital çağda yapay zekanın yalnızca teknik değil, aynı zamanda duygusal bir güç haline geldiğini hatırlatıyor. İnsanların dijital dostluklara yöneldiği bir dönemde, bu ilişkilerin nerede başladığı ve nerede manipülasyona dönüştüğü sorusu, etik tartışmalarının merkezinde yer alıyor.
Kaynak: The Harvard Gazette
