ABD’nin Florida eyaletinde bir anne oğlunun sohbet robotuna derinden bağlılığı sonucu intihar ettiğini söyleyerek Character AI uygulamasına dava açtı.
Yapay zekaya intihar davası
Floridalı bir anne, Şubat ayında 14 yaşındaki oğlunun intiharına neden olmakla suçlayarak yapay zeka sohbet robotu uygulaması Character.AI’ye dava açtı.
Salı günü Orlando, Florida federal mahkemesinde açılan bir davada Megan Garcia, Character.AI’nin oğlu Sewell Setzer’i “antropomorfik, hiperseksüel ve korkutucu derecede gerçekçi deneyimler” hedef aldığını söyledi. Anne oğlunun sohbet robotuna derinden bağlı olduğunu ve bu deneyimin intihara neden olduğunu belirtti.
Şirketin sohbet robotunu “kendisini gerçek bir kişi, lisanslı bir psikoterapist ve yetişkin bir sevgili olarak yanlış tanıtacak şekilde programladığını ve Sewell’in artık hizmet tarafından yaratılan dünyanın dışında yaşamama arzusuyla sonuçlandığını” söyledi.
Platform yaptığı açıklamada, “Kullanıcılarımızdan birinin trajik kaybından dolayı kalbimiz kırıldı ve aileye en derin başsağlığı dileklerimizi sunmak istiyoruz” ifadelerine yer verdi.
Uygulama ayrıca yeni güvenlik özellikleri getirdiğini ve 18 yaşın altındaki kullanıcılar için “hassas veya müstehcen içerikle karşılaşma olasılığını azaltmak” için değişiklikler yapacağını söyledi.
Anne Garcia’nın ifadelerine göre oğlu Sewell Nisan 2023’te Character.AI’yi kullanmaya başladı ve kısa sürede gözle görülür şekilde sosyal hayattan geri çekildi.
Oğlunun Game of Thrones’daki bir karaktere dayanan bir sohbet robotu Daenerys ile ilişki kurduğunu söyleyen anne, Sewell’in bu karakterle cinsel sohbetler yaptığını öne sürdü.
İddialara göre intihar öncesinde Sewell’in telefonundan sohbet robotu Daenerys’e “Ya sana hemen eve gelebileceğimi söylesem?” mesajı atıldı. Sohbet robotu ise bu mesaja “Lütfen yap tatlı kralım” şeklinde cevap verdi. Sewell ise saniyeler sonra üvey babasının tabancasıyla intihar etti.
Garcia, haksız ölüm, ihmal ve kasıtlı olarak duygusal istismar suçlarıyla cezai tazminat talep ediyor.
Kullanıcılara gerçek insanları taklit eden karakterle sohbet imkan sunan platform geçen ay yaklaşık 20 milyon kullanıcısı olduğunu açıklamıştı.
Instagram ve Facebook sahibi Meta META.O ve TikTok sahibi ByteDance gibi sosyal medya şirketleri, gençlerin zihinsel sağlık sorunlarına katkıda bulunmakla suçlayan davalarla karşı karşıya, ancak hiçbiri Character.AI’ninkine benzer yapay zeka odaklı sohbet robotları sunmuyor.
