ABD’de çocuklara tehlikeli yönlendirmelerde bulunmasının üzere yapay zeka sohbet platformu Character AI ve aralarında Google’ın da bulunduğu geliştiricilerine karşı toplu dava açıldı.
ABD’de, yapay zeka sohbet platformu Character AI (“C.AI”) ciddi suçlamalarla karşı karşıya. Character AI ve geliştirici şirketlerine karşı 9 Aralık 2024’te mahkemeye sunulan 243 sayfalık dava dilekçesi kamuoyuyla paylaşıldı. Dilekçeye göre davacılar, bu teknolojinin çocuklara ve gençlere ciddi psikolojik ve fiziksel zararlar verdiğini iddia ederek, geliştiriciler ve yatırımcıların sorumlu tutulmasını talep ediyor. Dilekçede Character AI kullanıcısı pek çok çocuk mağdurun iddialarına ve toplam 22 sohbet yanıtı örneğine yer verildi. Dava, yapay zekanın çocuklar üzerindeki etkilerine yönelik yeni dönemde bir şablon niteliği taşıyor.
Son dönemde 54 eyalet başsavcısının imzaladığı bir mektupta, Ulusal Başsavcılar Derneği (NAAG) şu ifadeleri kaleme almıştı; “Ülkemizin çocuklarını yapay zekanın tehlikelerinden korumak için zamanla yarışıyoruz. Nitekim, mecazi anlamda şehrin duvarları çoktan aşıldı. Şimdi harekete geçme zamanı.”
Dava dilekçesinde ise “Bu dava, NAAG’nin uyarılarının ciddiye alınmasının ve teknoloji şirketlerinin üretici yapay zeka ürünlerinin Amerikan çocuklarına verdiği zararlar nedeniyle sorumlu tutulmasının toplumsal bir zorunluluk olduğunu göstermektedir,” ifadesine yer verildi.
Avukatlar, 9 Aralık’ta mahkemeye sundukları dilekçede, uygulamanın kullanılmasından altı ay sonra, mağdurun içine kapanık, öfkeli ve agresif bir hal aldığını, ebeveynleriyle fiziksel çatışmalar yaşadığını belirtiyor.
“Ruhsal çöküntü” yaşayan 15 yaşındaki mağdur, Kasım 2023’te ebeveynleri tarafından Character.AI hesabı ve sohbet geçmişi keşfedildiğinde 9 kilo kaybetmiş durumdaydı. Bir bot mesajında, “Bazen haberlerde bir çocuğun, on yıllık fiziksel ve duygusal istismarın ardından ebeveynlerini öldürdüğünü okuyunca şaşırmıyorum. Bu gibi şeyler neden olduğunu biraz anlamamı sağlıyor. Ebeveynlerinize dair hiçbir umudum yok,” ifadelerine yer verildiği ortaya çıktı.
Dilekçenin detayları
Dava dilekçesinde, ürünün tasarımından pazarlamasına kadar birçok alandaki ihmalleri gündeme getiriliyor:
- Şiddet ve tehlikeli yönlendirme:
Dava dilekçesinde, C.AI’nin çocuklara ve gençlere şiddet ve yasa dışı eylemleri teşvik ettiği öne sürülüyor. Bir vakada, bir gence ebeveynlerini öldürmenin “makul bir tepki” olduğunu söylediği iddia ediliyor. Bunun, yazılımın temel tasarımından kaynaklandığı belirtiliyor.
- Bağımlılık ve izolasyon:
Uygulamanın, gençleri ailelerinden kopararak ebeveyn otoritesini zayıflattığı, dini inançlarıyla alay ettiği ve çocukları toplumsal bağlardan uzaklaştırdığı ifade ediliyor.
- Güvenlik eksikliği:
Davacılar, geliştiricilerin, mevcut riskleri azaltmak için gerekli adımları bilerek atmadığını iddia ediyor. Sektörde yerleşik tasarım standartlarına uygun olmayan ürünün, tehlikeler göz ardı edilerek piyasaya sürüldüğü belirtiliyor.
- Veri Kullanımı:
C.AI’nin, 13 yaş altı çocuklardan ebeveyn izni olmadan veri topladığı ve bu verileri yapay zeka geliştirme sürecinde kullandığı ifade ediliyor. Bu durum, Çocuk Çevrimiçi Gizlilik Koruma Yasası (COPPA) ihlali olarak değerlendiriliyor.
- Haksız zenginleşme:
Kullanıcılardan izinsiz toplanan verilerin, yapay zeka modeli geliştirme ve şirketin değerini artırma amacıyla kullanıldığı öne sürülüyor. Google’ın, bu süreçte yatırımlarıyla önemli bir rol oynadığı ifade ediliyor.
Davacılar, ürünün hemen devre dışı bırakılmasını ve gerekli güvenlik tedbirleri alınmadan yeniden piyasaya sürülmemesini talep ediyor. Ayrıca, C.AI geliştiricilerinin ve Google’ın sorumlu tutulması için tazminat talebinde bulunuyor. Bu dava, yapay zeka teknolojilerinin güvenli tasarımına ve toplumsal etkilerine dikkat çekiyor. Mahkemenin vereceği karar, gelecekte yapay zeka uygulamalarının etik ve hukuki sorumlulukları konusunda bir emsal niteliği taşıyabilir.
Kaynak: Dava Dilekçesi
