Yapay zeka araçlarının çocuklar ve gençler tarafından kullanımının yaygınlaşması, güvenlik konusundaki tartışmaları beraberinde getiriyor. Google’ın eski Güven ve Güvenlik Başkan Yardımcısı Tom Siegel, yapay zeka sektörünün sosyal medya çağındaki tehlikeleri tekrarladığını belirterek yapay zeka geliştirme çalışmalarının yavaşlatılması konusunda çağrıda bulundu. Siegel, yapay zekanın çocuklar üzerinde sosyal medyadan daha büyük zararlara yol açabileceğini belirtti.
Sosyal medya şirketleri, yapay zekanın çocuklar ve gençler üzerindeki olumsuz etkileri nedeniyle milyarlarca dolarlık davalarla karşı karşıya kalırken, dünyanın farklı ülkelerinde hükümetler de çocukların bu platformlara erişimini sınırlamaya yönelik adımlar atıyor. Buna karşılık yapay zeka alanındaki gelişmelerin hızına yönelik düzenlemelerin henüz aynı ölçüde ilerlemediği belirtildi.
Tom Siegel, “Yapay zekanın çocuklar üzerindeki etkileri açısından kötü bir durumda olduğumuzu düşünüyorum” dedi. Sektörün bu sorunları kendi başına çözeceğine inanmanın gerçekçi olmayacağını belirten Siegel, daha fazla denetime ihtiyaç olduğunu söyledi. Ayrıca yapay zeka şirketlerinin sorumlu tutulabileceği güvenlik standartlarını geliştirmeyi ve bu süreçte şirketlerle bağımsız üçüncü taraf kuruluşlarla birlikte çalışmayı planladığını ekledi.
Riskler arasında psikoz ve eleştirel düşünme kaybı bulunuyor
Siegel, büyük yapay zeka şirketlerinin çocuklara yönelik özellikleri yeterli güvenlik önlemleri oluşturulmadan kullanıma sunduğunu savundu. “Çok ciddi zarar senaryolarıyla karşı karşıya olduğumuzu düşünüyorum” diyen Siegel, çocuklar açısından yapay zekanın oluşturabileceği risklerin intihar ve psikozdan, yapay zekaya aşırı güvenmenin yol açabileceği bilişsel gerilemeye kadar uzanabileceğini belirtti. “Bilişsel dış kaynak kullanımı” olarak adlandırılan bu durum, kullanıcıların soruların yanıtlarını sürekli olarak yapay zekaya bırakması nedeniyle eleştirel düşünme becerilerinin azalması anlamına geliyor.
Siegel, yapay zeka şirketlerinin yaş doğrulama sistemlerini güçlendirerek çocukların sohbet botlarına erişmesini engelleyebileceğini önerdi. Siegel’e göre bu önlemler kısa vadede şirketlerin kullanım oranlarını veya gelirlerini etkileyebilir, ancak gerekli adımların atılmaması şirketleri daha ağır sonuçlar doğurabilecek davalar ve düzenlemelerle karşı karşıya bırakabilir.
Siegel, yapay zeka araçlarının oluşturduğu riskleri ölçebilecek güvenlik ölçütlerinin yaygınlaştırılması gerektiğini belirterek, otomobillerde güvenliği değerlendirmek için yapılan çarpışma testlerine benzer şekilde yapay zeka araçlarının da bağımsız risk değerlendirmelerinden geçmesi konusunda çağrıda bulundu.
Kaynak: Reuters