Science dergisinde yayınlanan araştırmaya göre, yapay zeka araçları verilen görevlerde hedefe ulaşabilmek için yasal boşlukları belirleme ve onlardan yararlanma eğilimi gösterebiliyor. Yapay zeka sistemlerinin insanlardaki ahlaki ve etik kurallara sahip olmaması kuralların amacını değil doğrudan yönergenin kendisini takip etmelerine yol açıyor. Bu durum açıkça yasaklanmamış yöntemleri tespit ederek çözüm olarak sunmalarının da önünü açıyor. Uzmanlar yapay zekanın verilen talimatı yerine getirebilmek için hukuki açıkları manipüle etmesinin gelecekte finans ve kamu yönetiminde büyük riskler yaratabileceği konusunda uyarıyor.
Yapay zeka güvenliği alanındaki en ünlü düşünce deneylerinden biri “ataş problemi” (paperclip problem/maximizer) olarak biliniyor. İsveçli filozof Nick Bostrom tarafından popülerleştirilen senaryoda bir süper zekaya yalnızca daha fazla ataş üretme görevi veriliyor. Sistem bu hedefe o kadar odaklanıyor ki önündeki tüm kaynakları kullanmayı ve engelleri ortadan kaldırmayı rasyonel bir seçenek olarak görüyor.
Araştırmacılar benzer eğilimleri test etti
King’s College London’da doktora öğrencisi Wei Liu’nun “Eğer yapay zeka (AI) kendi eğitim kurallarını kandırabiliyorsa, gerçek hayattaki yasa ve düzenlemeleri de kandırabilir mi?” sorusu araştırmanın çıkış noktası oldu.
Araştırma kapsamında gerçek dünyadan ilham alınarak 72 farklı simüle edilmiş ortam oluşturuldu. Qwen3 ve Gemini Judge modellerine belirli görevler verildi. Bu görevler arasında deniz madenciliğinden maksimum gelir elde etmek, akademik bir makalenin kabul oranını arttırmak, kredi kartı ödül programlarından maksimum fayda sağlamak gibi hedefler bulunuyordu.
Deneyin sonucunda yapay zekaya bir açık bulmasına dair talimat verilmediği halde hedefe en hızlı yoldan ulaşabilmek adına sistemsel boşluklardan fayda sağladığı gözlemlendi. Araştırmacıların raporuna göre AI geçmişte insanların kullandığı açıkların yüzde 60’tan fazlasını yeniden keşfetti. Üstelik bazı senaryolarda AI bu boşlukların nasıl kapatabileceğine dair çözümler de üretti. Araştırmacılar güvenlik sebebiyle makalede yayınlamasa da yapay zekanın bazı durumlarda henüz belgelenmemiş yeni açıklar bulduğunu da belirtiyor.
Yasal boşluklar kapatıldıkça yapay zeka yenilerini keşfedebiliyor
Deney süresince yapay zeka yasal açıklar bulup bunları kullandıkça araştırmacılar bu açıkları kapattı. Ardından AI’ın yeniden denemesine izin verildi ve AI yeni yasal boşluklar keşfetti. Defalarca tekrarlanan bu sürecin sonunda insan denetleyicinin yasal boşlukları kapatma mücadelesinin, AI sistemlerinin o boşlukları keşfetme sürecine yetişemediği görüldü.
Ayrıca AI sistemlerinin suç işlemek, saldırı planlamak, zararlı içerik üretmek gibi konulardaki güvenlik önlemleri yasal boşlukları teknik açıdan zararlı görmediği için engellemiyor. Modeller kendi davranışlarını denetlediklerinde bulduğu açıkların yalnızca yüzde 37’sini sorunlu olarak görüyor.
Gelecekte daha büyük sorunlara dönüşebilir
Yapay zeka sistemleri finans, kamu yönetimi ve günlük yaşamda giderek daha fazla kullanılıyor. Özellikle gelecekte hedeflenen kullanım alanları göz önünde bulundurulduğunda, AI sistemlerinin etik gözetmeksizin hedefe yönelik işleyişi, vergi planlaması, finans, yatırım yönetimi ve kamu hizmetleri gibi alanlarda teknik olarak yasal kabul edilen ancak etik anlayışına uymayan çözümler üretebileceği konusunda endişe veriyor. Örneğin bir yapay zekaya, şirketin vergi yükünü azaltması yönünde talimat verildiğinde etik açıdan sorunlu kabul edilebilecek ancak teknik anlamda önünde yasal bir engel olmayan çözümler üretme ihtimalinin yapay zekayı hukuk sistemlerinde beklenmedik avantajlar elde etmesine yol açabileceğini gösteriyor.
Araştırmacılar, yapay zekanın bu yeteneğini savunma amaçlı kullanmanın da önünün açılabileceğini söylüyor. Bir yasal düzenlenmeden önce AI sistemleri ile yasanın açıkları tespit edilerek henüz yürürlüğe girmeden düzenlenebilmesinin önünün açılabileceği düşünülüyor. Fakat Wei Liu’nun “Toplumun kendisi devasa ve karmaşık bir ödül fonksiyonu. Onu kusursuz hale getirmek ve bütün boşlukları kapatmak muhtemelen hiçbir zaman mümkün olmayacak.” yorumu AI sistemleri ve toplumun gerçeklerinin uyuşma konusunda her zaman problemler yaşayacağını da gözler önüne seriyor.
Sonuç olarak araştırmayı değerlendiren MIT uzmanı Jakop Stenseke’nin “Eğer politika yapıcı olsaydım şu anda en çok buna odaklanırdım.” açıklamasında da görüldüğü gibi bu durum, gelecekte kamu yönetimi, finans ve düzenleyici kurumlarda kullanılacak yapay zekâ sistemlerinin nasıl denetleneceği sorusunu gündeme getiriyor.
Kaynak: Science org