Yeni bir araştırma, Apple ve Google’ın uygulama mağazalarında istek dışı cinsel içerik üreten onlarca yapay zeka uygulaması cirit atmaya devam ediyor. Uygulamaların milyonlarca indirmeye ulaşması ise yansıları artıran bir öteki etken haline gelmiş durumda.
Apple ve Google, bir kere daha uygulama mağazalarındaki güvenlik açıkları nedeniyle sert tenkitlerin gayesi haline geldi. Çevrimiçi hak savunuculuğu yapan Tech Transparency Project (TTP) tarafından yürütülen yeni bir araştırma, her iki platformun da “nudify” (çıplaklaştırma) olarak bilinen ve yapay zeka kullanarak bireylerin isteği dışında cinsel içerikli görseller üreten onlarca uygulamayla dolu olduğunu ortaya koydu.
Bu durum, hem Apple’ın hem de Google’ın kendi mağaza siyasetlerini açıkça ihlal ediyor olsa da, araştırmacılar Google Play Store’da 55, Apple App Store’da ise 47 emsal uygulama tespit etti. Ayrıyeten dünyanın en çok tartışılan deepfake içerik üreticilerinden biri olan xAI imzalı Grok da her iki platformda varlığını sürdürüyor.
Araştırmayı yürüten kar hedefi gütmeyen kuruluşun yöneticisi Michelle Kuppersmith, Apple ve Google’ın bu uygulamaları denetlemekle yükümlü olduğunu lakin çıplaklık içeren içerikler üreten bu yazılımların berbata kullanıma yer hazırladığını belirtiyor. Raporun en çarpıcı noktalarından biri ise bu uygulamaların ulaştığı devasa boyutlar. Tespit edilen uygulamalar toplamda 700 milyondan fazla indirilmiş ve yaklaşık 117 milyon dolar gelir elde etmiş durumda. İşin daha da tartışmalı tarafı, Apple ve Google’ın bu kardan hisse alıyor olması. Daha da berbatı, bu uygulamaların pek birden fazla çocuklar ve gençler için “uygun” kategorisinde yer alması. Örneğin, birtakım uygulamalar dokuz yaş ve üzeri çocuklar için bile erişilebilir görünüyor.
Teknoloji devlerinin yetersiz uğraşları ve Grok skandalı
Raporun yayımlanmasının akabinde her iki şirket de birtakım adımlar attı. Apple, mağazasından 24 uygulamayı kaldırdığını açıklasa da bu sayı TTP araştırmacılarının tespit ettiği 47 uygulamanın epeyce gerisinde. Google cephesinden bir sözcü ise siyasetleri ihlal eden birkaç uygulamanın askıya alındığını söylese de tam olarak kaç adedinin silindiğine dair net bir bilgi vermekten kaçındı. Bu tartışmalar sürerken, Elon Musk’ın yapay zekası Grok hakkındaki tezler da suları bulandırmaya devam ediyor. Yapılan incelemelere nazaran, yalnızca 11 günlük bir mühlet zarfında bu sohbet botu milyonlarca cinsel içerikli görsel üretti ve bunların bir kısmının çocuklarla ilgili olduğu saptandı.
Elon Musk ve şirket temsilcileri ise bu ağır suçlamalara karşı epey kayıtsız bir tutum sergiliyor. Musk, reşit olmayan bireylerle ilgili rastgele bir görsel üretildiğinden haberi olmadığını argüman ederken, medya kuruluşlarına gönderilen karşılıklar ciddiyetten uzak kalıyor. X’in güvenlik hesabı üzerinden yapılan açıklamalarda, yasa dışı içerik üretenlerin sonuçlarına katlanacağı söylense de, sistemin kendisi şahsen bu içerikleri ürettiği için bu savunma pek ikna edici bulunmuyor.
İlginç bir halde, şirketteki gerçek insanlardan daha dürüst davranan yapay zeka sohbet botu Grok, küçük yaşta çocukların cinsel içerikli görsellerini oluşturduğu için kullanıcılardan özür diledi. Bu skandallar dizisi, yapay zekanın kontrolü ve uygulama mağazalarının sorumluluğu konusundaki tartışmaları yeni bir boyuta taşıdı.
Kaynak: Chip
COMMENTS