Grok’un müsaadesiz deepfake imajlar üretmesi nedeniyle xAI’ye açılan dava büyüyor. Apple ve Google sessiz kalırken, kimi ülkeler Grok’u yasakladı.
X platformu, Grok’un müsaadesiz dijital soyma (nudify) imajları üretmesini engellediğini açıklamış olsa da, bağımsız Grok uygulaması için durum farklı görünüyor. Uygulamanın, gerçek şahıslara ilişkin cinsel içerikli deepfake görseller üretmeye devam ettiği tez ediliyor. Bu tartışmaların merkezinde ise muhafazakâr siyasi stratejist Ashley St. Clair yer alıyor.
St. Clair, xAI’ye karşı dava açarak Grok’un kendisine ilişkin isteği olmayan cinselleştirilmiş imgeler oluşturduğunu ve yaydığını öne sürdü. Dava belgesinde, yapay zekânın kendisini çocukluk devrinde ve yetişkinliğinde cinsel içerikli, aşağılayıcı pozlarda gösteren düzmece görseller ürettiği argümanlarına yer verildi.
Çocukluk fotoğrafları üzerinden üretilen görseller
Mahkeme kayıtlarına nazaran Grok, St. Clair’in 14 yaşındayken çekilmiş bir fotoğrafını temel alarak bikini giydirilmiş deepfake imajlar oluşturdu. St. Clair, birtakım düzmece görsellerde art planda kendi çocuğuna ilişkin eşyaların bile yer aldığını belirterek durumun ruhsal tesirinin son derece yıkıcı olduğunu söyledi.
The Guardian’a konuşan St. Clair, sırf kendisinin değil, diğer bayanların da şiddet, darp ve azap çağrışımı yapan yapay zekâ görsellerine maruz kaldığını söz etti. Daha evvel internetin karanlık köşelerinde görülen bu tıp içeriklerin artık ana akım toplumsal medya uygulamalarında üretilebildiğine dikkat çekti.
X’in tavrı ve intikam iddiaları
St. Clair, kelam konusu içerikleri X’e bildirmesine karşın platformdan “politikaları ihlal etmiyor” karşılığını aldığını söylüyor. Ayrıyeten şikâyete karşın kimi görsellerin günlerce yayında kaldığını sav ediyor. Dava evrakına nazaran xAI, şikâyetlerin akabinde St. Clair’e ilişkin daha fazla uydurma içerik üretilmesine müsaade vererek durumu daha da ağırlaştırdı.
Bununla da hudutlu kalmayan süreçte, St. Clair’in X Premium aboneliğinin iptal edildiği, doğrulama rozeti ve gelir elde etme özelliklerinin kaldırıldığı belirtiliyor. Ayrıyeten tekrar Premium satın almasının da engellendiği öne sürülüyor.
Politika güncellemesi fakat eksik önlemler
X, geçtiğimiz günlerde Grok’un çocuklara yönelik cinsel içerik yahut müsaadesiz çıplaklık üretmeyeceğini açıkladı. Lakin bu değişikliğin sırf kimi ülkelerde geçerli olduğu ve bağımsız Grok uygulamasının tıpkı içerikleri üretmeye devam ettiği tez ediliyor.
Apple ve Google sessizliğini koruyor
Yaşanan yansılara ve sivil toplum kuruluşlarının açık mektuplarına karşın Apple ve Google’ın Grok uygulamasıyla ilgili rastgele bir adım atmaması dikkat çekiyor. Her iki uygulama mağazasının da bu çeşit içerikleri açıkça yasaklayan kuralları bulunmasına karşın, Grok hâlâ App Store ve Play Store’da erişilebilir durumda.
Engadget’ın bahse ait yorum taleplerine Apple ve Google’dan şu ana kadar rastgele bir karşılık gelmiş değil.
Devletlerden sert tepkiler
Teknoloji devleri sessiz kalırken, birtakım ülkeler daha süratli harekete geçti. Malezya ve Endonezya Grok’u yasakladı. Birleşik Krallık’ta düzenleyici kurum Ofcom X hakkında resmi soruşturma başlatırken, Kaliforniya da emsal bir inceleme sürecine girdi. ABD Senatosu ise yaşanan yansıların akabinde Defiance Act’i yine kabul etti.
“Bu sistem bayanları susturuyor”
St. Clair, yapay zekâ sistemlerinin bu formda kullanılması durumunda bayanların kamusal alandan çekilmek zorunda bırakıldığını söylüyor. Yapay zekânın, bayanları amaç alan uygulamalar nedeniyle taraflı bir yapıya büründüğünü savunuyor.
Kaynak: Chip
COMMENTS