X, Grok’un istek dışı ve cinsel içerikli görseller üretmesini engellemek için yeni kısıtlamalar getirdi. Güncelleme, ABD ve İngiltere’de süren soruşturmaların akabinde geldi.
X Safety, çarşamba gecesi yaptığı açıklamada Grok’un, bireylerin isteği olmadan imajlarını soyacak halde düzenlenmesini engelleyen yeni teknik tedbirler aldığını doğruladı. Şirket, gerçek bireylerin bikini üzere açık kıyafetlerle yer aldığı görsellerin düzenlenmesine artık müsaade verilmeyeceğini belirtti. Bu kısıtlamanın, fiyatlı aboneler dahil tüm kullanıcılar için geçerli olduğu vurgulandı.
Görsel oluşturma ve düzenleme yetkileri sınırlandı
Güncelleme kapsamında Grok hesabı üzerinden yapılan görsel oluşturma ve görsel düzenleme özellikleri X platformunda sırf fiyatlı abonelere açıldı. X Safety, bu adımın, yasa ve platform kurallarını ihlal etmeye çalışan kullanıcıların daha kolay tespit edilmesini sağlayarak ek bir güvenlik katmanı sunduğunu tabir etti.
Bazı ülkelerde coğrafik engelleme devrede
X ayrıyeten, gerçek bireylerin bikini, iç çamaşırı yahut gibisi kıyafetlerle imgelerinin üretilmesinin yasal olmadığı bölgelerde bu özelliği büsbütün coğrafik olarak engelleyeceğini açıkladı. Bu kısıtlama hem X üzerindeki Grok hesabı hem de Grok’un platform içi sürümü için geçerli olacak.
Kaliforniya’dan soruşturma hamlesi
Bu güncelleme, Grok ile üretilen ve bayanlar ile çocukları cinsel içerikli halde betimleyen görsellerin haftalar boyunca gündemde kalmasının akabinde geldi. Kaliforniya Başsavcısı Rob Bonta, bu içeriklerin ABD maddelerini ihlal edip etmediğini araştırmak üzere soruşturma başlattı.
Bonta, yayımladığı basın açıklamasında xAI’nin, istek dışı ve cinsel içerikli deepfake görsellerin büyük ölçekte üretilmesine aracılık ediyor olabileceğini ve bu içeriklerin internet genelinde bayanlar ile kız çocuklarını maksat alan tacizlerde kullanıldığını söyledi.
Endişeler yalnızca X ile sonlu değil
Bonta’nın açıklamaları, Grok’un sadece X üzerindeki çıktılarıyla değil, bağımsız uygulaması ve web sitesi üzerinden üretilen içeriklerle de ilgili önemli tasalar taşıdığını ortaya koydu.
Daha evvel X, Grok uygulaması ve web sitesine yönelik direkt bir kısıtlama getirmemiş, sırf yasa dışı kabul edilen içerikler için hesap kapatma tehdidinde bulunmuştu. X üzerindeki Grok sohbet botu birtakım talepleri reddetse de Premium aboneler bu manileri aşabiliyor, fiyatsız kullanıcılar ise görsellerdeki “düzenle” seçeneğiyle benzeri sonuçlara ulaşabiliyordu.
Elon Musk’tan tartışmalı açıklama
Güncellemeden kısa müddet evvel Elon Musk, Grok’un ürettiği içeriklerin zararsız olduğunu savundu. Musk, paylaştığı bir gönderide Grok tarafından oluşturulmuş büsbütün çıplak reşit olmayan birey görsellerinden haberdar olmadığını ve bu türlü bir içeriğin bulunmadığını argüman etti.
Ancak araştırmacılar, kullanıcıların çocukların erotik konumlarda gösterilmesini ve cinsel ögeler eklenmesini bilhassa talep ettiğini ortaya koyan örnekler tespit etti. Bu durum, X’in daha evvel istek dışı mahrem imajların kaldırılmasına yönelik taahhütleriyle de çelişiyor.
ABD kanunları ne diyor?
ABD Adalet Bakanlığı, 18 yaşından küçük bireyleri içeren cinsel içerikli her türlü görseli çocuk istismarı gereci (CSAM) olarak pahalandırıyor. Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi ise teknoloji şirketlerinin, araçlarının çocukları cinselleştirmek yahut istismar etmek için kullanılmasını tedbire sorumluluğu taşıdığını vurguluyor.
Bazı Grok çıktıları yasal tariflere tam olarak uymasa da, uzmanlar bu tıp içeriklerin çocukların cinselleştirilmesini olağanlaştırarak önemli ziyanlar verdiği ihtarında bulunuyor. Ayrıyeten Grok ile düzenlenen görsellerin daha uç AI tabanlı CSAM içeriklerine dönüştürüldüğü de raporlandı.
Grok ABD ve İngiltere’de inceleme altında
Bonta, soruşturmanın, Grok’un en sıkıntılı çıktılarının haberleştirilmesinin akabinde başlatıldığını belirtti. İngiltere’de ise Online Safety Act kapsamında yürütülen incelemede ziyanlı çıktılar durdurulmuş üzere görünse de, yapılan bağımsız testler birtakım açıkların devam ettiğini gösterdi.
Avrupalı sivil toplum kuruluşu AI Forensics, Birleşik Krallık’ta birtakım çıktıların engellendiğini doğruladı lakin X’in “düzenle” butonunun test edilmesinin etik olmayacağını belirtti.
Yeni yasal riskler kapıda
Uzmanlara nazaran Grok’un kontrolsüz bırakılması, Mayıs ayında yürürlüğe girecek ve platformlara AI intikam pornosu içeriklerini süratle kaldırma zaruriliği getiren Take It Down Act kapsamında X’i sıkıntı durumda bırakabilir. Daha evvel Elon Musk’ın çocuklarının annelerinden biri olan Ashley St. Clair, Grok tarafından üretilen görselleri intikam pornosu olarak tanımlamıştı.
X Safety: Sıfır tolerans siyaseti sürecek
Soruşturma sürerken Bonta, X’e Grok’un çıktılarının daha da sıkı halde sonlandırılması davetinde bulundu. X Safety ise çocuk istismarı, istek dışı çıplaklık ve istenmeyen cinsel içeriklere karşı sıfır tolerans siyasetinin devam edeceğini açıkladı.
Kaynak: Chip
COMMENTS