Elon Musk’ın yapay zekâ modeli Grok, cinsel içerikli deepfake tepkilerinin ardından önemli bir değişikliğe gidiyor. X platformu, Grok’un gerçek kişilerin fotoğraflarını bikini, iç çamaşırı veya benzeri açık kıyafetlerle düzenlemesine, bunun yasa dışı olduğu ülkelerde artık izin verilmeyeceğini açıkladı.
X tarafından yapılan duyuruda, “Gerçek kişilerin görüntülerinin ifşa edici kıyafetlerle düzenlenmesini engelleyen teknolojik önlemler devreye alındı. Bu kısıtlama, ücretli aboneler dahil tüm kullanıcılar için geçerlidir” ifadeleri kullanıldı. Şirket ayrıca, bu özelliğin söz konusu ülkelerde coğrafi engelleme (geoblocking) yoluyla tamamen kapatıldığını bildirdi.
Soruşturma baskısı sonrası karar
Değişiklik, Rob Bonta’nın California’da, çocuklar da dahil olmak üzere cinselleştirilmiş yapay zekâ görüntülerinin yayılmasıyla ilgili soruşturma başlatıldığını açıklamasından saatler sonra geldi. Bonta, bu tür içeriklerin internet üzerinden kadınlara ve çocuklara yönelik taciz aracı haline geldiğini vurguladı.
X yönetimi, Grok’un görüntü düzenleme özelliğinin yalnızca ücretli kullanıcılarla sınırlı kalacağını ve bunun kötüye kullanımı azaltmak için ek bir denetim katmanı oluşturacağını savundu.
Musk’tan 'özgürlük' vurgusu
Elon Musk ise Grok’un NSFW (uygunsuz içerik) ayarları açıkken, yalnızca “gerçek olmayan yetişkin karakterlerde” ve ABD’de R-rated filmlerde görülebilecek sınırlar içinde içerik üretmesine izin verildiğini söyledi. Musk, bu standartların ülkelere göre değişeceğini belirtti.
Ancak Musk’ın daha önce İngiltere Başbakanı Keir Starmer’ın yapay zekâ ile oluşturulmuş bikini görsellerini paylaşması, eleştirilerin hedefi olmuştu.
Ülkeler ve düzenleyiciler devrede
Son günlerde Malezya ve Endonezya, Grok’un izinsiz şekilde açık görüntüler üretildiği gerekçesiyle aracı tamamen yasaklayan ilk ülkeler oldu. İngiltere’de medya düzenleyicisi Ofcom ise X’in yasal yükümlülüklerini ihlal edip etmediğini incelemeye aldı.
Starmer, X’in bu süreçte “kendi kendini düzenleme hakkını kaybedebileceği” uyarısında bulunurken, daha sonra şirketin adım atmasını olumlu karşıladığını açıkladı. Tepkiler sonrası bazı İngiliz milletvekilleri de X platformunu terk etti.
'Geç kalınmış bir adım'
BBC'ye konuşan politika araştırmacısı Riana Pfefferkorn, X’in bu önlemleri çok geç devreye aldığını belirterek, görüntü düzenleme özelliğinin kötüye kullanım başlar başlamaz askıya alınması gerektiğini söyledi. Pfefferkorn ayrıca, yeni kuralların nasıl uygulanacağı ve Grok’un bir görselin “gerçek kişiye” ait olup olmadığını nasıl ayırt edeceği konusunda hâlâ ciddi soru işaretleri bulunduğunu vurguladı.