Taylor Swift'in yapay zeka tarafından üretilen pornografik görüntüleri, yapay zeka ile üretilen sahte pornografinin yaygınlaşması ve yayılmasını engellemenin zorluğunu bir kez hepimize gösterdi.
X'te yayınlanan bu tip Swift görüntülerini paylaşan doğrulanmış bir kullanıcının hesabı, askıya alınmadan önce 45 milyondan fazla görüntüleme, 24.000 yeniden paylaşım ve yüz binlerce beğeni aldı. Üstelik gönderi kaldırılmadan önce yaklaşık 17 saat boyunca platformda yayında kaldı.
Kullanıcılar viral gönderiyi konuşmaya başlayınca görüntüler yayılmaya başladı ve diğer hesaplarda tekrardan paylaşıldı. Üstelik birçoğu hala yayında ve o zamandan beri yenileri ortaya çıktı. Bazı bölgelerde "Taylor Swift AI" terimi trend topic oldu ve görsellerin daha geniş kitlelere ulaşmasını sağladı.
404 Media'nın haberine göre görüntüler, Telegram'da kullanıcıların genellikle Microsoft Designer ile yapay zeka tarafından üretilen müstehcen kadın görüntülerini paylaştıkları bir gruptan kaynaklanmış olabilir. Bu gruptaki kullanıcıların Swift'in görüntülerinin X'te nasıl viral hale geldiği konusunda şakalaştıkları bildirildi.
X'in yapay ve manipüle edilmiş medya ve rıza dışı çıplaklıkla ilgili politikaları bu tür içeriklerin platformda yer almasını açıkça yasaklıyor.
Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We're closely…
— Safety (@Safety) January 26, 2024
Swift'in hayran kitlesi, paylaşımların çoğunun bu kadar uzun süre yayında kalmasına izin verdiği için X'e adeta savaş açmış durumda. Hayranlar, görüntüleri dolaşıma sokmak için kullanılan hashtag'leri, Swift'in gerçek kliplerini tanıtan mesajlarla doldurarak sahte görüntüleri gizlemeye çalıştı.
Bu olay, deepfake pornoyu ve gerçek insanların yapay zeka tarafından üretilen görüntülerini engellemenin ne kadar zor olduğunu ortaya koyuyor. Bazı yapay zeka görüntü oluşturucuları ünlülerin çıplak, pornografik ve fotogerçekçi görüntülerinin üretilmesini önleyen kısıtlamalara sahip, ancak bazıları açıkça böyle bir hizmet sunuyor. Sahte görüntülerin yayılmasını önleme sorumluluğu genellikle sosyal platformlara düşüyor, bu da en iyi koşullarda yapılması zor olabilecek bir şey ve X gibi moderasyon kabiliyetlerini yitirmiş bir şirket için daha da zor.
X, şu anda AB tarafından "yasadışı içerik ve dezenformasyon yaymak" için kullanıldığı iddialarıyla soruşturuluyor ve İsrail - Hamas savaşıyla ilgili yanlış bilgilerin platformda yayıldığının tespit edilmesinin ardından kriz protokollerinin sorgulandığı bildiriliyor.