Gündemdeki tartışma: Taylor Swift ve deepfake pornografisi

ABD'li pop yıldızı Taylor Swift'in yapay zekayla oluşturulan sahte çıplak görüntüleri bu hafta sosyal medyada yayıldı ve milyonlarca kez görüntülendi. Guardian'ın haberine göre daha önce Telegram'da yayılan görsellerden biri sosyal medya platformu X'te kaldırılmadan önce 47 milyon kez görüntülendi. Bu tip Swift görüntülerini paylaşan doğrulanmış bir kullanıcının hesabı, askıya alınmadan önce 45 milyondan fazla görüntüleme, 24.000 yeniden paylaşım ve yüz binlerce beğeni aldı. Üstelik gönderi kaldırılmadan önce yaklaşık 17 saat boyunca platformda yayında kalmış. Bazı görüntüler Facebook ve diğer sosyal medya platformlarına da yayıldı.

X yaptığı açıklamada "Ekiplerimiz tespit edilen tüm görselleri aktif olarak kaldırıyor ve bunları yayınlamaktan sorumlu hesaplara karşı gerekli önlemleri alıyor" dedi.

Sardırgan görüntüler Swift hayranlarının ve ABD'li politikacıların büyük tepkisini çekti. Swift'in hayranları #ProtectTaylorSwift hashtag'ini başlattı deepfake görüntüleri paylaşan hesapları şikayet etti.

DEEPFAKE TESPİT GRUBU

Deepfake tespit grubu olan Reality Defender'ın büyüme sorumlusu Mason Allen, "Ne yazık ki, bazıları kaldırılana kadar milyonlarca kullanıcıya yayıldılar" dedi. Araştırmacılar yapay zeka tarafından oluşturulan en az birkaç düzine farklı görüntü bulmuş.

SALDIRILAR ARTIYOR

Araştırmacılar, bu tür görüntüleri üretmek için kullanılan teknolojinin daha erişilebilir ve kullanımının kolay hale gelmesiyle deepfake sayısının arttığını söylüyor. AP'nin haberine göre 2019'da AI firması DeepTrace Labs tarafından yayınlanan bir rapor, bu görüntülerin büyük ölçüde kadınlara karşı silah olarak kullanıldığını gösteriyor. Kurbanların çoğunun Hollywood aktörleri ve Güney Koreli K-pop şarkıcıları olduğu belirtildi.

ABD'DE DEEPFAKE ÇAĞRILARI

Guardian'ın haberine göre kongre üyesi Yvette D Clarke, "Taylor Swift'in başına gelenler yeni bir şey değil. Yıllardır kadınlar, rızaları olmadan deepfake'lerin hedefi oldu. Yapay zekadaki gelişmelerle birlikte deepfake oluşturmak daha kolay ve daha ucuz" diyor. Bazı ABD eyaletlerinin deepfake'lere karşı kendi yasaları bulunuyor ancak federal yasada değişiklik yapılması yönünde giderek artan bir baskı var.

Daha önce deepfaklerin önlenmesine ilişkin bir teklif açıklayan kongre üyesi Joseph Morelle, görüntülerin ve videoların "geri dönüşü olmayan duygusal, mali ve itibarsal zararlara neden olabileceğini" söylüyor. Swift görsellerini kınayan Morelle, durumu bir "cinsel sömürü" olarak nitelendirdi.

Bir diğer kongre üyesi Tom Kean Jr ise "Kurban ister Taylor Swift ister ülkemizdeki herhangi bir genç olsun, bu endişe verici eğilimle mücadele etmek için güvenlik önlemleri almamız gerekiyor" diyor.

SAHTE DİŞ HEKİMLİĞİ REKLAMI

Çok ikna edici görünen deepfake video veya sesler daha önce de politikacıları, Drake ve Weeknd gibi isimleri taklit etmek için kullanılmıştı. Ekim 2023'te Tom Hanks, Instagram takipçilerine, kendisine benzeyen sahte bir diş hekimliği reklamına inanmamalarını söylemişti.

DAHA ÇOK KADINLARI HEDEF ALIYOR

Ancak bu yeni teknoloji büyük oranda cinsel saldırı şeklinde kadınları hedef alıyor. DeepTrace Labs'in 2019 tarihli araştırması deepfake video içeriğinin %96'sının izin verilmeyen pornografik materyal olduğunu gösteriyor ve durum 2019'dan bu yana daha da kötüleşmiş. Bir kişinin yüzünü mevcut bir pornografik görselin içine yerleştiren teknoloji giderek gelişiyor ve daha fazla gerçek gibi görünüyor.

Scarlett Johansson da 2018'de kendisinin maruz kaldığı sahte pornografiden bahsetmişti.

NADELLA'NIN YORUMU

Yapay zeka teknolojisine yatırım yapan Microsoft CEO'su Satya Nadella ise Taylor Swift'in yapay zeka tarafından üretilen sahte çıplak resimlerinin viral olmasının ardından deepfake görüntülerle mücadele konusunda hızlı hareket edilmesi gerektiğini söyledi. CEO Satya Nadella, yapay zeka teknolojisinin etrafına "korkulukların" yerleştirilmesi gerektiğini düşünüyor. Nadella, "Bu konuda yapılması gereken ve yapılmakta olan çok şey var" dedi.

GÖRÜNTÜLERİ KİM HAZIRLADI?

404 Media'nın haberine göre görüntüler, Telegram'da kullanıcıların genellikle Microsoft Designer ile yapay zeka tarafından üretilen müstehcen kadın görüntülerini paylaştıkları bir gruptan kaynaklanmış olabilir. Bu gruptaki kullanıcıların Swift'in görüntülerinin X'te nasıl viral hale geldiği konusunda şakalaştıkları bildirildi. NBC News bu haberi bağımsız olarak doğrulamadığını yazdı. Microsoft ise bu raporları çok ciddiye aldığını, herkes için güvenli bir deneyim sağlamaya kararlı olduğunu belirtti. Raporları araştırdığını belirten şirket "Uygunsuz içeriğe yönelik içerik güvenliği filtrelerimiz çalışıyordu ve şu ana kadar bunların atlandığına dair bir kanıt bulamadık. Çok dikkatli davranarak, metin filtreleme istemlerimizi güçlendirmek ve hizmetlerimizin kötüye kullanımını ele almak için adımlar attık" dedi.