Google'dan pornografik deepfake görüntülere karşı yeni hamle
DeepFake videolar, yani yapay zekayla üretilmiş sahte videolar, aynı zamanda birer iftira silahına dönüşmüş durumda. Google şimdi ağır etik sorunlar yaratan bu videoları gözlerden uzak tutmak için yeni bir adım daha atıyor.
DeepFake, yapay zeka yardımıyla gerçek bir insan hakkında sahte görüntüler ve konuşmalar içeren ama gerçeğinden ayırt etmesi zor videolar veya görüntüler üretmek anlamına geliyor.
Ne yazık ki bu yöntem artık yapay zekanın çok gelişmesi sayesinde, ortaokul çocuklarının bile kolayca kullanabildiği bir "silaha" dönüştü. Öyle ki, İngiltere ve ABD'de sırf eğlence olsun diye okul arkadaşları hakkında sahte "pornografik" görüntüler oluşturduğu için tutuklanan çocuklar bile var.
Öte yandan internette yayılan bu videoları durdurmak da kolay değil ve tahmin edeceğiniz üzere, yapanlar ceza alsa bile videolar sonsuza kadar internette kalabiliyor. Google şimdi bu etik dışı videoları gözlerden uzak tutmak için arama sonuçlarında görünmeyecek şekilde saklamak istiyor.
Kullanıcılar, kendilerini tasvir eden müstehcen, rıza dışı sahte içeriğin Arama sonuçlarından kaldırılmasını talep ettiklerinde, Google'ın sistemleri artık bu kişilerle ilgili benzer aramalardaki tüm müstehcen sonuçları filtrelemeyi ve yinelenen görüntüleri kaldırmayı da mümkün kılacak.
Google ürün müdürü Emma Higham konuyla ilgili yaptığı duyuruda, “Bu korumaların diğer rıza dışı görüntü türlerini ele almada başarılı olduğu zaten kanıtlanmıştı ve şimdi aynı yetenekleri sahte müstehcen görüntüler için de geliştirdik. Bu önlemler, özellikle gelecekte kendileriyle ilgili benzer içeriklerin ortaya çıkmasından endişe duyan insanların da içini daha fazla rahatlatacaktır" dedi.
ABD seçimleri DeepFake videoları patlatacak
2024 içinde, Taylor Swift gibi ünlüler dahil, çok sayıda insanın "deepfake" pornografik videosu hazırlanmış ve bunlar sosyal medyada yayılmıştı. Toplum bu videolara tepki gösterip hazırlayanları kınıyor olsa da, videoların internette sonsuza kadar kayıtlı kalıyor olması, DeepFake videoları kusursuz bir "çamur at izi kalsın" silahına dönüştürüyor. Ayrıca bu videoların mutlaka pornografik içerikli olması da gerekmiyor. Örneğin seçim dönemlerinde, prestij suikastı yapmak için bir siyasetçi hakkında sahte videolar da hazırlamak mümkün ve Kasım ayında gerçekleşecek ABD seçimleri öncesinde gerçeğinden ayırt etmesi çok zor olan şok edici deepfake videolarla karşılaşma ihtimalimiz çok yüksek.