Yapay zeka günlük hayatımızda giderek daha büyük bir rol almaya devam ederken, beraberinde kendi sorunlarını da getiriyor. Bu hafta, tamamında Emma Watson ve Scarlett Johansson'a benzeyen yüzlerin yer aldığı yüzlerce deepfake videosu, FaceMega adlı bir AI deepfake uygulaması için yapılan bir reklam kampanyasının parçası olarak Facebook ve Instagram'da yayınlandı.
İlk olarak NBC News tarafından duyurulan haberde, Facebook ve Instagram'da 200'den fazla videonun yayınlandığını bildirdi. 127'sinde Watson, 74'ünde ise Johansson'un yer aldığı reklam videolarının tamamında aktrisler “kışkırtıcı” durumlarda ve müstehcen temalar içeren şekillerde görünüyordu.
Görünüşe göre kampanya bir FaceMega reklamıydı ve kullanıcıların, haftada 8 dolar karşılığında, bir videodaki birinin yüzlerini uygulamaya yüklenen fotoğraflarla değiştirmesine imkan tanıyor. FaceMega bir süredir Apple App Store'dan kaldırılmış gibi görünüyor, ancak yazı yayına hazırlanırken Google Play Store'da hala mevcuttu.
Çin, deepfake görüntü ve videoların verebileceği zararlara karşı harekete geçtiHaberlerVideolardan birinin ekran kaydını Twitter'a yükleyen Lauren Barton, NBC News ile yaptığı görüşmede bu uygulamanın zorbalık altındaki öğrenciler gibi gençler üzerinde kullanılabileceğini ve durumu çok daha kötüye götürebileceğini belirtti: “Birinin hayatını mahvedebilir. İşlerinde sorun yaşayabilirler. Ve bunu yapmak son derece kolay ve ücretsizdir. Tek yapmam gereken yüzümün bir resmini yüklemekti ve 50 ücretsiz şablona erişebiliyordum.”
i got this ad yesterday and wow what the hell pic.twitter.com/smGiR3MfMb
— lauren (@laurenbarton03) March 6, 2023
Uygulamanın kendi Şartlar ve Koşulları kullanıcıların “aldatıcı davranmasına veya herhangi bir kişi veya kuruluşun kimliğine bürünmesine” izin verilmediği söylese de, yayınlanan reklamlar bu şartlara aykırı görünüyor.
NBC News, kampanyanın Çinli ana şirketi Wondershare'in sahibi olduğu uygulama geliştiricisi Ufoto Limited'den geldiğini söylüyor.