Geçtiğimiz on yıllar boyunca çocuklara internette gördükleri her şeye inanmamaları söylendi. Ama artık bu öğüdü yetişkinleri de kapsayacak şekilde genişletmemiz gerekiyor.
Yapay zeka (AI) teknolojisinin videoları ve sesi gerçek hayatı taklit edecek şekilde manipüle etmek için kullanıldığı ve “deepfake” olarak adlandırılan olaylar giderek daha fazla karşımıza çıkıyor. Ve şimdi, Dünya'nın ilk “sertifikalı” deepfake videosu, bir şeffaflık örneği oluşturmaya yardımcı olmak için AI stüdyosu Revel.ai tarafından yayınlandı.
Bu videoda, profesyonel bir AI danışmanı olan Nina Schick'in “gerçek ile kurgu arasındaki çizgilerin nasıl bulanıklaştığı” konusunda bir uyarıda bulunduğu görülüyor. Ancak, yazının başlangıcından da tahmin edebileceğiniz gibi, videoda görülen aslında gerçek Schick değil ve video, dijital özgünlük şirketi Truepic tarafından kriptografik olarak imzalanarak yapay zeka tarafından üretilen içerik içerdiğini beyan ediyor.
Deepfake teknolojisi ile üretilen "sahte Schick" yavaş ve net bir şekilde, “Bazıları gerçeğin bizim gerçekliğimizin bir yansıması olduğunu söylüyor” diyor. Açıklamalar şöyle devam ediyor: “Onu kendi duyularımızla tanımlamaya alışkınız. Peki ya gerçekliğimiz değişiyorsa? Ya burada ve burada gördüklerimizin gerçekliğini belirlemek için artık duyularımıza güvenemezsek? Yapay zekanın şafağındayız ve gerçek ile kurgu arasındaki çizgiler şimdiden bulanıklaşıyor. Gölgelerin gerçekle karıştırıldığı bir dünya ve bazen olayları gerçekte oldukları gibi görmek için bakış açımızı kökten değiştirmemiz gerekiyor. Bu deepfake, Revel.ai tarafından Nina Schick'in izniyle oluşturuldu ve Truepic tarafından kriptografik olarak imzalandı.”
Porno videolarla ortaya çıktı
Deepfake'ler, ses, görüntü veya videoyu manipüle etmek için “derin öğrenmeyi” kullanan, hiper gerçekçi ancak sahte medya içeriği oluşturan yapay zeka biçimleridir. Terim, 2017 yılında bir Reddit kullanıcısının foruma manipüle edilmiş porno videolar göndermesiyle ortaya çıktı.
Videolar, Gal Gadot, Taylor Swift ve Scarlett Johansson gibi ünlülerin yüzlerini izinleri olmadan porno yıldızlarıyla değiştirmişti. Deepfake’in tehlikeli bir diğer örneği, geçtiğimiz yıl Rusya sosyal medyasında geniş çapta dolaşan bir videoda Ukrayna cumhurbaşkanı Volodymyr Zelensky'nin Rusya'ya teslim olmuş gibi görünmesiyle ortaya çıktı. Cumhurbaşkanı, bu sahte videoda Ukrayna askerlerini silahlarını bırakmaya ve Putin'in işgalci güçlerine boyun eğmeye çağırıyordu.
Dikkatli internet kullanıcıları Zelensky'nin boynunun ve yüzünün rengi, garip aksanı ve kafasının etrafındaki pikselleşme gibi tutarsızlıkları hızlı bir şekilde bulsa da, bu video ilk bakışta yeterince gerçekçi gözüküyordu.
Emma Watson ve Scarlett Johansson'un seksi deepfake videoları tartışmaları alevlendirdiHaberlerDeepfake videoları eğlence amaçlı bir değere sahip olabilse de, bazı uzmanlar oluşturabilecekleri tehlikeler konusunda yıllardır uyarılarda bulunuyor.
Pek çok uzman, bu deepfake videoların itibar zedelemenin de ötesine geçerek ulusal seviyeye kadar çıkabilecek ciddi güvenlik tehlikeleri oluşturabileceğine ve “düşman faktörler” tarafından kendi amaçları için kullanılabileceğine işaret ediyor.
DALL-E ve Meta'nın "Make-A-Video" gibi ücretsiz olarak kullanılabilen metinden görüntüye ve metinden videoya yapay zeka araçlarının yükselişiyle, manipüle edilmiş medya daha yaygın hale gelecek gibi gözüküyor. Hatta, 2025 yılına kadar çevrimiçi içeriğin yüzde 90'ının yapay zeka kullanılarak üretileceği veya oluşturulacağı tahmin ediliyor. Kısacası artık, internette gördüğümüz her şeye çok daha fazla şüpheyle yaklaşmamız gerekebilir.