Adobe'den Deepfake Sorununa Yeni Çözüm
Berkeley Üniversitesi İle Adobe'nin ortak çalışması, fazlasıyla can sıkmaya başlayan Deepfake akımına karşı bir umut olabilir!
Adobe ve UC Berkeley araştırmacılarından oluşan bir ekip, Adobe Photoshop ile düzenlenen görüntülerde bulunan yüz manipülasyonlarını tespit etmek için bir yapay zeka ağını eğitti.
Araştırmacılar oluşturdukları aracın Deepfakes adı verilen sahte yüzlerin daha yaygın ve daha aldatıcı olduğu bu zamanlarda dijital medyaya duyulan güveni tekrar kazanmaya yardımcı olacağını umuyor. Ayrıca görüntü adli tıplarını demokratikleştirerek daha fazla insanın görüntü manipülasyonunu ortaya çıkarmasını mümkün kılabilir.
Ekip; insanların gözlerini, ağızlarını ve diğer yüz özelliklerini değiştirmek için tasarlanan Photoshop'un Face Away Liquify özelliği ile görüntülerde yapılan değişiklikleri tespit etmek için evrimsel bir sinir ağını (CNN) eğitti. Sinir ağı, eğitim sürecinin ardından işlemesi için kendisine verilen görüntülerdeki manipülasyonları %99'a varan isabet oranıyla tespit etti. Buna karşılık olarak aynı fotoğrafları gören insanlardan oluşan kontrol grubu, fotoğraflarda bir manipülasyon yapılıp yapılmadığını %53'lük isabet oranıyla saptayabildi. Üstelik söz konusu evrimsel sinir ağı, görüntülerdeki manipülasyonları saptamakla kalmayarak aynı zamanda görüntüleri orijinal durumlarına geri döndürebilmek adına yapılan değişiklikleri "geri alabiliyor".
Bu, bir yapay sinir ağının görüntülerdeki manipülasyonları ilk saptayışı değil. Adobe daha önce de yapay zeka aracılığıyla Photoshop ile işlenmiş fotoğrafları saptamayı başarmıştı ancak bu çalışma özellikle yüz manipülasyonunu tespit etmeyi hedefliyor. Şirket, bu işin artık hiç olmadığı kadar önem kazandığının altını çiziyor. Adobe araştırmacısı Richard Zhang, "Tükettiğimiz dijital bilgilere güvenmenin zorlaştığı bir dünyada yaşıyoruz." ifadesiyle bu duruma dikkat çekiyor. İşlenen görüntüleri ve yüzleri değiştirmeye geldiğimizde ise Adobe "bunun sadece bir başlangıç ??olduğunu" belirtiyor.