Instagram'dan yapay zekaya karşı yeni bir önlem daha

Meta, diğer şirketlerin yapay zeka araçları tarafından üretilen görüntüleri tespit edebilen ve etiketleyebilen bir teknoloji sunacağını açıkladı. Bu teknoloji Facebook, Instagram ve Threads platformlarında kullanılacak ve bir görüntünün yapay zeka ile oluşturulduğunu herkesin açıkça görmesini sağlayacak.

Meta, yaptığı açıklamada yapay zeka araçları tarafından üretilen görüntülerin yanı sıra video ve seslerin tanımlanmasını kolaylaştıracak teknik standartlar üzerinde endüstri ortaklarıyla birlikte çalıştığını belirtti. Seçimlere ilişkin yanlış bilgilendirmeden ünlülerin rıza dışı sahte çıplak görüntülerine kadar zarar verebilecek yapay zeka tarafından üretilen görüntülerin üretilmesi ve dağıtılmasının her zamankinden daha kolay olduğu bir dönemde bu yöntemin ne kadar işe yarayacağı henüz belli değil.

Cornell Üniversitesi'nde enformasyon bilimleri alanında yardımcı doçent olan Gili Vidan, "Bu, çevrimiçi sahte içerik üretiminin platformları için bir sorun olduğu gerçeğini ciddiye aldıklarının bir işareti" dedi. Vidan, ticari araçlarla üretilen yapay zeka kaynaklı içeriğin büyük bir bölümünü etiketlemede "oldukça etkili" olabileceğini, ancak muhtemelen her şeyi tespit edemeyeceğini söyledi.

Meta halihazırda kendi aracı tarafından üretilen fotorealistik görüntülere "Imagined with AI" etiketi koyuyor, ancak sosyal medya hizmetlerini dolduran yapay zeka tarafından üretilen içeriğin çoğu başka yerlerden geliyor. Yeni özellik ile filigranlarda, görüntünün orijinal bir fotoğraf değil, yapay zeka tarafından oluşturulmuş bir medya olduğunu açıkça belirtmek için aynı şekilde "Imagined with AI" (Yapay Zeka ile oluşturuldu) ifadesi yer alacak.

Buna ek olarak Meta, yakında kullanıcıların gerçekçi video mu yoksa yalnızca yapay zeka ile oluşturulmuş ses mi paylaştıklarını açıklamalarını isteyecek. Bu bilgilerin önceden sağlanmaması, uyarılar ve hatta gönderinin kaldırılması gibi cezalarla sonuçlanacak.