Çin, deepfake görüntü ve videoların verebileceği zararlara karşı harekete geçti

Pekin'deki Siber Uzay İdaresi (CAC), insanların yapay zeka tarafından oluşturulan "deepfake"lerinin izinsiz olarak oluşturulmasını yasaklayan düzenlemeler yayınladı. Yönetmelik ayrıca ulusal çıkarlara veya sosyalist değerlere aykırı sayılabilecek herhangi bir şeyin tasviri veya söylenmesi ile aldatma veya iftira amaçlı deepfake’lerin kullanılmasını da yasaklıyor.

İnsanların gerçekte söylemedikleri veya yapmadıkları şeyleri söylediği ve yaptığı gerçekçi videolar oluşturmak için yapay zeka kullanmalarından dolayı, deepfake'ler pek çok tartışmanın temelinde yer alıyor. Bu teknoloji, izleyicileri yanıltma ve videolarda tasvir edilen kişiler için sorun yaratma potansiyeline sahip.

Deepfake’ler, bu endişeler nedeniyle Çin dışında da tartışmalara yol açtı. Bu yılın başlarında Avrupa Birliği, sosyal medyadaki sahte haberlere karşı savaşmak için deepfake’lerin kullanımını engelleyen kurallar getirdi.

Ancak bu düzenlemeler, aynı zamanda Çin'in, açıkça dijital kreasyonlar olarak etiketlendikleri sürece chatbots gibi uygulamalarda kullanımlarına izin verdiği için deepfake’lerin gelecekte yaygın olarak kullanılmasını beklediğini gösteriyor.

CAC tarafından yayınlanan düzenlemeler, çevrimiçi yayıncılar tarafından deepfake’lerin kullanımına da değiniyor. Bu yayıncıların, yayınlarında deepfake ürünler kullanırken Çin'in kabul edilebilir çevrimiçi içerikle ilgili diğer kurallarını dikkate alması gerekiyor.

Düzenlemeler, "derin sentez hizmet sağlayıcıları" veya çevrimiçi içeriği değiştirmek için derin öğrenme veya sanal gerçeklik kullanan platformlar için de geçerli olacak. Bu gereklilikler, doğru ve düzenli olarak revize edilen AI/ML modelleri ve algoritmalarının yanı sıra toplanan verilerin güvenliğini sağlama ihtiyacını içeriyor. Ayrıca düzenlemeler, bilinmeyen kişilerin teknolojiyi kötüye kullanmasını önlemek için kullanıcıların gerçek adlarını kullanmak da dahil olmak üzere kayıt olmalarını zorunlu kılıyor.

CAC tarafından yayınlanan düzenlemeler, Çin'de deepfake kullanımının olası olumsuzlukları önlemesini ve bunun yerine ülkeye fayda sağlamasını sağlamayı amaçlıyor. Düzenlemeler, deepfake’lerin "internet bilgi hizmetlerinin sağlıklı gelişimini desteklemesi ve iyi bir siber uzay ekolojisini sürdürmesi" gerektiğini belirtiyor.

Bu kurallar 10 Ocak 2023'te yürürlüğe girecek…