Google, yapay zekası Gemini'nin neden "saçmaladığını" açıkladı

Geçtiğimiz hafta insanlar, Google’ın Gemini (eski adıyla Bard) yapay zeka sohbet robotundaki görüntü oluşturma özelliğinin uygunsuz görüntüler oluşturduğunu bildirmeye başladı. Sistemin, özellikle koyu ten rengine sahip kişileri, bu karakterlere uygun olmayan tarihi veya kurgusal rollerde tasvir ettiği bildiriliyordu.

Bu görsellerin rapor edilmesinin ardından Google, Gemini’nin resim oluşturucuyla insanların sanat eserlerini yaratma yeteneğini geçici olarak kapatacağını duyurdu ve şirket, bir blog yazısı aracılığıyla Gemini’ye ne olduğuna dair bir açıklama yaptı.

Google Kıdemli Başkan Yardımcısı Prabhakar Raghavan tarafından yazılan yazı, öncelikle şirketin Gemini görsel metin istemleri oluşturmak için kurallar oluşturduğunu ve Google’ın, bu kurallar sayesinde şiddet içeren veya cinsel eylemleri tasvir eden sanat eserleri oluşturulmasından kaçınmasına yardımcı olacağını düşündüğünü belirtiyordu. Ayrıca sohbet robotun gerçek insanların görüntülerini oluşturması da istenmiyordu.

Aynı zamanda Google, bir kişinin sohbet robotundan futbol takımındaki insanları göstermek gibi daha genel görseller istemesi durumunda Gemini’nin çeşitli etnik kökenleri tasvir etmesine de izin vermek istiyordu. Bir kişi, beyaz bir doktor veya siyahi bir öğretmen gibi belirli bir kişinin tasvir edilmesini istiyorsa, Gemini’nin de bu sanat eserini yapabilmesi gerekiyordu.

Daha sonra Raghavan, Gemini’nin metin isteminde yer alan sınırlamalardaki iki spesifik şeyin bu uygunsuz görsellerinin oluşturulmasına izin verdiğini yazdı. Raghavan’ın açıklaması şu şekildeydi: “İlk olarak, Gemini'nin bir dizi insanı göstermesini sağlamak için yaptığımız ayarlama, açıkça bir aralık göstermemesi gereken vakaları hesaba katmada başarısız oldu. İkincisi, zamanla model, planladığımızdan çok daha temkinli hale geldi ve belirli uyarılara tamamen yanıt vermeyi reddetti; bazı çok belirsiz istemleri yanlış bir şekilde hassas olarak yorumladı.”

“Bu iki şey, modelin bazı durumlarda aşırı telafi etmesine, diğerlerinde ise aşırı temkinli olmasına yol açarak utanç verici ve yanlış görüntülere yol açtı.”

Google’ın, Gemini görüntü oluşturucusundaki bu kuralları görsel üretme yeteneklerini yeniden başlatacak şekilde düzeltmesinin ne kadar süreceği şimdilik bilinmiyor. Raghavan, Gemini’nin asla saldırgan sanat eserleri üretmeyeceğine söz veremese de Google’ın “bir sorun tespit edildiğinde hızla harekete geçmeye devam edeceğini” belirtti.