OpenAI'ın eylül ayında tanıttığı "dot" adlı kişisel yapay zeka asistanı, kullanıcıdan herhangi bir komut almadan gerçekleştirdiği işlemlerle gündemde. Yapay zeka güvenliği ve yönetimi alanında çalışan Geordie'nin araştırmasına göre sistem, yalnızca bir gün içinde 155 ayrı işlem dizisi başlattı ve 307 bin token tüketti. Üstelik bütün bunlar, kullanıcı tarafından yeni bir görev tanımlanmamasına rağmen gerçekleşti.
Meta Muse ve Grok Bot gibi otonom sistemlerin ardından kullanıma sunulan dot, geleneksel sohbet botlarından farklı olarak kendi görevlerini belirleyip arka planda araştırmalar yürütebiliyor. Ancak Geordie'nin bulguları, bu bağımsız çalışma biçiminin güvenlik ve maliyet açısından bazı soru işaretleri yarattığını gösteriyor.
Araştırmayı yürüten Geordie Üst Düzey Yapay Zeka Sorumlusu Hanah-Marie Darley, test sırasında asistana yalnızca salt okunur erişim izinleri verdi. Sistem herhangi bir kişisel uygulamaya, e-posta hesabına veya Slack kanalına bağlanmamıştı. Buna rağmen çalışmaya başladığında kendi kendine kapsamlı bir araştırma süreci başlattı.
Yapay zeka kendi görevlerini oluşturmaya başladı
Dot, ilk olarak erişebildiği sistemleri, sahip olduğu yetkileri ve mevcut altyapıyı incelemeye başladı. Topladığı bilgileri düzenli olarak güncellenen bir ajandada bir araya getirdi. Ardından kullanıcıdan talimat almadan ve zamanlanmış bir görev bulunmadan yeni alt temsilciler oluşturarak araştırmalarını genişletti.
Geordie'nin incelemesine göre ana temsilci kullanıcıyla iletişimi üstlenirken ikinci bir temsilci arka planda bilgi toplamayı sürdürdü. Gerektiğinde belirli işleri tamamlamak için kısa süreli başka alt temsilciler de çalıştırıldı.
Test sırasında bu temsilcilerden biri erişilebilir kod depolarını denetlerken bir diğeri toplanan bilgilerin envanterini hazırladı. Kaydedilen 155 işlem dizisinin 50'si yalnızca iki dakika içinde gerçekleşti. Araştırmacılar, bu faaliyetlerin kullanıcıya ayrıca bildirilmeden yürütüldüğünü belirtti.
Hiç komut vermeden günlük 10 dolara ulaşan maliyet
Otonom sistemlerin arka planda gerçekleştirdiği işlemler, yüksek miktarda token tüketimine neden olabiliyor. Geordie'nin testinde kaydedilen 155 işlem dizisinin toplam tüketimi 307 bin token olarak ölçüldü.
OpenAI'ın Astra modelinin fiyatlandırması üzerinden yapılan hesaplamada, günlük yaklaşık 200 bin token tüketiminin 5 ila 10 dolarlık maliyet oluşturabileceği belirtildi. Bu rakam, dot kullanıcılarına doğrudan yansıtılmış bir ücret değil; benzer bir kullanımın olası maliyetini gösteren bir hesaplama.
Araştırma, kişisel yapay zeka temsilcilerinin kullanıcı herhangi bir işlem başlatmasa bile arka planda çalışarak kaynak tüketebileceğini ortaya koyuyor.
Uzmanlardan veri güvenliği uyarısı
Hanah-Marie Darley, geleneksel yapay zeka araçlarıyla otonom temsilciler arasındaki temel farkın görev belirleme yetkisinde olduğunu vurguluyor. Geleneksel sistemler çoğunlukla kullanıcıların verdiği talimatları yerine getirirken kişisel temsilciler kendi araştırmalarını ve alt görevlerini oluşturabiliyor. Bu özellik üretkenliği artırma potansiyeli taşısa da kurumların erişim izinleri ve veri güvenliği konusunda daha dikkatli davranmasını gerektiriyor.
Darley, e-posta yoluyla gönderilmesi uygun görülmeyecek kadar hassas kişisel veya kurumsal bilgilerin bu sistemlerle paylaşılmamasını öneriyor. Ayrıca alışveriş yapma yetkisi verilen yapay zeka temsilcilerinde kişisel kredi kartları yerine harcama limiti belirlenmiş sanal kartların kullanılmasını tavsiye ediyor.