Meta çalışanlarının karşılaştığı şaşırtıcı olaylar: Meta Muse kontrolden çıktı mı?

Meta çalışanlarının test ettiği Muse yapay zeka ajanı, hiç sorulmayan sorulara yanıt verdi, şüpheli banka bilgileri paylaştı ve bir sigorta planını değiştirdi. Meta sorunların bir bölümünü yanlış üretilen mesajlarla açıklarken Reuters yeni bulgulara ulaştı.

Meta çalışanlarının karşılaştığı şaşırtıcı olaylar: Meta Muse kontrolden çıktı mı?

Meta'nın eylül ayında kullanıma sunduğu Muse adlı yapay zeka ajanı, kullanıcıların özel mesajlarına eriştiği ve beklenmedik işlemler gerçekleştirdiği yönündeki şikayetlerle gündemde. Reuters'ın ulaştığı şirket içi yazışmalar, benzer sorunların Meta çalışanları tarafından da fark edildiğini ortaya çıkardı. Üstelik yapılan bağımsız testler, bazı gizlilik sorunlarının hala devam ediyor olabileceğine işaret ediyor.

Şirket içindeki denemelerde Muse'un şifrelenmiş özel mesajlara beklenmedik biçimde eriştiği, farklı kullanıcılara ait konuşmaları karıştırmış olabileceği ve hassas bilgileri açığa çıkarma riski taşıdığı yönünde uyarılar yapılmış. Bazı çalışanlar ise yapay zeka ajanından hiç sormadıkları sorulara yanıt aldıklarını bildirdi.

Örneğin bir çalışana, herhangi bir talebi olmamasına rağmen kara para aklamanın tanımı gönderildi. Başka bir testte Muse, bir sehpanın satıcısıyla iletişime geçmeyi teklif etti. Şaşkınlığını dile getiren çalışana verdiği yanıt daha da dikkat çekiciydi: Yapay zeka, kendisine ait olmayan bir sehpa teslim alma konuşmasından bilgi çekmiş olabileceğini kabul etmişti.

Çalışan, durumu olası bir hesaplar arası veri sızıntısı olarak işaretledi. Ancak endişe yaratan örnekler bununla sınırlı kalmadı.

Banka bilgileri ve beklenmedik harcamalar

En dikkat çekici olaylardan biri, Muse ile balıkçılık üzerine konuşan bir çalışanın karşılaştığı mesajdı. Yapay zeka, konuyla hiçbir ilgisi olmamasına rağmen iki banka hesabının bakiyelerini paylaştı. Mesajda Capital One hesabı için 2.722,58 dolar, Charles Schwab hesabı içinse 5.899,57 dolar görünüyordu.

Reuters, bu bilgilerin gerçekten başka kişilere ait olup olmadığını doğrulayamadı. Meta ise çalışanların karşılaştığı birçok şüpheli mesajın gerçek bir veri sızıntısından değil, yapay zekanın ürettiği yanlış bilgilerden kaynaklandığını savundu.

Bir başka çalışan, Muse'u test ederken maddi zarara uğradığını bildirdi. İddiaya göre yapay zeka, köpeği için aylık 200 dolar ödediği sigorta planını yanlışlıkla 888 dolarlık premium pakete çevirdi. Çalışan, bu değişikliğin ardından parasını geri alamadığını söyledi.

Meta sözcüsü Daniel Roberts, Reuters'a yaptığı açıklamada bunları münferit olaylar olarak nitelendirdi. Şirket içindeki değerlendirmelerde ise Muse'un oturumlar arasında kullanıcılarla iletişim kurmasını amaçlayan talimatlar nedeniyle gerçekte var olmayan mesajlar üretebildiği ifade edildi. Bazı yanlış yanıtların özellikle finans, güvenlik ve kişisel bilgiler gibi hassas konularla ilgili olması da dikkat çekti.

187 bin satırlık özel mesaj tartışması

Muse hakkındaki gizlilik şikayetleri, uygulamanın eylül ayındaki çıkışından kısa süre sonra başlamıştı. Inc. yazarı Jason Aten, Mac bilgisayarındaki özel mesajların açık izni olmadan Muse tarafından incelendiğini fark etti. Aten, uygulamanın mesajlara erişimini özellikle reddettiğini, buna rağmen yerel mesaj veritabanından 187 bin satırlık konuşmanın senkronize edildiğini açıkladı. Meta yöneticisi David Singleton ise böyle bir erişimin gerçekleşebilmesi için macOS'teki tam disk erişimi izninin ve mesaj bağlantısının etkinleştirilmiş olması gerektiğini savundu.

Aten bu açıklamayı yeterli bulmadığını söylüyor. Kullanıcıların verdikleri izinlerin kapsamını açıkça anlayabilmesi gerektiğini vurgulayarak, yapay zekanın özel mesajları okuyacaksa bunu doğrudan sorması gerektiğini söyledi.

Benzer dönemde başka bir kullanıcı, uygulamayı o gün hiç açmamasına rağmen Muse'un kendisinden talimat aldığını öne sürerek bir e-posta hizmetine erişmeye çalıştığını bildirdi.

Singleton, bazı beklenmedik davranışların bir güncellemeden kaynaklandığını kabul etti. Kullanıcıdan işlem öncesinde onay alınmasını sağlayacak talimatların yanlışlıkla bütün mesajlara uygulandığını, bunun da modelin beklenmedik yanıtlar üretmesine yol açtığını açıkladı. Meta'ya göre sorun bir güvenlik açığı değil, sonradan düzeltilmiş bir yazılım hatasıydı.

Reuters'ın testlerinden çıkan farklı sonuçlar

Eylül ayından bu yana 10 milyonun üzerinde indirilen Muse'un gizlilik konusundaki davranışlarını Reuters da araştırdı. Signal ve AI Now Institute uzmanlarıyla gerçekleştirilen testler, kullanılan işletim sistemine göre farklı sonuçlar ortaya koydu.

Android cihazlarda Muse'un, Meta'nın özel bağlantı aracı olan Connector'ı kullanmadan Signal mesajlarına erişebildiği görüldü. Bunun için uygulamanın ilk kurulumu sırasında verilen izinlerden yararlanılmıştı. Bildirim erişimi sayesinde özel mesajların önizleme metinleri de yapay zeka tarafından okunabiliyordu.

iPhone üzerindeki benzer erişim girişimleri engellendi. macOS'te ise Muse'un, engelli kullanıcılar için geliştirilen erişilebilirlik araçlarından ve ekran görüntüsü özelliklerinden yararlanarak mesajlara ulaşabildiği belirlendi.

Bu bulgular, çalışanların daha önce dile getirdiği bazı endişelerin geçerliliğini koruyabileceğini gösteriyor. Reuters, Meta'nın kullanıcı izinlerini oldukça geniş yorumladığı sonucuna vardı.

Signal Başkanı Meredith Whittaker, Meta'yı temel gizlilik ve siber güvenlik ilkelerine yeterince saygı göstermemekle eleştirdi. Whittaker'a göre Signal gibi uygulamaların, yapay zeka ajanlarının belirli verilere erişmesini teknik olarak engelleyebilmesi gerekiyor.

Apple ve Google da yapay zeka ajanlarına verilen izinler üzerinde kullanıcılara daha fazla kontrol sağlayacak değişiklikleri değerlendiriyor. Apple, ekim ayında macOS'in tam disk erişimi özelliğinin bazı geliştiriciler tarafından kullanıcıları riske atabilecek biçimde kullanıldığını açıklamış, bu tür kapsamlı izinler için daha açık onay mekanizmaları getirme sözü vermişti.

Meta ise çalışanların genel kullanıma sunulmayan Muse sürümlerini de test ettiğini, bu süreçte elde edilen geri bildirimlerle güvenlik önlemlerinin geliştirildiğini vurguluyor. Şirket, kullanıcı bilgilerinin gizli tutulduğunu savunsa da Reuters'ın bağımsız testleri, yapay zeka ajanlarının erişim izinleri konusundaki tartışmayı yeniden gündeme taşıdı.