Rus ve Kuzey Koreli hacker'lar, saldırılarda ChatGPT'yi kullanmaya başladı

Microsoft ve OpenAI, devlet destekli bazı bilgisayar korsanlarının siber saldırıları iyileştirmek için devlet destekli yapay zeka (GAI) araçlarını kullandığını belirtti. İkili, yeni araştırmanın ilk kez yabancı hükümetlerle bağlantılı bilgisayar korsanlarının GAI'yi nasıl kullandığını detaylandırdığını öne sürüyor. Söz konusu grupların Çin, Rusya, Kuzey Kore ve İran ile bağlantısı bulunuyor.

Şirketlere göre, devlet aktörleri GAI'yi hatalı kod ayıklama, hedefleri araştırmak için açık kaynak bilgilerine ulaşma, sosyal mühendislik teknikleri geliştirme, kimlik avı e-postaları hazırlama ve metin çevirme için kullanıyor. OpenAI, araçlarını kullandıklarını öğrendikten sonra grupların GAI sistemlerine erişimini kapattığını belirtiyor.

Ünlü Rus grubu Forest Blizzard (Fancy Bear ve APT 12 olarak da biliniyor) OpenAI'ın platformunu kullandığı söylenen devlet aktörlerinden bir tanesi. Şirket, bilgisayar korsanlarının OpenAI araçlarını "öncelikle uydu iletişim protokolleri ve radar görüntüleme teknolojisine yönelik açık kaynak araştırmaları ve komut dosyası oluşturma görevlerinde destek için" kullandıklarını söyledi. 

Microsoft, siber güvenlik çalışmalarının bir parçası olarak, 160 ulus-devlet aktörü de dahil olmak üzere 300 bilgisayar korsanı grubunu izlediğini söylüyor. Hatta belirtilene göre, bu gruplara ilişkin bilgilerini OpenAI ile paylaşarak hackerların tespit edilmesine ve hesaplarının kapatılmasına yardımcı oluyor.

OpenAI, tehdit aktörlerinin platformlarındaki faaliyetlerini saptamak ve engellemek için kaynaklara yatırım yaptığını belirtiyor. Ayrıca şirket, personelinin bilgisayar korsanlarının sistemlerini nasıl kullandıklarını araştırmak için, birçok yönteme başvurduğunu ve bu tür yasadışı kullanıcıları tespit ettiğinde, hesaplarını kapatmak, hizmetleri sonlandırmak veya kaynaklara erişimlerini engellemek gibi birçok yöntem kullandığını söylüyor.

Tartışmaların gölgesinde, OpenAI'den Sora geldi

Tüm bu tartışmaların gölgesinde, ChatGPT'nin popülerliği sayesinde ana akıma giren OpenAI, yapay zeka teknolojisini videoya taşıyor. Şirket yeni üretken yapay zeka modeli Sora'yı tanıttı.

Sora, OpenAI'nin görüntü oluşturma yapay zeka aracı DALL-E'ye benzer şekilde çalışıyor. Kullanıcı istediği bir sahneyi yazıyor ve Sora yüksek çözünürlüklü bir video klip oluşturuyor. Sora ayrıca hareketsiz görüntülerden esinlenerek video klipler oluşturabiliyor ve mevcut videoları genişletebiliyor veya eksik kareleri doldurabiliyor.

Sohbet robotları ve görüntü oluşturucular tüketici ve iş dünyasına girdiğine göre video, üretici yapay zeka için bir sonraki sınır olabilir. Ama yeni teknolojiler dünya genelinde önemli siyasi seçimler yaklaşırken ciddi yanlış bilgilendirme endişeleri yaratıyor. Bir makine öğrenimi firması olan Clarity'nin verilerine göre, yaratılan yapay zeka ürünü deepfake'lerin sayısı yıldan yıla %900 arttı.