Microsoft'un yapay zeka asistanı Copilot, internetten kurtulup PC'de yerel olarak çalışacak
Microsoft'un, sunucular üzerinden çalıştırdığı yapay zeka asistanı Copilot, yakında doğrudan kullanıcının bilgisayarı üzerinde çalışabilecek ve çok daha hızlı cevaplar üretebilecek.
Intel'in yaptığı bir açıklama, Microsoft'un Copilot uygulaması hakkındaki planları da ortaya çıkardı. Intel'e göre, Microsoft'un Copilot AI hizmeti yakında PC'lerin üzerinde, yerel olarak çalışacak. Başka bir deyişle, internete bağımlı olmayacak.
Şirket ayrıca yeni nesil yapay zeka bilgisayarlarının, piyasadaki herhangi bir tüketici işlemcisinin yeteneklerinin ötesinde 40 TOPS (saniyede trilyon işlem) güce sahip yerleşik sinir işleme birimleri (NPU'lar) gerektireceğini söyledi.
Şu anda Copilot, küçük talepler de dahil olmak üzere neredeyse her şeyi bulutta çalıştırıyor. Bu, büyük "cevaplar" ararken gerekli olsa da, küçük işler için ideal olmayan bir gecikme yaratıyor. Yerel hesaplama özelliğinin eklenmesi bu gecikmeyi azaltırken performansı ve gizliliği de potansiyel olarak artıracaktır.
Yapay zeka bilgisayarları nasıl çalışacak?
Microsoft'un daha önce yeni nesil yapay zeka bilgisayarlarında (AI PC), sadece 16 GB RAM ile birlikte, 40 TOPS'a ihtiyaç duyacağı söyleniyordu. Şu anda Windows, Surface Studio web kameraları için arka plan bulanıklaştırma gibi video efektleri çalıştırmak dışında NPU'ları pek kullanmıyor.
ChromeOS ve macOS işletim sistemleri ise, OCR, çeviri, canlı transkripsiyon ve daha fazlası ile birlikte daha fazla video ve ses işleme özelliği için NPU gücünü kullanıyor.
Şu ana kadar en yüksek NPU hızına sahip işlemci, seride 18 TOPS sunan Apple M3 serisi. AMD'nin Ryzen 8040 ve 7040 dizüstü bilgisayar çipleri sırasıyla 16 ve 10 TOPS ile bir sonraki sırada yer alırken, Intel'in Meteor Lake dizüstü bilgisayarı da 10 TOPS'a ulaştı. Qualcomm, 45 TOPS AI işlem hızı sunacak olan Snapdragon X Elite ile Copilot için yeterli güce sahip ilk işlemciyi üreten marka olabilir.
Intel'in 2025'te çıkacak olan Lunar Lake çipleri ise mevcut NPU hızlarının üç katına sahip olacak. Şirket kısa süre önce, özellikle kendi OpenVino platformu için optimize edilmiş 300 yeni yapay zeka özelliğini tanıttı. Çip devi ayrıca mevcut Meteor Lake işlemcisini kullanan ASUS NUC Pro'yu temel alan bir yapay zeka bilgisayar geliştirme kitini de duyurdu.
Tüm bu işlemciler piyasaya çıktığında, diz üstü bilgisayarlar için, basit meseleleri internete gerek duymadan çözen ve kullanıcıya "akıl veren" yapay zeka uygulamaları standart olacak gibi görünüyor.