Görünüşe göre Nvidia, artık kendine ait özel bir yapay zeka süper bilgisayar isteyenler için de çözüm sunmaya başlıyor. Çip üreticisi, CES 2025 sırasında, Mayıs ayında Project Digits adlı kişisel bir AI süper bilgisayarı piyasaya süreceğini duyurdu.
Project Digits, bir masaya sığacak ve standart bir elektrik prizinden çalışacak kadar kompakt olmasına rağmen sofistike AI modellerini çalıştıracak kadar işlem gücü sağlayan yeni GB10 Grace Blackwell Superchip’i temel alıyor. Bu tür işlem gücü eskiden çok daha büyük, daha fazla güç tüketen sistemler gerektiriyordu. 3.000 dolarlık bir başlangıç fiyatına sahip olan masaüstü boyutundaki bu sistem, 200 milyara kadar parametreye sahip AI modellerini işleyebilecek.
Nvidia CEO'su Jensen Huang, açıklamasında “AI, her sektördeki her uygulamada ana akım olacak. Project Digits ile Grace Blackwell Superchip milyonlarca geliştiriciye ulaşıyor” dedi ve devam etti: “Her veri bilimcisinin, AI araştırmacısının ve öğrencisinin masasına bir AI süper bilgisayarı yerleştirmek, onların AI çağına katılmalarını ve onu şekillendirmelerini sağlar.”
Her Project Digits sistemi 128 GB birleşik, tutarlı belleğe (RAM) ve 4 TB’a kadar NVMe depolama alanına sahip olacak. Daha da zorlu uygulamalar için, iki Project Digits sistemi 405 milyara kadar parametreye sahip modelleri işlemek için birbirine bağlanabilecek. Karşılaştırma için belirtmek gerekirse, Meta’nın en iyi modeli olan Llama 3.1, 405 milyar parametreye sahiptir.
GB10 çipi, FP4 hassasiyetinde 1 petaflop’a kadar AI performansı (saniyede 1 katrilyon AI hesaplaması gerçekleştirebileceği anlamına gelir) sunuyor ve sistem, NVLink-C2C aracılığıyla 20 güç tasarruflu Arm tabanlı çekirdek içeren bir Grace CPU’ya bağlanan Nvidia’nın en son nesil CUDA çekirdeklerine ve beşinci nesil Tensor Çekirdeklerine sahip. Şirket, GB10’un güç verimliliğini ve performansını optimize etmek için, geliştirilmesi sırasında Arm tabanlı çip tasarımlarıyla bilinen MediaTek ile iş birliği yaptı.
Ayrıca, geliştirme kitleri, yönetim araçları ve önceden eğitilmiş modelleri de içeren Nvidia’nın AI yazılım kütüphanesi de kullanıcılar tarafından Nvidia NGC kataloğu aracılığıyla erişilebilecek. Linux tabanlı Nvidia DGX OS ile çalışan sistem, PyTorch, Python ve Jupyter notebook’lar gibi popüler çerçeveleri destekleyecek. Geliştiriciler, Nvidia NeMo çerçevesini kullanarak modellerine ayarlamalar yapabilecek ve Nvidia RAPIDS kütüphaneleriyle veri bilimi iş akışlarını hızlandıracak.
Kullanıcılar, yapay zeka modellerini Project Digits üzerinde yerel olarak geliştirip test edebilecek, ardından aynı Grace Blackwell mimarisini ve Nvidia AI Enterprise yazılım platformunu kullanarak bulut hizmetlerine veya veri merkezi altyapısına dağıtabilecek.