Nvidia GTC 2022 konferansında donanım, yapay zeka çözümleri ve iş birlikleri üzerine deyim yerindeyse tam bir şov yaptı.
Şirketin CEO’su Jensen Huang’ın açılış konuşması, aslında bir grafik işlemci üreticisinden geleceği yönlendirecek bir teknoloji şirketine tam dönüşüm yaptıklarını gösterdi.
En hızlı süper bilgisayar Nvidia olacak
Gelişmelerden ilki, şirketin veri merkezleri için hazırladığı yeni Grace CPU Superchip. Son dönemde popüler olan AMD EPYC işlemcilerini hem performans hem de verimlilik açısından geride bırakmayı hedefleyen yeni işlemci, ARM tabanlı ve 144 işlemci çekirdeğine sahip. TSMC’nin 4 nm üretim mimarisini kullanacak olan Grace serisi işlemcilerin 2023’ün başlarında piyasaya çıkması bekleniyor. Şirket, Grace’in piyasaya çıktığında piyasadaki en hızlı CPU olacağını belirtiyor.
NVIDIA GTC 2022 bünyesinde karşımıza çıkan bir diğer yenilik ise Hopper H100 GPU’lar. Süper bilgisayar düzeyinde yapay zeka modellemesi için tasarlanan bir grafik işlemci olan Hopper H100, 3 TB/s HBM3 bant genişliği ve 4,9 TB/s harici bant genişliğine sahip olacak. H100’ü veya özelliklerini, NVIDIA’nın 40 serisi grafik kartları için kullandığı tüketici odaklı mimariyle karıştırmayın, çünkü ikisi apayrı şeyler.
Şirket, konferansta NVLink teknolojisinin exaflop işlem gücüne ulaşacağını da öngörüyor. Bunun için de DGX’lerden oluşan bir DGX Pod oluşturmayı öneriyor. Bu sistem, toplam 256 adet H100 GPU’dan oluşan 32 DGX’e sahip olacak. Huang, bu adım ile “modern yapay zeka fabrikaları” olarak tanımladığı DGS Superpod’ları da öngörüyor. Bunlar da birbirine bağlı çok sayıda DGX Pod’dan oluşacak.
Nvidia’nın yeni süper bilgisayarı olan Eos, 18 DGX Pod’u içeriyor. EOS’un dünyanın halihazırda en güçlü süper bilgisayarı olan Fugaku’nun yapay zeka işleme kapasitesinin 4 katını gerçekleştirmesi bekleniyor. Eos’un önümüzdeki aylarda hayata geçmesi bekleniyor ve dünyanın en hızlı AI bilgisayarı ve NVIDIA’nın donanım ortakları için gelişmiş AI altyapısı için önemli bir adım olacağı düşünülüyor.
Nvidia’nın 3D tasarım ve simülasyon platformu olan Omniverse için de planları var. GTC, tamamen animasyonlu dijital avatarlar oluşturmak için bir dizi yeni Omniverse araçları ve hizmetleri için bir ana platform görevi görecek. Bu sayede işletmeler, dijital ikizler yaratmak veya robotik geliştirme simülasyonları yapabilmek için Omniverse’i kullanabilecekler.
Kurumlar için yapay zekaya platform gücü
Nvidia’nın kurumsal yapay zekayı nasıl geliştireceği konusundaki adımı, bir platform yaklaşımı. Şirket bu segmente çok katmanlı bir modelle girmek istiyor. Alt katmanda DGX, HGX, EGX ve NVIDIA’nın GPU’ları ve DPU’ları üzerine kurulu farklı sistemleri içeren AI altyapısı yer alıyor. Nvidia ayrıca geliştiricilerin donanımla çalışmasına izin vermek için gerekli CUDA, TAO, RAPIDS, Triton Inference Server, TensorFlow gibi tüm yazılım ve işletim sistemlerini sağlıyor.
En üst katmanda ise belirli kullanım durumlarını ele almak için önceden oluşturulmuş bir dizi yapay zeka sistemi bulunuyor. Örneğin, Maxine ile video yapay zeka sistemi, Clara ile sağlık hizmetleri sunulabiliyor. Otomobil dünyasına Drive ve simülasyon aracı Isaac ile giriyor. Böylece şirketler de bunları temel alarak yenilikçi çözümler yaratabiliyorlar.
Bunların örnekleri de şimdiden mevcut. Örneğin telekomünikasyon hizmetleri sunan Avaya, video konferanslarda gürültü engelleme, görüntüye sanal arka plan ekleme gibi özellikler için Spaces ürününde Maxine kullanıyor. Jaguar ve Mercedes başta, birçok otomobil üreticisi, Drive’ı otonom araçlar için platform olarak baz alıyor.
Huang, konuşmasında yapay zeka platformuyla ilgili çalışmalar hakkında da detay verdi. Şirket, halihazırda Lenovo, Dell ve Cisco gibi teknoloji şirketleriyle temel donanım programı yürütüyor. Aralarında Adobe ve Keysight’ın da bulunduğu, toplam 100’den fazla şirketin yer aldığı Nvidia Accelerate adlı yazılım programı da bu işin bir parçası. Bu program ile şirketler yazılımlarının Nvidia platformu için test edildiği, incelendiği ve optimize edildiğini garanti edebiliyorlar.