Bir zamanlar devlet araştırma laboratuvarlarındaki yüksek performanslı bilgisayarlarla sınırlı olan hızlandırılmış bilgi işlem çözümleri artık ana akım haline geldi. Bankalar, araba üreticileri, fabrikalar, hastaneler, perakendeciler ve birçok sektörden şirket, artan hesaplama gücü gereksinimlerinin üstesinden gelebilmek için süper bilgisayarları kullanmaya başladı.
Oldukça güçlü olan ve verimli bir şekilde çalışan bu sistemlerde GPU ve CPU da dahil olmak üzere çeşitli donanımlar kullanılmakta. Öyle ki yüksek verimlilik ve veri aktarımı için gelişmiş teknolojiler gerekli. İşte bu noktada devreye giren bir çözüm var. Hızlandırılmış bilgi işlem için ara bağlantılarda altın standart: NVLink.
Bu teknoloji aslında yalnızca yüksek performanslı bilgi işlem sınıfında kullanılmadı. Birden çok ekran kartını birbirine bağlama fikri 1990’ların sonundan beri var olmuştur. Fikir kulağa hoş gelse de, “SLI teknolojisi” hiçbir zaman beklentileri karşılayamadı. Ancak geri adım atmayan NVIDIA, NVLink’i SLI’ın halefi olarak yarattı. Son tüketiciler tarafından oyunlarda kullanılmasa bile bu bağlantı teknikleri birçok süper bilgisayara hayat veriyor.
Birazdan NVLink’in sunduğu imkanlardan bahsedeceğiz. Özetleyecek olursak, yüksek bant genişliği sunan bu bağlantı teknolojisi artık yalnızca iş amaçlı sistemlerde kullanılıyor. Hızlandırılmış sistemlerde kullanılan NVLink, GPU’lar ve CPU’lar için gelişmiş bir yazılım protokolü tarafından oluşturulmuş, tipik olarak bir bilgisayar kartına basılmış birden fazla kablo çifti üzerinde çalışan yüksek hızlı bir bağlantı teknolojisidir. İşlemciler, bu teknoloji sayesinde paylaşılan bellek havuzlarından çok hızlı şekilde veri gönderip alabilir.
Şu anda NVLink’in dördüncü nesli kullanımda. Yapılan tüm iyileştirmelerle birlikte ana bilgisayar ve hızlandırılmış işlemciler saniyede 900 gigabayta (GB/sn) varan hızlarda veri aktarımı yapılabiliyor. Bir kıyaslama yapacak olursak, geleneksel x86 sunucularında kullanılan ara bağlantı olan PCIe Gen 5’in ulaştığı bant genişliğinin 7 katından fazla hızlar elde edilebiliyor. NVLink, bit başına yalnızca 1,3 pikojoule tüketen veri aktarımları sayesinde PCIe Gen 5’in enerji verimliliğini 5 kat artırıyor.
İlk olarak NVIDIA P100 GPU ile bir GPU ara bağlantısı olarak sunulan NVLink, her yeni NVIDIA GPU mimarisiyle birlikte ilerleme kaydetti. 2018’de dünyanın en güçlü süper bilgisayarlarından ikisi olan Summit ve Sierra’da kullanılan teknoloji, GPU ve CPU’ları birbirine bağlama görevini üstlendi. Oak Ridge ve Lawrence Livermore Ulusal Laboratuvarlarında kurulan sistemler, ilaç keşfi, doğal afet tahmini ve farklı alanlarda hizmet veriyor. 2020’de kullanıma sunulan üçüncü nesil NVLink, GPU başına maksimum bant genişliğini ikiye katlayarak 600 GB/sn’ye çıkardı ve her NVIDIA A100 Tensor Core GPU’da bir düzine ara bağlantıyı bir araya getirdi. A100, dünya çapında kurumsal veri merkezlerinde, bulut bilgi işlem hizmetlerinde ve HPC laboratuvarlarında yapay zeka süper bilgisayarlarına güç sağlamakta. Dördüncü nesilde bant genişliği 900 GB/sn’ye çıkarken 18 GPU için destek sağlandı.
SLI’dan farklı olarak NVLink, altyapı düğümlerinin hiyerarşik olmayan bir şekilde doğrudan bağlandığı yerel bir ağ topolojisi olan mesh ağını kullanıyor. Bu, her şeyi belirli bir düğüm üzerinden yönlendirmek yerine her düğümün bilgi aktarmasını sağlamakta. NVLink, SLI’da olduğu gibi master-slave ilişkisine ihtiyaç duymaz; kurulumdaki bir kart “master” olarak çalışır.
SLI, kare oluşturma işlemini gerçekleştirmek için Alternatif Çerçeve Oluşturma (Alternate Frame Rendering) özelliğini kullanıyordu, yani bağlı her kart farklı kareleri işliyordu. İki GPU’lu bir kurulumda, bir kart çift kareleri işlerken diğeri tek kareleri işliyordu. Bu mantıklı bir çözüm olsa da pratikte iyi çalışmıyordu (çoğunlukla donanım sınırlamaları nedeniyle) ve sinir bozucu takılmalara yol açıyordu.
Daha hızlı görüntü işlemek için NVLink Köprüsü (NVLink Bridge) daha iyi bir çözüm. SLI köprüleri en iyi ihtimalle 2 GB/s bant genişliğine sahipti, ancak NVLink Köprüsü en uç durumlarda 200 GB/s gibi hızlara ulaşıyordu. Bilgi işlem amaçlı geliştirmelerle birlikte bant genişliği söylediğimiz gibi 900 GB/sn’lere kadar çıktı.
160 ve 200 GB/s NVLink köprüleri yalnızca NVIDIA’nın profesyonel sınıf Quadro GPU’larında kullanıldı. Tüketici odaklı GPU’lar için köprüler daha yavaş ancak yine de SLI’a kıyasla kat ve kat daha iyi. İki Titan RTX veya iki adet RTX 2080 Ti ekran kartını 100 GB/sn bant genişliği ile birbirine bağlamak mümkündü.
NVLink ayrıca büyük HPC ve yapay zeka işlerinin üstesinden gelmek için süper sistemler oluşturmaya imkan tanıyor. Örneğin, bir NVIDIA DGX sistemindeki sekiz GPU’nun tümünde bulunan NVLink’ler, NVSwitch yongaları aracılığıyla hızlı ve doğrudan bağlantıları paylaşıyor. Sunucudaki farklı GPU’lar, tek bir sistemin parçası gibi hareket ederek NVLink ağı oluşturuyor.
