NVLink Nedir? | NVIDIA Blogları

NVLink Nedir? | NVIDIA Blogları


Bir zamanlar devlet araştırma laboratuvarlarındaki yüksek performanslı bilgisayarlarla sınırlı olan hızlandırılmış bilgi işlem, ana akım haline geldi.

Bankalar, araba üreticileri, fabrikalar, hastaneler, perakendeciler ve diğerleri, işlemeleri ve anlamaları gereken artan veri dağlarının üstesinden gelmek için yapay zeka süper bilgisayarlarını benimsiyor.

Bu güçlü, verimli sistemler bilgi işlemin süper otoyollarıdır. Eyleme geçirilebilir sonuçlara yıldırım gibi uzanan bir yolculukta paralel yollar üzerinden veri ve hesaplamalar taşırlar.

GPU ve CPU işlemcileri, yol boyunca kaynaklardır ve rampaları hızlı ara bağlantılardır. Hızlandırılmış bilgi işlem için ara bağlantılarda altın standart NVLink.

Peki, NVLink Nedir?

NVLink, GPU’lar ve CPU’lar için sağlam bir yazılım protokolü tarafından oluşturulmuş, tipik olarak bir bilgisayar kartına basılmış birden fazla kablo çifti üzerinde çalışan yüksek hızlı bir bağlantıdır. İşlemcilerin, paylaşılan bellek havuzlarından yıldırım hızında veri gönderip almasını sağlar.

İki NVLink kullanımını gösteren bir diyagram

Şimdi dördüncü neslinde olan NVLink, ana bilgisayarı ve hızlandırılmış işlemcileri saniyede 900 gigabayta (GB/sn) varan hızlarda birbirine bağlar.

Bu, geleneksel x86 sunucularında kullanılan ara bağlantı olan PCIe Gen 5’in bant genişliğinin 7 katından fazladır. Ve NVLink, bit başına yalnızca 1,3 pikojoule tüketen veri aktarımları sayesinde PCIe Gen 5’in enerji verimliliğini 5 kat artırır.

NVLink’in Tarihi

İlk olarak NVIDIA P100 GPU ile bir GPU ara bağlantısı olarak sunulan NVLink, her yeni NVIDIA GPU mimarisiyle uyumlu bir şekilde ilerlemiştir.

NVLink için temel özelliklerin bir tablosu

2018’de NVLink, dünyanın en güçlü süper bilgisayarlarından ikisinde GPU’ları ve CPU’ları bağlamaya başladığında yüksek performanslı bilgi işlemde dikkatleri üzerine çekti. Zirve ve Sierra.

Oak Ridge ve Lawrence Livermore Ulusal Laboratuvarlarında kurulan sistemler, ilaç keşfi, doğal afet tahmini ve daha fazlası gibi alanlarda bilimin sınırlarını zorluyor.

Bant Genişliği İki Katına Çıktı, Sonra Tekrar Büyüdü

2020’de üçüncü nesil NVLink, GPU başına maksimum bant genişliğini ikiye katlayarak 600 GB/sn’ye çıkardı ve her birinde bir düzine ara bağlantı paketledi. NVIDIA A100 Tensör Çekirdekli GPU.

A100, dünya çapında kurumsal veri merkezlerinde, bulut bilgi işlem hizmetlerinde ve HPC laboratuvarlarında yapay zeka süper bilgisayarlarına güç sağlar.

Bugün, 18 dördüncü nesil NVLink ara bağlantısı, tek bir NVIDIA H100 Tensör Çekirdekli GPU. Ve teknoloji, gezegendeki en gelişmiş CPU’ları ve hızlandırıcıları etkinleştirecek yeni, stratejik bir rol üstlendi.

Çipten Çipe Bağlantı

NVIDIA NVLink-C2C iki işlemciyi tek bir pakette birleştirerek bir süper çip oluşturmak için pano düzeyinde ara bağlantının bir sürümüdür. Örneğin, 144 Arm Neoverse V2 çekirdeği sağlamak için iki CPU yongasını birbirine bağlar. NVIDIA Grace İşlemci Superchip, bulut, kurumsal ve HPC kullanıcıları için enerji açısından verimli performans sağlamak üzere oluşturulmuş bir işlemci.

NVIDIA NVLink-C2C aynı zamanda bir Grace CPU ve bir Hopper GPU’yu bir araya getirerek Grace Hopper Süper Çipi. Dünyanın en zorlu HPC ve AI işleri için hızlandırılmış bilgi işlemi tek bir çipte toplar.

İsviçre Ulusal Bilgi İşlem Merkezi için planlanan bir yapay zeka süper bilgisayarı olan Alps, Grace Hopper’ı ilk kullananlar arasında olacak. Bu yılın ilerleyen zamanlarında devreye girdiğinde, yüksek performanslı sistem astrofizikten kuantum kimyasına kadar birçok alanda büyük bilim problemlerinde çalışacak.

Grace CPU, NVLink-C2C kullanır
Grace CPU, NVLink-C2C ile birbirine bağlanan iki kalıba 144 Arm Neoverse V2 çekirdeği yerleştirir.

Grace ve Grace Hopper, zorlu bulut bilgi işlem iş yüklerine enerji verimliliği getirme konusunda da harikalar.

Örneğin Grace Hopper, öneri sistemleri için ideal bir işlemcidir. İnternetin bu ekonomik motorları, her gün milyarlarca kullanıcıya trilyonlarca sonuç sunmak için çok sayıda veriye hızlı ve verimli erişime ihtiyaç duyar.

Grace Hopper'ın öneri sistemlerinde lider performans sunmak için NVLink'i nasıl kullandığını gösteren bir tablo
Önericiler, Grace Hopper’ı kullanarak geleneksel CPU’larla Hopper kullanmaya kıyasla 4 kata kadar daha fazla performans ve daha fazla verimlilik elde ediyor.

Ek olarak, NVLink, NVIDIA Hopper, Grace ve Ada Lovelace işlemcileri içeren otomobil üreticileri için güçlü bir çip üzerinde sistemde kullanılır. NVIDIA SÜRÜCÜ Thor dijital gösterge paneli, bilgi-eğlence, otonom sürüş, park etme ve daha fazlası gibi akıllı işlevleri tek bir mimaride birleştiren bir araç bilgisayarıdır.

Bilgi İşlemin LEGO Bağlantıları

NVLink ayrıca bir LEGO parçasına damgalanmış soket gibi davranır. En büyük HPC ve AI işlerinin üstesinden gelmek için süper sistemler oluşturmanın temelidir.

Örneğin, sekiz GPU’nun tamamındaki NVLink’ler NVIDIA DGX sistemi NVSwitch yongaları aracılığıyla hızlı, doğrudan bağlantıları paylaşın. Birlikte, sunucudaki her GPU’nun tek bir sistemin parçası olduğu bir NVLink ağını etkinleştirirler.

Daha da fazla performans elde etmek için, DGX sistemlerinin kendileri 32 sunuculuk modüler birimler halinde istiflenebilir ve böylece güçlü, verimli bir bilgi işlem kümesi oluşturulur.

NVLink kullanan DGX sunucu ürünleri ailesinin resmi
NVLink, kullanıcıların modüler NVIDIA DGX sistemlerini bir exaflop’a kadar yapay zeka performansıyla bir SuperPOD’a kolayca ölçeklendirmesine olanak tanıyan temel teknolojilerden biridir.

Kullanıcılar, DGX içindeki bir NVLink ağının bir kombinasyonunu kullanarak 32 DGX sisteminden oluşan modüler bir bloğu tek bir AI süper bilgisayarına bağlayabilir ve NVIDIA Kuantum-2 Infiniband yapısını aralarında değiştirdi. Örneğin, bir NVIDIA DGX H100 SuperPOD, bir exaflop’a kadar en yüksek AI performansını sağlamak için 256 H100 GPU’yu paketler.

Daha da fazla performans elde etmek için kullanıcılar, Microsoft Azure’un oluşturduğu gibi buluttaki yapay zeka süper bilgisayarlarından yararlanabilir. on binlerce A100 ve H100 GPU. OpenAI gibi gruplar tarafından dünyanın en büyük yapay zeka modellerinden bazılarını eğitmek için kullanılan bir hizmettir.

Ve bu, hızlandırılmış bilgi işlemin gücünün bir örneği daha.


Kaynak : https://blogs.nvidia.com/blog/2023/03/06/what-is-nvidia-nvlink/

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

SMM Panel PDF Kitap indir