NVIDIA, Intel ve İş Ortakları Yapay Zeka Bilgi İşlem Verimliliğini Güçlendiriyor

NVIDIA, Intel ve İş Ortakları Yapay Zeka Bilgi İşlem Verimliliğini Güçlendiriyor



AI, benzeri görülmemiş hızlarda COVID aşıları geliştirmekten kanser teşhisine, otonom araçlara güç sağlamaya ve iklim değişikliğini anlamaya kadar insanlığın en dönüştürücü yeniliklerinin kalbinde yer alıyor.

Neredeyse her endüstri yapay zekayı benimsemekten fayda sağlayacaktır, ancak sinir ağlarının karmaşıklığı arttıkça teknoloji daha fazla kaynak yoğun hale geldi. Bu bilgi işlem altyapısını çalıştırmak için elektrik üretimine sürdürülemez talepler koymaktan kaçınmak için, altta yatan teknolojinin mümkün olduğu kadar verimli olması gerekir.

NVIDIA GPU’ları ve NVIDIA AI platformu tarafından desteklenen hızlandırılmış bilgi işlem, veri merkezlerinin yeni nesil atılımları sürdürülebilir bir şekilde sürdürmesini sağlayan verimliliği sunar.

Ve şimdi, 4. Nesil Intel Xeon Ölçeklenebilir işlemcilerin piyasaya sürülmesiyle aynı zamana denk gelen NVIDIA ve ortakları, enerji açısından verimli yapay zeka için oluşturulmuş yeni nesil hızlandırılmış bilgi işlem sistemlerini başlattı. ile birleştirildiğinde NVIDIA H100 Tensör Çekirdekli GPU’larbu sistemler watt başına daha fazla hesaplama ve problem çözme sağlayarak önceki nesle göre çok daha yüksek performans, daha büyük ölçek ve daha yüksek verimlilik sunabilir.

Yeni Intel CPU’lar kullanılacak NVIDIA DGX H100 sistemleriyanı sıra dünya çapındaki NVIDIA ortaklarından H100 GPU’ları içeren 60’tan fazla sunucuda.

Kurumsal Yapay Zeka için Süper Hız, Verimlilik ve Tasarruf

Yakında çıkacak olan NVIDIA ve Intel destekli sistemler, kuruluşların iş yüklerini yalnızca CPU kullanan geleneksel veri merkezi sunucularından ortalama 25 kat daha verimli bir şekilde çalıştırmalarına yardımcı olacak. Vat başına bu inanılmaz performans, işleri yapmak için daha az güce ihtiyaç duyulduğu anlamına gelir; bu da, veri merkezlerinde bulunan gücün en önemli işleri güçlendirmek için mümkün olduğunca verimli bir şekilde kullanılmasını sağlamaya yardımcı olur.

Önceki nesil hızlandırılmış sistemlerle karşılaştırıldığında, bu yeni nesil NVIDIA hızlandırmalı sunucular, enerji verimliliğini 3,5 kat artırmak için eğitimi ve çıkarımı hızlandırır – bu da yapay zeka veri merkezlerinin 3 kattan fazla daha düşük toplam sahip olma maliyeti sunmasıyla gerçek maliyet tasarrufu anlamına gelir.

Yeni 4. Nesil Intel Xeon CPU’lar, NVIDIA AI’yı Hızlandırmak için Daha Fazla Veri Taşıyor

Yeni 4. Nesil Intel Xeon CPU’nun özellikleri arasında, CPU’dan NVIDIA GPU’lara ve ağa veri aktarım hızlarını ikiye katlayabilen PCIe Gen 5 desteği yer alır. Artırılmış PCIe şeritleri, her sunucuda daha fazla GPU yoğunluğu ve yüksek hızlı ağ iletişimi sağlar.

Daha hızlı bellek bant genişliği, yapay zeka gibi veri açısından yoğun iş yüklerinin performansını artırırken, bağlantı başına saniyede 400 gigabit’e (Gbps) varan ağ hızları, sunucular ve depolama arasında daha hızlı veri aktarımlarını destekler.

H100 PCIe GPU’lara sahip NVIDIA iş ortaklarının NVIDIA DGX H100 sistemleri ve sunucuları, NVIDIA AI Enterpriseverimli kurumsal yapay zekada mükemmellik için eksiksiz bir platform sağlayan uçtan uca, güvenli, bulutta yerel bir yapay zeka geliştirme ve devreye alma yazılımı paketi.

Süper Boyutlu Yapay Zeka için NVIDIA DGX H100 Sistemleri Süper Şarj Verimliliği

Dünyanın önde gelen amaca yönelik yapay zeka altyapısının dördüncü nesli olan NVIDIA DGX H100 sistemleri, hızlandırılmış veri merkezinin işletim sistemi tarafından desteklenen tamamen optimize edilmiş bir platform sağlar. NVIDIA Temel Komutu yazılım.

Her DGX H100 sisteminde sekiz NVIDIA H100 GPU, 10 NVIDIA ConnectX-7 büyük üretken yapay zeka modelleri oluşturmak için gereken performansı sağlamak için ağ bağdaştırıcıları ve çift 4. Nesil Ölçeklenebilir Intel Xeon işlemciler, büyük dil modelleriöneri sistemleri ve daha fazlası.

NVIDIA ağ iletişimi ile birleştirilen bu mimari, yapay zeka eğitimi ve HPC iş yükleri için önceki nesle göre 9 kata kadar daha fazla performans ve hızlandırılmamış X86 çift soketli sunuculara göre 20 ila 40 kata kadar daha fazla performans sunarak ölçekte verimli bilgi işlemi güçlendirir. Daha önce bir dil modelinin yalnızca X86 sunuculardan oluşan bir kümede eğitilmesi için 40 gün gerekiyorsa, Intel Xeon CPU’lar ve ConnectX-7 destekli ağ kullanan NVIDIA DGX H100, aynı işi 1-2 gün gibi kısa bir sürede tamamlayabilirdi.

NVIDIA DGX H100 sistemleri, kurumsal kullanıma hazır, anahtar teslim bir sistemin yapı taşlarıdır NVIDIA DGX SuperPODbir exaflop’a kadar yapay zeka performansı sunarak büyük ölçekli kurumsal yapay zeka dağıtımı için verimlilikte bir sıçrama sağlar.

NVIDIA İş Ortakları Veri Merkezi Verimliliğini Artırıyor

AI veri merkezi iş yükleri için NVIDIA H100 GPU’lar, kuruluşların uygulamaları daha verimli bir şekilde oluşturmasına ve dağıtmasına olanak tanır.

ASUS, Atos, Cisco, Dell Technologies, Fujitsu, GIGABYTE, Hewlett dahil olmak üzere NVIDIA ortaklarından dünya çapındaki işletmelere yeni nesil performans ve enerji verimliliği getiren H100 GPU’lar ve 4. Packard Enterprise, Lenovo, QCT ve Supermicro.

Verimlilik kazanımlarının öncüsü olarak, Flatiron Enstitüsü’nün NVIDIA H100 GPU’lu Lenovo ThinkSystem’i en son Green500 listesinin başında geliyor ve NVIDIA teknolojileri, listedeki ilk 30 sistemin 23’üne güç veriyor. Flatiron sistemi, önceki nesil Intel CPU’ları kullanır, dolayısıyla şu anda piyasaya çıkan sistemlerden daha da fazla verimlilik beklenmektedir.

Ek olarak, sunucuları NVIDIA ConnectX-7 ağı ve Intel 4. Nesil Ölçeklenebilir Xeon işlemcilerle bağlamak verimliliği artıracak ve altyapı ile güç tüketimini azaltacaktır.

NVIDIA ConnectX-7 bağdaştırıcıları, Ethernet veya InfiniBand kullanan bağlantı başına PCIe Gen 5 ve 400 Gbps’yi destekleyerek sunucular ve depolama arasında ağ verimini ikiye katlar. Adaptörler, gelişmiş ağ, depolama ve güvenlik boşaltmalarını destekler. ConnectX-7, gereken kablo ve anahtar bağlantı noktası sayısını azaltarak, GPU ile hızlandırılmış büyük HPC ve AI kümelerinin ağ bağlantısı için gereken elektrikte %17 veya daha fazla tasarruf sağlar ve bu yeni sunucuların daha iyi enerji verimliliğine katkıda bulunur.

NVIDIA Yapay Zeka Kurumsal Yazılımı Tam Yığınlı Yapay Zeka Çözümü Sunuyor

Bu yeni nesil sistemler, NVIDIA AI Enterprise yazılım paketi için optimize edildikleri için operasyonel verimlilikte de bir sıçrama sağlıyor.

NVIDIA H100 üzerinde çalışan NVIDIA AI Enterprise, veri bilimi ardışık düzenini hızlandırır ve temel süreçleri otomatikleştirmek ve verilerden hızlı içgörüler elde etmek için tahmine dayalı yapay zeka modellerinin geliştirilmesini ve devreye alınmasını kolaylaştırır.

Referans uygulamalarının yapay zeka iş akışları, çerçeveler, önceden eğitilmiş modeller ve altyapı optimizasyonu dahil olmak üzere kapsamlı bir tam yığın yazılım kitaplığıyla yazılım, kurumsal yapay zeka başarısını ölçeklendirmek için ideal bir temel sağlar.

NVIDIA AI Enterprise’da desteklenen AI iş akışlarını ve çerçevelerini çalıştıran NVIDIA H100’ü denemek için şuraya kaydolun: NVIDIA Başlatma Paneli ücretsiz.

NVIDIA’nın kurucusu ve CEO’su Jensen Huang’ı izleyin 4. Nesil Intel Xeon Ölçeklenebilir işlemci lansman etkinliğinde konuşun.


Kaynak : https://blogs.nvidia.com/blog/2023/01/10/intel-partners-ai-computing-efficiency/

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

SMM Panel PDF Kitap indir