Sürüş Verimliliği, Sıvı Soğutmalı GPU’lar Computex’te Tanıtıldı
İklim değişikliğini durdurmak için dünya çapındaki çabalarda Zac Smith, hem yüksek performans hem de enerji verimliliği sağlayan veri merkezleri oluşturmaya yönelik büyüyen hareketin bir parçasıdır.
Kendisi, 240’tan fazla veri merkezini yöneten ve sektöründe iklim nötr olmayı hedefleyen ilk şirket olmayı taahhüt eden küresel bir hizmet sağlayıcısı olan Equinix’te uç altyapının başındadır.
“Bu yolculukta yardım için bize güvenen 10.000 müşterimiz var. 2000’lerin başında New York’ta müzisyen arkadaşları için web siteleri kuran Julliard mezunu Smith, genellikle yapay zeka ile daha fazla veri ve daha fazla zeka talep ediyorlar ve bunu sürdürülebilir bir şekilde istiyorlar” dedi.
Verimlilikteki İlerlemeyi İşaretlemek
Nisan ayı itibarıyla Equinix, 4.9 milyar dolarlık yeşil tahvil ihraç etti. Bunlar, Equinix’in, bir veri merkezinin kullandığı enerjinin ne kadarının doğrudan bilgi işlem görevlerine gittiğine ilişkin bir endüstri metriği olan güç kullanım etkinliğini (PUE) optimize ederek çevresel etkiyi azaltmak için uygulayacağı yatırım düzeyinde araçlardır.
Veri merkezi operatörleri, bu oranı ideal 1,0 PUE’ye her zamankinden daha yakın hale getirmeye çalışıyor. Equinix tesisleri, bugün en iyi yeni veri merkezlerinin 1,2’nin altına düşmesiyle ortalama 1,48 PUE’ye sahip.
İleriye dönük bir başka adım olarak, Equinix Ocak ayında enerji verimliliğindeki ilerlemeleri takip etmek için özel bir tesis açtı. Bu çalışmanın bir kısmı sıvı soğutmaya odaklanıyor.
Ana bilgisayar çağında doğan sıvı soğutma, yapay zeka çağında olgunlaşıyor. Artık doğrudan çipli soğutma adı verilen modern bir biçimde dünyanın en hızlı süper bilgisayarlarında yaygın olarak kullanılmaktadır.
Sıvı soğutma, AI çıkarımı ve yüksek performanslı bilgi işlem işlerinde CPU’lardan 20 kata kadar daha iyi enerji verimliliği sağlayan NVIDIA GPU’lar için hızlandırılmış bilgi işlemin bir sonraki adımıdır.
Hızlanma Yoluyla Verimlilik
Dünya çapında AI ve HPC çalıştıran yalnızca CPU’ya yönelik tüm sunucuları GPU hızlandırmalı sistemlere geçirirseniz, yılda 11 trilyon watt saat enerji tasarrufu yapabilirsiniz. Bu, yılda 1,5 milyondan fazla evin tükettiği enerjiden tasarruf etmek gibi bir şey.
Bugün NVIDIA, doğrudan çipli soğutma kullanan ilk veri merkezimiz PCIe GPU’nun piyasaya sürülmesiyle sürdürülebilirlik çabalarına katkıda bulunuyor.
Equinix, A100 80GB PCIe Sıvı Soğutmalı GPU sürdürülebilir soğutma ve ısı yakalamaya yönelik kapsamlı bir yaklaşımın parçası olarak veri merkezlerinde kullanım için. GPU’lar şu anda örnekleniyor ve bu yaz genel olarak satışa sunulacak.
Su ve Güç Tasarrufu
Smith, “Bu, laboratuvarımıza tanıtılan ilk sıvı soğutmalı GPU’yu işaret ediyor ve bu bizim için heyecan verici çünkü müşterilerimiz AI’dan yararlanmanın sürdürülebilir yollarına açlar” dedi.
Veri merkezi operatörleri, veri merkezlerinin içindeki havayı soğutmak için yılda milyonlarca galon suyu buharlaştıran soğutucuları ortadan kaldırmayı amaçlıyor. Sıvı soğutma, önemli sıcak noktalara odaklanan kapalı sistemlerde az miktarda sıvıyı geri dönüştüren sistemler vaat ediyor.
“Atığı bir varlığa dönüştüreceğiz” dedi.
Aynı Performans, Daha Az Güç
Ayrı testlerde hem Equinix hem de NVIDIA, sıvı soğutma kullanan bir veri merkezinin, yaklaşık yüzde 30 daha az enerji kullanırken hava soğutmalı bir tesisle aynı iş yüklerini çalıştırabileceğini buldu. NVIDIA, sıvı soğutmalı veri merkezinin hava soğutmalı kuzeni için 1,6’nın çok altında 1,15 PUE’ye ulaşabileceğini tahmin ediyor.
Sıvı soğutmalı veri merkezleri, aynı alana iki kat daha fazla bilgi işlem sığdırabilir. Bunun nedeni, A100 GPU’ların yalnızca bir PCIe yuvası kullanmasıdır; hava soğutmalı A100 GPU’lar iki tane doldurur.
En az bir düzine sistem üreticisi, bu GPU’ları bu yıl içinde tekliflerine dahil etmeyi planlıyor. Bunlara ASUS, ASRock Rack, Foxconn Endüstriyel İnternet, GIGABYTE, H3C, Inspur, Inventec, Nettrix, QCT, Supermicro, Wiwynn ve xFusion dahildir.
Küresel Bir Trend
Asya, Avrupa ve ABD’de enerji verimliliği standartlarını belirleyen düzenlemeler beklemede. Bu, bankaları ve diğer büyük veri merkezi operatörlerini de sıvı soğutmayı değerlendirmeye motive ediyor.
Ve teknoloji veri merkezleriyle sınırlı değil. Arabalar ve diğer sistemler, kapalı alanlara gömülü yüksek performanslı sistemleri soğutmak için buna ihtiyaç duyar.
Sürdürülebilirliğe Giden Yol
Smith, sıvı soğutmalı ana akım hızlandırıcıların ilk çıkışı için “Bu bir yolculuğun başlangıcı” dedi.
Gerçekten de, gelecek yıl A100 PCIe kartının H100 Tensör Çekirdek GPU göre NVIDIA Hazne mimarisi. Yakın gelecekte yüksek performanslı veri merkezi GPU’larımızda ve NVIDIA HGX platformlarımızda sıvı soğutmayı desteklemeyi planlıyoruz.
Hızla benimsenmesi için günümüzün sıvı soğutmalı GPU’ları, daha az enerji için aynı performansı sunar. Gelecekte, bu kartların aynı enerji için daha fazla performans elde etme seçeneği sunmasını bekliyoruz, bu da kullanıcıların istediklerini söyledikleri bir şey.
Smith, “Yalnızca watt değerini ölçmek önemli değil, sahip olduğunuz karbon etkisi için elde ettiğiniz performans, gitmemiz gereken şey,” dedi.
Yeni ürünümüz hakkında daha fazla bilgi edinin A100 PCIe sıvı soğutmalı GPU’lar.
Kaynak : https://blogs.nvidia.com/blog/2022/05/23/liquid-cooled-gpus-computex/