Size dünyanın en güçlü işlemcilerini soğutmanın çözümünün şunu kullanmak olduğunu söylesem... jakuzi sıcaklığında sıcak suMuhtemelen aklımı kaçırdığımı düşünüyorsunuz. Ancak Nvidia, yapay zekâ çağının en büyük sorunlarından biri olan aşırı sıcaklık ve su kaynaklarının aşırı tüketimi sorununu çözmek için tam da bu önermeyi ortaya koyuyor.
Üretken yapay zeka ve büyük ölçekli dil modelleri, sunucu raflarının geleneksel klima sistemlerini tamamen etkisiz hale getirecek güç yoğunluklarına ulaşmasına yol açtı. Bahsettiğimiz ekipman o kadar çok ısı üretiyor ki... Çipe doğrudan sıvı soğutma Bu artık bir lüks veya meraklılar için bir deney değil, günümüzde rekabetçi bir altyapı kurmak isteyen herkes için zorunlu bir norm haline geldi.
"Jakuzi etkisi" kavramı ve uygulamalı fizik
Nvidia'nın bu hamlesi, ne kadar sezgisel olmayan bir yaklaşım olduğu için gerçekten dahice. Oyun bilgisayarlarındaki sıvı soğutma genellikle 25 veya 30°C civarında çalışırken, Jensen Huang'ın şirketinin yeni yapay zeka sunucuları çok daha düşük bir sıcaklıkta çalışıyor. 45°C'de bir giriş sıvısıBu kadar sıcak bir şeyin bir çipi soğutması nasıl mümkün olabilir? Cevap termal farklılıkta yatıyor: Yapay zeka işlemcileri o kadar ısınıyor ki, bunlardan oluşan bir sıvı bir çipi soğutamıyor. %75 su ve %25 propilen glikol Bu ısıyı hiç zorlanmadan emebiliyor ve silikonun performansını etkilemeden devreyi yaklaşık 55ºC'de tutabiliyor.
Bu kadar yüksek bir başlangıç sıcaklığından yola çıkan sistem, dış sıcaklıkla arasındaki farktan faydalanabilir. pasif olarak işlev görmek Çoğu ılıman iklimde. Bu, gürültü seviyesini genellikle 85 desibelden fazla artıran gürültülü ve enerji yoğun fanların, devasa harici radyatörlerle değiştirilmesine olanak tanır. kuru soğutucularBöylece çalışma ortamı ve elektrik faturası optimize edilmiş olur.
Rubin Mimarlık: Hayranlara veda
Rubin mimarisinin gelişiyle Nvidia, bir ilki sunarak cesur bir açıklama yaptı. %100 sıvı soğutmalı altyapıÖnceki hibrit sistemlerde yalnızca GPU'lar veya CPU'lar soğutulurken geri kalan bileşenler hava soğutmasına bağlıyken, burada tüm bileşenler ve ağ çipleri devreye entegre edilmiştir. Bunu başarmak için sunucu anakartları yalıtılmış ve sıvının yolu tek bir giriş ve çıkışa sahip olacak şekilde yeniden tasarlanmıştır. temiz ve sızdırmaz ön yüzler Bu sayede aynı alana çok daha fazla hesaplama sığdırılabilir.
Hassas Mühendislik: CDU'lar ve Soğutma Plakaları
Bu uygulamanın su felaketiyle sonuçlanmasını önlemek için titiz bir koordinasyon şarttır. Sistemin kalbinde ise şunlar yer almaktadır: Soğutucu Akışkan Dağıtım Üniteleri (CDU'lar)Bu pompalar, basıncı, akış hızını ve sıvı arıtmayı yöneten bir beyin görevi görür ve 105 kW ile 2,3 MW arasında güç çıkışlarını kaldırabilir. Ayrıca, bu pompalar çeşitli amaçlarla kullanılır. Mikro yapılı soğuk plakalar İşlemciden gelen ısının %90'ına kadarını doğrudan yakalayabilme özelliğine sahiptir.
- Raf manifoldları: Sızıntıları önleyen ve sıvıyı her bir GPU'ya dağıtan paslanmaz çelik toplayıcılar.
- Doğrudan Çipe Sistemler: Isı enerjisini iletmede havadan 3.000 kat daha verimli olduğu ortaya çıkan bir teknoloji.
- RDHx (Arka Kapı Isı Eşanjörleri): Arka kapıda bulunan ve 75 kW'a kadar kapasiteye sahip ısı eşanjörleri.
Bu uygulamanın tamamının doğrudan ekonomik bir etkisi var. Odanın havasını soğutmak için enerji israfı ortadan kalktığı için, bu elektrik bütçesi daha fazla GPU'yu çalıştırmak için yeniden yönlendirilebilir; bu da önemli bir tasarruf anlamına gelir. Bilgisayar üretiminde %33 artış her ağ bağlantısı için.
Su tüketimine karşı mücadele ve su kullanım verimliliği (WUE)
En kritik noktalardan biri çevresel etkidir. GPT-3 gibi eğitim modelleri 700.000 litreye kadar tatlı suyu buharlaştırmıştır. Bunu ölçmek için sektör şu yöntemi kullanmaktadır: Su Kullanım Verimliliği (WUE)Bu, BT enerjisinin kWh başına tüketilen litre miktarını hesaplar. Geleneksel buharlaşmalı soğutmanın çok yüksek bir WUE'si (su kullanım verimliliği) varken, Nvidia ve Microsoft'un kapalı devre sistemleri buna yaklaşmayı hedefliyor. 0.0 L/kWh ideal değeri.
Esasen, bu sistemler yalnızca tesisin ilk doldurulması sırasında suya ihtiyaç duyar. Soğutucu akışkanın sürekli olarak devridaim ettirilmesiyle, buharlaştırma kuleleri ortadan kalkar ve bu da Su tüketimini neredeyse %100 oranında azalttı. Veri merkezinin içinde. Google ve Meta gibi devler, tükettiklerinden daha fazla suyu doğaya geri kazandırmayı hedefleyerek 2030 yılına kadar su pozitifliğine ulaşmayı taahhüt ettiler bile.
Enerji sorunu ve radikal alternatifler
Her şey güllük gülistanlık değil. Veri merkezinin dört duvarı içinde su sorunu çözülse bile, enerji tüketimi kontrol altına alınması zor bir sorun olmaya devam ediyor. Doğal gaz veya kömür kullanarak elektrik üretmek hala belirli bir miktarda enerji gerektiriyor. çok miktarda su (kömür santrallerinde kWh başına 2,2 litreye kadar), bu da toplam su ayak izinin enerji üretimine doğru kaydığı anlamına gelir.
Bununla mücadele etmek için, daha da agresif alternatifler ortaya çıkıyor, örneğin: daldırma soğutmaBu durumda, sunucular elektronik aksamlara zarar vermeyen dielektrik sıvılara tamamen daldırılır. Tek fazlı veya iki fazlı daldırma (sıvının çok düşük sıcaklıklarda kaynadığı) yoluyla olsun, amaç şudur: su ihtiyacını tamamen ortadan kaldırır ve bazı özel durumlarda enerji tüketimini %82'ye kadar azaltır.
Veri merkezlerinin adeta yapay zeka fabrikalarına dönüşümü, teknoloji altyapısının karlılığını yeniden tanımlıyor. Silikondan dışarıya ısı akışını optimize ederek ve mekanik stresi azaltmak için çalışma sıcaklıklarını yükselterek, sektör, su ve enerji tüketiminin dil modellerinin gelişimini engellemeden işlem gücünün ölçeklenmesini sağlıyor.
