Yapay Zeka Veri Merkezleri Soğutmasında Sıcak Su Devrimi

  • 50 kW'ı aşan güçteki raflar nedeniyle hava soğutmadan doğrudan sıvı soğutma sistemlerine geçiş zorunludur.
  • 45 °C sıcaklıktaki sıvılarla 'sıcak su soğutma' tekniğinin uygulanmasıyla fanlara olan ihtiyaç ortadan kaldırılacak ve su tüketimi azaltılacaktır.
  • Akıllı CDU'lar ve mikro yapılı soğutma plakaları kullanılarak enerji verimliliği ve işlem kapasitesi optimize edilmiştir.
  • Büyük ölçekli bulut bilişim şirketlerinin su pozitifliğine ve kapalı devreler yoluyla buharlaşmanın ortadan kaldırılmasına yönelik taahhütleri.

Yapay zekâ için soğutma sistemleri

Veri merkezlerinde ısı yönetimi, basit bir teknik ayrıntı olmaktan çıkıp, en önemli unsurlardan biri haline geldi. belirleyici duvar Yapay zekanın yaygınlaştırılması için. Çok yönlü dil modelleri ve üretken yapay zekanın ortaya çıkmasıyla acımasız bir gerçekle karşılaştık: 50 kW'ı aşan güç yoğunluğuna sahip raflar var ve bu da geleneksel klima sistemlerini adeta bir şaka haline getiriyor. Bu geçiş sorunsuz olmadı, aksine... sıvı soğutmaya ani geçiş Doğrudan çipe işleme, artık birkaç kişinin deneyi olmaktan çıkıp, bu sektörde rekabet etmek isteyen herkes için norm haline geldi.

Bu senaryoda, ilk başta çılgınlık gibi gelen bir fikir ortaya çıkıyor: sözde sıcak su soğutmaTemelde, dünyanın en güçlü işlemcilerini soğutmak için jakuzi sıcaklığını andıran, 40 ila 45 °C arasındaki su kullanmayı içeriyor. Bu sadece borulardaki sıvıyı değiştirmekle ilgili değil, elektrik mimarisini yeniden tasarlayın ve dağıtım sistemleri, böylece verimlilik sadece PUE cinsinden değil, elektrik şebekesine bağlı her watt'tan ne kadar gerçek işlem gücü elde edebileceğimiz cinsinden de ölçülür.

Yapay zekâ için sıcak su soğutma
İlgili makale:
Sıcak su soğutma: Üretken yapay zekanın termal anahtarı

Sıcak su soğutma paradigması

İlk bakışta, bir sunucuya sıcak su dökmek felaketle sonuçlanacak bir durum gibi görünebilir, ancak fizik kuralları açık. Yapay zeka çipleri o kadar büyük miktarda ısı üretir ki, bir sıvının (örneğin bir sıvı) %75 su ve %25 propilen glikol 45°C'de bile girse, bu termal yükü hiç zorlanmadan emebilir. Sıvı ısıyı emer ve devreden yaklaşık 55°C'de çıkarak silikonun bütünlüğünü korur ve şunu sağlar: işlemcinin performansı düşmez. kesinlikle.

Nvidia'nın Rubin gibi mimarileriyle desteklenen bu sistemin parlaklığı, çok yüksek bir sıcaklıktan başlayarak, dış hava ile arasındaki sıcaklık farkının sistemin çalışması için yeterince büyük olmasında yatmaktadır. ılıman iklimlerde pasif formBu sayede, gürültü seviyesini genellikle 85 desibel üzerine çıkaran gürültülü fanların kullanım dışı bırakılması ve bunların yerine daha sessiz fanların kullanılması mümkün oluyor. devasa dış radyatörler ısıyı çok daha verimli ve sessiz bir şekilde dışarı atan sistemler.

Bir diğer önemli nokta ise çevresel etkidir. Sadece gerekli olan kapalı devrelerle çalışarak Kullanım ömrü boyunca bir kez doldurun. Bu tesis, aşırı su tüketen buharlaşmalı soğutma kulelerini ortadan kaldırıyor. Nvidia, bunun şu avantajları sağladığını belirtiyor: Su tüketimini neredeyse %100 oranında azalttı. Veri merkezinin içinde, duvarlarının dışında hâlâ zorluklar mevcut; zira enerji üretimi (gaz veya kömür) üretilen her kWh için büyük miktarda su talep etmeye devam ediyor.

Yapay zekâ için sıcak su soğutma
İlgili makale:
Yapay Zeka Altyapısında Sıcak Su Soğutma Devrimi

Hassas Mühendislik: Soğutma Plakaları ve Soğutma Üniteleri

Bu uygulamanın teknolojik bir krize dönüşmesini önlemek için titiz bir koordinasyon gereklidir. İşte burada devreye giriyor... İç mikroyapılara sahip soğuk plakalarÇipten gelen ısının %80 ila %90'ını doğrudan yakalayabilen kartlar mevcuttur. Tüm kartlar aynı kalitede değildir; yüksek hassasiyetli bir kart, güvenilir bir sistem ile sorunlu bir sistem arasındaki farkı yaratır. donanımın ömrünü tehlikeye atmak Zayıf ısı transferi nedeniyle.

Bütün bunların arkasındaki beyinler şunlardır: Akıllı Soğutucu Dağıtım Üniteleri (CDU'lar)Bu üniteler, 105 kW ile 2,3 MW arasında değişen kapasiteleri yöneterek sıvı basıncını ve akışını koordine eder. Bu CDU'lar elektrik mimarisine entegre edildiğinde, işletme düzeyinde büyüleyici bir şey olur: daha önce hava soğutmasına harcanan enerji bütçesi artık başka amaçlar için kullanılabilir. Daha fazla GPU'ya güç sağlamak için yönlendirme.

Eaton verilerine göre, bu optimizasyon şunları temsil edebilir: bilgisayar üretiminde %33'e varan artış Elektrik şebekesine yapılan her bağlantı için. Kısacası, termal kontrol artık bir işletme gideri olmaktan çıkmış ve bir maliyet unsuru haline gelmiştir. doğrudan ekonomik karlılık aracıBu sayede toplam enerji maliyetlerinde %20 ile %40 arasında tasarruf sağlanabilir.

Yapay zekâ için sıcak su soğutma
İlgili makale:
Sıcak Suyla Soğutma: Yapay Zeka Altyapısı için Yeni Standart

Sürdürülebilirlik ve su tüketiminin zorlukları

Gelişmelere rağmen, yapay zeka kaynak yoğun bir makinedir. GPT-3 gibi modellerin eğitimi bile [kaynakları] hızla tüketti. yüz binlerce litre tatlı suBu etkiyi ölçmek için sektör, BT enerjisinin kWh başına tüketilen litre miktarını hesaplayan Su Kullanım Verimliliği (WUE) yöntemini kullanmaktadır. Geleneksel buharlaşmalı soğutma yüksek bir WUE'ye sahip olsa da, kapalı devre tasarımları İdeal değer olan 0.0 L/kWh'ye yaklaşabilirler.

Teknoloji devleri, 2030 için iddialı taahhütlerle oyunlarını şimdiden bir üst seviyeye taşıdılar. Örneğin Microsoft, uygulamaya koyuyor... sıfır buharlaşma tasarımları Bu sayede her bir kurulumda yıllık su tüketimi 125 milyon litreden fazla azaltılabilir. Bu arada Google ve Meta da benzer bir çözüm arayışında. su pozitifliğiÖzellikle Arizona veya Oregon gibi su kıtlığı çeken bölgelerde, tükettiklerinden daha fazla suyu doğaya geri vermeye çalışıyorlar.

Ayrıca daha radikal alternatifler de mevcuttur, örneğin: daldırma soğutmaSunucuların, elektronik aksama zarar vermeyen dielektrik sıvılara daldırıldığı yerlerde, ister tek fazlı ister iki fazlı daldırma (sıvının son derece düşük sıcaklıklarda kaynadığı) yoluyla olsun, amaç şudur: Suya olan bağımlılığı tamamen ortadan kaldırmak ve bazı özel durumlarda enerji tüketimini %82'ye kadar azaltır.

Yapay zekâ fabrikaları çağına doğru

Artık genel geçer veri merkezlerinden değil, gerçek veri merkezlerinden bahsetmeliyiz. Yapay zeka fabrikalarıBu ekosistemde, bilgi işlem, ağ iletişimi ve enerji tek bir varlıkta birleşiyor. Nvidia DSX platformu gibi referans mimarisi, şunu öneriyor: Sıvı soğutma standart hale gelmelidir. Ve bu durum istisna değil; geleneksel klima sistemleriyle elde edilmesi imkansız olan güç yoğunluklarına ulaşılmasını sağlıyor.

Hava tabanlı altyapıdan sıvı tabanlı altyapıya geçiş hiç de kolay bir iş değil; birçok zorluğu beraberinde getiriyor. operasyonel riskler ve entegrasyon karmaşıklığı Önemli bir fark var. Ancak, raflar 50 kW'ı aştığında, bu geçiş bir seçenek olmaktan çıkıp zorunlu hale gelir. hayatta kalmak için vazgeçilmez bir gereklilik Donanımın özellikleri göz önüne alındığında, serbest soğutma ve yağsız santrifüjlü soğutucuların kombinasyonu, ham gücü donanımla birleştirmenin mümkün olduğunu göstermektedir. Yapay zeka veri merkezi altyapısı ve ekolojik sorumluluk.

45°C'lik suyun soğutucu olarak yaygın kullanımı, teknolojik altyapının uygulanabilirliğini yeniden tanımlıyor. Silikondan elektrik şebekesine ısı akışını optimize ederek, sektör yeni olanaklar sağlıyor. işlem gücü artıyor Su ve enerji tüketiminin aşılmaz bir engel haline gelmemesi, dil modellerinin sürdürülebilir ve karlı bir şekilde genişlemeye devam etmesine olanak tanır.

Intel ve Foxconn yapay zeka altyapısı için ittifak kurdu.
İlgili makale:
Intel ve Foxconn, küresel yapay zeka altyapısını dönüştürmek için güçlerini birleştiriyor.

Google'da tercih edilen kaynak olarak ekleyin.