Sıcak Suyla Soğutma: Yapay Zeka Altyapısı için Yeni Standart

  • Raf başına 50 kW'ı aşan güç yoğunlukları nedeniyle doğrudan çipe sıvı soğutmaya geçiş zorunludur.
  • 45 °C'ye kadar sıcak su kullanımı, soğutma cihazlarına olan ihtiyacı ortadan kaldırır ve su ve enerji tüketimini önemli ölçüde azaltır.
  • Elektrik dağıtımı ve termal yönetim arasındaki koordineli entegrasyon, hesaplama verimliliğini %33'e kadar artırabilir.

Yapay zekâ için soğutma sistemleri

Veri merkezlerinde termal yönetim artık basit bir teknik ayrıntı olmaktan çıkıp, önemli bir unsur haline gelmiştir. yaşayabilirliği tanımlayan merkezi eksen Yapay Zekanın patlamasıyla birlikte, güç yoğunluğu 50 kW'ı aşan raflar görüyoruz; bu da geleneksel klima sistemlerini yetersiz ve tamamen kullanılamaz hale getiriyor. Bu yavaş bir değişim değil, aksine hızlı bir değişim. sıvı soğutmaya ani geçiş Artık bir laboratuvar deneyi olmaktan çıkıp, rekabetçi kalmak isteyen her sistemin temelini oluşturan işlemciye doğrudan erişim.

Bu yeni senaryoda, kavramı şu şekildedir: sıcak su soğutmaSoğutma sıvısının 40 hatta 45 °C'nin üzerindeki sıcaklıklarda girdiği soğutma sistemlerinin kullanımı, veri merkezi tasarımını tamamen değiştiriyor. Bu sadece soğutma sıvısını değiştirmek meselesi değil; temel bir dönüşüm. elektrik mimarisini yeniden düşünmek ve dağıtım sistemleri. Günümüzde başarı, yalnızca PUE ile ölçülmüyor, elektrik şebekesine bağlı her kilovattan ne kadar gerçek işlem gücü elde edilebileceğinin değerlendirilmesiyle ölçülüyor; bu da termal verimliliği önemli bir konu haline getiriyor. İşletme için saf ve basit bir karlılık..

Veri merkezleri için yapay zeka altyapısı
İlgili makale:
Yapay zekâ veri merkezi altyapısı devrimi, enerji ve teknolojik egemenliği yeniden tanımlıyor.

Teknik sıçrama: Neden sıcak su kullanılır?

İlk bakışta, çipleri 45°C'lik suyla soğutmak çılgınca, neredeyse jakuzi suyu kullanmak gibi geliyor, ancak verimliliğin sihri tam olarak burada yatıyor. Mantık basit: dolaşan sıvının sıcaklığı ne kadar yüksek olursa, Isıyı dışarı atmak daha kolaydır. Bu sayede veri merkezleri, büyük miktarda enerji tüketen kompresörler veya soğutucular kullanmaya gerek kalmadan dışarıya ısı aktarabilir. Bu da veri merkezlerinin daha verimli bir şekilde çalışmasını sağlar. kapalı devre kuru soğutucularBu sayede, buharlaşmalı soğutmaya olan bağımlılık neredeyse tamamen ortadan kalkar ve elverişli iklimlerde su tüketimi sıfıra yakın seviyeye iner.

Bunun gerçekleşmesi için aşağıdakiler şarttır: İç mikroyapılara sahip gelişmiş soğutma plakalarıBu yüksek hassasiyetli bileşenler, ısının %80 ila %90'ının doğrudan GPU veya CPU'da yakalanmasını sağlar. Anakart vasat ise sistem başarısız olur; yüksek kaliteli ise, ısı çip seviyesinde o kadar etkili bir şekilde yönetilebilir ki, daha önce hava soğutmaya harcanan enerji bütçesi artık başka alanlara yönlendirilebilir. Daha fazla GPU'ya güç sağlamak için yönlendirmeBu durum, işlem gücünde bir artış anlamına gelir ve aşağıdakilerle uyumludur: termal donanım devrimi gerçek.

Intel ve Foxconn yapay zeka altyapısı için ittifak kurdu.
İlgili makale:
Intel ve Foxconn, küresel yapay zeka altyapısını dönüştürmek için güçlerini birleştiriyor.

Kritik bileşenler: CDU ve ağ mimarisi

Bu sistemin kalbi, Soğutucu Akışkan Dağıtım Üniteleridir veya Akıllı CDU'larBu üniteler sadece sıvıyı hareket ettirmekle kalmaz, aynı zamanda soğutmayı elektrik mimarisiyle koordine eden beyin görevi de görürler. Her iki sistem birlikte tasarlandığında, Çipten ağa kadar çok daha yüksek güvenilirlik.CDU'nun operasyonel bir darboğaz haline gelmesini önlemek.

  • Soğuk Tabaklar: 1.500 W'a kadar termal çıkışları kaldıracak şekilde tasarlanmıştır ve NVIDIA, AMD veya Intel işlemcilerle uyumludur.
  • Akıllı CDU'lar: 105 kW ile 2,3 MW arasında değişen akış hızlarını ve kapasiteleri yönetebiliyorlar.
  • Raf manifoldları: Paslanmaz çelikten üretilmiş kollektörler, plakalar ve CDU arasındaki akışın sorunsuz ve sızıntısız olmasını sağlar.
  • Arka Kapı Isı Eşanjörleri (RDHx): 75 kW'a kadar kapasiteyle sıvı soğutmalı hava kullanarak ısıyı uzaklaştıran çözümler.

Bu teknolojilerin uygulanması, sıvı soğutmanın mümkün olmasını sağlar. Havadan 3.000 kata kadar daha etkili Isı enerjisini yakalamak için. Dahası, gürültüyü ve karbon emisyonlarını azaltarak, çok daha sürdürülebilir ve güvenli çalışma ortamları yaratılır ve CRAH'lar veya geleneksel kondenserler gibi ağır altyapılara olan bağımlılık azalır.

Intel 18a'nın özellikleri ve vaatleri
İlgili makale:
Intel 18A: Özellikleri, Vaatleri ve Yapay Zekaya Etkisi

"Yapay Zeka Fabrikaları"nın ekonomik etkisi ve vizyonu

Veri merkezini sunucularla dolu bir soğuk oda olarak görmekten, onu bir bütün olarak anlamaya doğru ilerliyoruz. optimize edilmiş endüstriyel tesisBu "yapay zeka fabrikası" konsepti, token üretimini ve büyük ölçekli modellerin eğitimini en üst düzeye çıkarmayı hedefliyor. Sektör verilerine göre, gelişmiş sıvı soğutmanın entegrasyonu önemli bir katkı sağlayabilir. %20 ile %40 arasında enerji tasarrufuBu durum, doğrudan kar ve zarar tablosunu etkiler.

NVIDIA gibi devlerin DSX ve Rubin nesli gibi referans platformlarıyla izledikleri strateji, şuna işaret ediyor: %100 sıvı soğutmalı altyapıBu, dahili fanların tamamen ortadan kaldırılmasını, ağ iletişimi, bilgi işlem ve gücün tek bir ekosisteme entegre edilmesini içerir. Termal tasarımın optimize edilmesiyle, [yüzde eksik] oranına kadar verimlilik elde etmek mümkündür. %33 daha fazla hesaplama çıktısı Elektrik bağlantısı başına daha fazla güç sağlayarak, daha az metrekareye daha fazla enerji sığdırılmasını mümkün kılar.

Bu her derde deva gibi görünse de, iyi ayarlanmış bir hava soğutma sisteminden sıvı soğutma sistemine geçiş, işletme riskleri ve önemli entegrasyon karmaşıklığı içerir. Ancak, raflar 50 kW'ı aştığında, Sıvı soğutma artık isteğe bağlı değil.Yüksek performanslı bilgi işlem (HPC) veya bilimsel hesaplama için artık bir lüks değil, ekipmanın aşırı ısınma nedeniyle arızalanmasını veya kullanım ömrünün kısalmasını önlemek için Büyük Dil Modellerinin (LLM) iş yükünü sürdürmek için vazgeçilmez bir gerekliliktir.


Google'da tercih edilen kaynak olarak ekleyin.