Yapay Zeka için Sıcak Su Soğutma

  • Yüksek yoğunluklu GPU'lardan kaynaklanan ısıyı dağıtmak için 45°C'lik su sistemlerinin uygulanması.
  • Su tüketimini azaltmak için buharlaştırmalı kulelerin kapalı devre sistemlerle değiştirilmesi.
  • Soğutma plakaları ve CDU'ların kullanımıyla işlem kapasitesi %33'e kadar optimize edilebilir.
  • Tamamen sıvı soğutmalı yapay zeka fabrika mimarisine geçiş.

Yapay zekâ için soğutma sistemleri

Veri merkezlerinde sıcaklık yönetimi, basit bir mühendislik ayarlamasından, karmaşık bir sürece dönüştü. Yapay zeka gücünün ne kadar olacağını belirleyen merkezi eksen Aslında uygulanabilir. Büyük ölçekli dil modellerinin (LLM) ve üretken yapay zekanın devreye alınmasıyla, 50 kW'ı aşan yoğunluğa sahip raflarla karşılaştık; bu rakam, böyle bir termal yük karşısında geleneksel klima sistemlerini tamamen işlevsiz hale getiriyor.

Bu değişim sorunsuz bir süreç olmadı, aksine... ani bir sıçrama Çipe doğrudan sıvı soğutmaYakın zamana kadar birkaç meraklının deneyi gibi görünen şey, artık yeni nesil teknolojik altyapıda rekabet etmek isteyen her şirket için standart mimari haline geldi ve veri merkezlerinin verimliliği ve ekonomik karlılığı hakkındaki anlayışımızı dönüştürdü.

Yapay zekâ için sıcak su soğutma
İlgili makale:
Sıcak Su Soğutma: Yapay Zekanın Termal Devrimi

Sıcak suyla soğutmanın çığır açan konsepti

Bu alana aşina olmayanlar için, dünyanın en gelişmiş donanımlarını soğutmak için jakuzi sıcaklığına benzer sıcaklıktaki su kullanma fikri tamamen gerçeküstü gelebilir. Ancak fizik yalan söylemez: Yapay zeka çipleri o kadar çok termal enerji üretir ki, bir sıvıdan oluşan bir karışım... %75 su ve %25 propilen glikol Isıyı hiç zorlanmadan emebilir. Bu sistemde sıvı, devreye yaklaşık 40°C veya 45°C'de girer ve yaklaşık 55°C'de çıkarak silikonun bütünlüğünü korur ve performansta ani bir düşüşü önler.

Bu tekniğin gerçekten dahice olan yanı, başlangıç ​​sıcaklığının bu kadar yüksek olmasından dolayı, dış hava ile sıcaklık farkının yeterince büyük olmasıdır. sistem pasif olarak çalışır Çoğu iklimde, bu durum büyük dış radyatörlerin kurulumuna olanak tanır ve genellikle gürültü seviyesini 85 desibelin üzerine çıkaran gürültülü fanlara olan ihtiyacı ortadan kaldırarak çalışma ortamını çok daha keyifli ve verimli hale getirir.

Sıvı soğutma teknolojisi

Yapay zekâ için sıcak su soğutma
İlgili makale:
Sıcak su soğutma: Nvidia'nın yapay zekaya getirdiği çığır açıcı yenilik.

Hassas mühendislik: sistemin kalbi

Bu konuşlandırmanın operasyonel bir felaketle sonuçlanmasını önlemek için bileşenlerin hassas bir şekilde koordine edilmesi şarttır. İşte burada devreye giriyor... İç mikroyapılara sahip gelişmiş soğutma plakalarıBu devre kartları, çipten gelen ısının %80 ila %90'ını doğrudan yakalayabilme özelliğine sahiptir. Ancak her devre kartı uygun değildir; yüksek hassasiyetli bir devre kartı, sistemin sıcak suyla bile güvenilir kalmasını sağlarken, vasat bir devre kartı donanımın ömrünü önemli ölçüde kısaltabilir.

Sistem, çeşitli temel teknolojik sütunlara dayanmaktadır:

  • Akıllı CDU'lar: Bu soğutucu dağıtım üniteleri, 105 kW'tan 2,3 MW'a kadar basınç ve akışı yöneten bir beyin görevi görür.
  • Raf manifoldları: Paslanmaz çelikten üretilmiş toplayıcılar, sıvının sızıntı olmadan her bir GPU'ya ulaşmasını sağlar.
  • Doğrudan Çipe Sistemler: Bir teknoloji ki Havadan 3.000 kat daha etkili Isı enerjisini taşımak için.
  • RDHx (Arka Kapı Isı Eşanjörleri): Arka kapı ısı eşanjörleri, 75 kW'a kadar kapasiteyle sıvı soğutmalı hava kullanarak ısıyı uzaklaştırır.

Bu bileşenler elektrik mimarisine entegre edildiğinde, büyüleyici bir ekonomik olgu ortaya çıkıyor. Daha önce soğutma havasına harcanan enerji bütçesi artık daha fazla GPU'yu çalıştırmak için yeniden yönlendiriliyor. Eaton'a göre bu, önemli bir ekonomik etki yaratabilir. bilgisayar üretiminde %33'e varan artış Elektrik şebekesine yapılan her bağlantı için dönüştürme işlemi Isı kontrolü, doğrudan iş aracı olarak.

Yapay zekâ için sıcak su soğutma
İlgili makale:
Yapay Zeka Veri Merkezleri Soğutmasında Sıcak Su Devrimi

Su sorunu ve sürdürülebilirlik

Gelişmelere rağmen, yapay zeka kaynakları şaşırtıcı bir hızla tüketen bir makinedir. Bu etkiyi ölçmek için sektör, Su Kullanım Verimliliği (WUE)Bu, BT enerjisinin kilowatt-saat başına tüketilen su miktarını litre cinsinden hesaplar. Geleneksel buharlaşmalı soğutmanın çok yüksek bir WUE'si (su kullanım verimliliği) varken, kapalı devre sıvı soğutma bu değere yaklaşabilir. 0.0 L/kWh ideal değeri.

Microsoft gibi dev şirketler, tesis başına yılda 125 milyon litreden fazla su kaybını azaltmak için sıfır buharlaşma tasarımları uyguluyor. Bu arada Google ve Meta da taahhütte bulundu. 2030 için su pozitifliğiTükettiklerinden daha fazla su kaynağı temin etmeye çalışıyorlar. Bu adım hayati önem taşıyor çünkü 135 kW'a ulaşabilen GPU raflarının güç yoğunluğu, Arizona gibi kritik bölgelerde yerel su kaynaklarını riske atıyor.

Ayrıca daha radikal alternatifler de mevcuttur, örneğin: daldırma soğutmaİster tek fazlı ister faz değişimli soğutma (sıvının düşük sıcaklıklarda kaynadığı) yoluyla olsun, amaç su kullanımını tamamen ortadan kaldırmak ve belirli durumlarda enerji tüketimini %82'ye kadar azaltmaktır. Nvidia'nın Rubin mimarisi durumunda, su devresinin yalnızca bir kez doldurulması gerekir; bu da gerçek birer su canavarı olan buharlaştırma kulelerinin ortadan kaldırılmasını sağlar.

Yapay zekâ için sıcak su soğutma
İlgili makale:
Yapay Zeka Altyapısında Sıcak Su Soğutma Devrimi

Yapay zekâ fabrikaları çağına doğru

Artık genel veri merkezlerinden bahsedemeyiz; yeni nesil veri merkezleri çağına giriyoruz. gerçek yapay zeka fabrikalarıBu ekosistemde, bilgi işlem, ağ iletişimi ve enerji tek bir varlıkta birleşiyor. Nvidia DSX platformu bunun mükemmel bir örneği; burada sıvı soğutma istisna değil, kuraldır ve geleneksel klima sistemleriyle imkansız olacak güç yoğunluklarına olanak tanır.

Güvenilir çözümler arayanlar için Schneider Electric gibi şirketler çözümler sunuyor. serbest soğutma ve yağsız santrifüjlü soğutucular Çipten güç şebekesine ısı akışını optimize eden sistemler. Hava soğutmadan sıvı soğutmaya geçiş operasyonel riskler ve önemli entegrasyon karmaşıklığı içerse de, raflar 50 kW'ı aştığında, Sıvı soğutma artık bir seçenek değil. olmak için hayatta kalmak için vazgeçilmez bir gereklilik donanımın.

Bu gelişmiş termal sistemlerin yaygın olarak benimsenmesi, altyapı karlılığını yeniden tanımlıyor ve olanak sağlıyor. %20 ile %40 arasında enerji tasarrufuEndüstri, ısıyı silikondan hızlı bir şekilde uzaklaştırma yeteneğini optimize ederek, dil modellerinin gelişiminin enerji tüketimi ve su stresi gibi aşılmaz engellerle karşılaşmamasını sağlıyor.

Intel ve Foxconn yapay zeka altyapısı için ittifak kurdu.
İlgili makale:
Intel ve Foxconn, küresel yapay zeka altyapısını dönüştürmek için güçlerini birleştiriyor.

Google'da tercih edilen kaynak olarak ekleyin.