Veri merkezlerinde ısı yönetimi artık basit bir mühendislik prosedürü olmaktan çıkıp, karmaşık bir süreç haline gelmiştir. yapay zekanın ne kadar etkili olacağına karar veren başyapıt Aslında uygulanabilir. Üretken yapay zeka ve büyük ölçekli dil modellerinin (LLM) ortaya çıkmasıyla birlikte, 50 kW'ı aşan yoğunluğa sahip raflarla karşılaştık; bu rakam, geleneksel klima sistemlerini tamamen işlevsiz hale getiriyor. Bu geçiş kademeli bir süreç değil, doğrudan çipe sıvı soğutmaya doğru ani bir sıçrama oldu; bu artık sadece belirli birkaç kişi için bir deney değil, yeni nesil teknolojik altyapıda rekabet etmek isteyen herkes için standart mimari haline geldi.
Bu termal kaosun ortasında, şu kavram ortaya çıktı: sıcak su soğutmaBu strateji, işlemcileri soğutmak için 40°C hatta 45°C giriş sıcaklığında su kullanmayı önerdiği için çılgınca geliyor. Sadece borulardan geçen sıvıyı değiştirmekle ilgili değil; elektrik mimarisini, dağıtım sistemlerini ve bileşenlerin nasıl koordine edildiğini tamamen yeniden tasarlamaktan bahsediyoruz. Şimdi, verimlilik sadece PUE ile değil, aynı zamanda... gerçek işlem gücünün ne kadar olduğu Şebekeye bağladığımız her kilovattan enerji elde edebilir, ısı kontrolünü doğrudan ekonomik karlılık meselesi haline getirebiliriz.
Sıcak su soğutma paradigması
İlk bakışta, dünyanın en gelişmiş teknolojisini soğutmak için jakuzi sıcaklığına benzer sıcaklıktaki su kullanma fikri gerçeküstü görünebilir. Ancak fizik açık: Yapay zeka çipleri o kadar çok termal enerji üretir ki, bir sıvıdan oluşan bir karışım... %75 su ve %25 propilen glikol Isıyı hiç zorlanmadan emebiliyor. Sıvı sıcak giriyor, ancak işlemcinin yükünü emerek yaklaşık 55°C'de çıkıyor ve performans düşüşü olmadan silikonun bütünlüğünü koruyor.
Bu teknik mükemmel çünkü, çok yüksek bir başlangıç sıcaklığından yola çıkıldığında, dış hava ile arasındaki sıcaklık farkı, sistemin çoğu iklimde pasif olarak çalışması için yeterince büyük oluyor. Bu şekilde, kurulumları gerçekleştirilebilir. devasa dış radyatörler Ayrıca, gürültü kirliliğini genellikle 85 desibel üzerine çıkaran gürültülü fanlardan kurtularak çalışma ortamını optimize edin.
Dahası, bu yaklaşım mekanik soğutuculara ve enerji yoğun soğutma sistemlerine olan bağımlılığı ortadan kaldırır. Kullanarak kuru soğutucular ve kapalı devrelerSu ayak izi önemli ölçüde azalıyor. Nvidia'nın yeni Rubin nesli gibi mimarilerde, su devresinin tesisin tüm ömrü boyunca yalnızca bir kez doldurulması gerekiyor; bu da aşırı su tüketen buharlaştırma kulelerinin kullanımının sona ermesini sağlıyor.
Hassas Mühendislik: Soğutma Plakaları ve Soğutma Üniteleri
Bu sistemin felaketle sonuçlanmasını önlemek için hassas koordinasyon şarttır. İşte burada devreye giriyor... İç mikroyapılara sahip gelişmiş soğutma plakalarıBu devre kartları, çipten gelen ısının %80 ila %90'ını doğrudan yakalayabilme özelliğine sahiptir. Ancak tüm devre kartları aynı kalitede değildir; yüksek hassasiyetli bir devre kartı, sistemin sıcak suyla bile güvenilir kalmasını sağlarken, vasat bir kart donanımın ömrünü tehlikeye atabilir.
- Akıllı CDU'lar: Sistem beyni görevi görerek soğutucu akışkan basıncını ve akış hızını koordine ederler. Bu Soğutucu Akışkan Dağıtım Üniteleri 105 kW ile 2,3 MW arasında güç yönetebilirler.
- Raf manifoldları: Paslanmaz çelikten üretilmiş toplayıcılar, sıvının her bir GPU'ya verimli ve sızıntısız bir şekilde ulaşmasını sağlar.
- Doğrudan Çipe Sistemler: Teknoloji Havadan 3.000 kat daha etkili Isı enerjisini taşımak için.
- RDHx (Arka Kapı Isı Eşanjörleri): Arka kapı ısı eşanjörleri, 75 kW'a kadar kapasiteyle sıvı soğutmalı hava kullanarak ısıyı uzaklaştırır.
Bu bileşenler elektrik mimarisine entegre edildiğinde, büyüleyici bir ekonomik olgu ortaya çıkar. Daha önce hava soğutmaya harcanan enerji bütçesi artık başka alanlara yönlendirilebilir. Daha fazla GPU'ya güç sağlamak için yönlendirmeEaton verilerine göre, bu durum elektrik şebekesine bağlantı başına hesaplama çıktısında %33'e varan bir artış anlamına gelebilir ve termal yönetimi bir iş aracına dönüştürebilir.
Su tüketimi ve sürdürülebilirlik sorunu
Gelişmelere rağmen, yapay zeka kaynak tüketen bir makine. GPT-3 gibi eğitim modelleri yüz binlerce litre tatlı suyu buharlaştırdı ve Google'ın veri merkezleri günlük ortalama olarak çok büyük miktarda su tüketiyor. Bu etkiyi ölçmek için sektör, Su Kullanım Verimliliği (WUE)Bu, BT enerjisinin kilowatt-saat başına tüketilen su miktarını litre cinsinden hesaplar. Geleneksel buharlaşmalı soğutmanın yüksek bir WUE'si (su kullanım verimliliği) varken, kapalı devre sıvı soğutma bu değere yaklaşabilir. 0.0 L/kWh ideal değeri.
Microsoft gibi dev şirketler, yıllık tesis başına 125 milyon litreden fazla su kaybını azaltmak için sıfır buharlaşma tasarımları uyguluyor. Bu arada Google ve Meta da taahhütte bulundu. 2030 için su pozitifliğiTükettiklerinden daha fazla su kaynağı temin etmeye çalışıyorlar. Bu adım hayati önem taşıyor çünkü GPU raflarının güç yoğunluğu (135 kW'a kadar ulaşabiliyor) 7/24 soğutma ihtiyacı yaratıyor ve bu da özellikle Arizona gibi su kıtlığı çeken bölgelerde yerel su kaynaklarını riske atıyor.
Ayrıca daha radikal alternatifler de mevcuttur, örneğin: daldırma soğutmaSunucuların, elektronik aksama zarar vermeyen dielektrik sıvılara daldırıldığı sistemlerde, ister tek fazlı daldırma ister faz değişimi (sıvının düşük sıcaklıklarda kaynaması) yoluyla olsun, amaç su ihtiyacını tamamen ortadan kaldırmak ve bazı özel durumlarda enerji tüketimini %82'ye kadar azaltmaktır.
Yapay zekâ fabrikaları çağına doğru
Artık genel geçer veri merkezlerinden değil, gerçek veri merkezlerinden bahsetmeliyiz. Yapay zeka fabrikalarıBu ekosistemde, bilgi işlem, ağ iletişimi ve enerji tek bir varlıkta birleşiyor. Nvidia DSX platformu gibi referans mimariler, sıvı soğutmanın standart olduğu bir tasarım öneriyor. Bu, klima ile elde edilmesi imkansız olan güç yoğunluklarına olanak tanıyarak alan ve enerji kullanımını optimize ediyor.
İyi ayarlanmış hava soğutmalı mimariden sıvı soğutmaya geçiş, operasyonel riskler ve önemli entegrasyon karmaşıklığı içermektedir. Ancak, rafların gücü 50 kW'ı aştığında, sıvı soğutma uygulanabilir bir seçenek haline gelir. Artık bir seçenek olmaktan çıkıyor. Vazgeçilmez bir gereklilik haline gelmek. Serbest soğutma çözümlerinin ve yağsız santrifüjlü soğutucuların entegrasyonu, tesis sıfırdan tasarlanırsa ham gücü sürdürülebilirlikle birleştirmenin mümkün olduğunu göstermektedir.
Gelişmiş termal sistemlerin yaygın olarak benimsenmesi ve 45°C'lik su kullanımı, yapay zeka altyapısının maliyet etkinliğini yeniden tanımlayarak %20 ila %40 oranında enerji tasarrufu sağlıyor ve gürültülü fanlara olan bağımlılığı ortadan kaldırıyor. Çipten güç şebekesine ısı akışını optimize ederek, sektör, su ve enerji tüketiminin dil modellerinin genişlemesi için aşılmaz bir engel haline gelmeden işlem gücünün artmasını sağlıyor.
