Üretken yapay zekâ o kadar büyük bir sıçrama yaptı ki, veri merkezleri geride kalıyor. Artık basit sunuculardan değil, 50 kW'ı kolayca aşan inanılmaz derecede yüksek güç yoğunluğuna sahip raflardan bahsediyoruz. Bu senaryoda, Termal yönetim, teknik bir ayrıntı olmaktan çıktı. Bu durum, ne kadar işlem gücü kullanabileceğimizi ve bunun maliyetini belirleyen darboğaz haline gelecek.
Bu sorunu çözmek için aşağıdaki uygulamalar hayata geçirilmeye başlandı: Çipe doğrudan sıvı soğutmaSoğuk havayı üfleyen devasa klimaları unutun; artık trend, sıvıyı doğrudan işlemcinin yanma noktasına iletmektir. Bu değişiklik temeldir çünkü Uzun Dil Modelleri (LLM) şunu gerektirir: çok daha agresif soğutma altyapısı ve donanımın bozulmaması için verimli.
Nvidia'nın çığır açan konsepti ve "jakuzi" soğutma sistemi
Nvidia, ilk bakışta çılgınca gelebilecek bir öneriyle yarışa katıldı: soğutma için sıcak su kullanmak. İşin püf noktası, yeni Rubin mimarisine sahip sunucularının 45°C sıcaklıktaki bir sıvıyla çalışabilmesi. Bunu daha iyi anlamak için şöyle bir örnek verebiliriz: İşlemciyi jakuziye koyduk. Hava sıcak, ama fizik kuralları sayesinde sistem harika çalışıyor.
Sır, kullanılan sıvıda yatıyor; %75 su ve %25 propilen glikolden oluşan bir karışım. Yapay zeka çiplerinin muazzam miktarda ısı üretmesi nedeniyle, bu sıvı, yüksek sıcaklıktan başlayarak termal yükü emebiliyor ve devreden yaklaşık 55°C'de çıkıyor. Bu da şunları sağlıyor: Dış hava ile sıcaklık farkı Çoğu iklimde ısıyı dış radyatörler aracılığıyla pasif olarak dışarı atabilecek kadar büyük olmalıdır.
Bu sistemin en şaşırtıcı yanı, fanları ortadan kaldırmasıdır. Sunucu anakartlarını yalıtarak ve genellikle 85 desibeli aşan sağır edici bir gürültü çıkaran fanları çıkararak, çok daha sessiz ve verimli bir ortamAyrıca, yalnızca bir kez doldurulan kapalı bir devre olduğu için buharlaştırma kulelerine gerek kalmaz ve bu da veri merkezinin iç su tüketimini neredeyse %100 oranında azaltır.
Gelişmiş mimariler: CDU ve soğutma plakaları
Sadece sıcak su dökmek yeterli değil; hassas mühendislik gerektiriyor. İşte burada Soğutucu Dağıtım Üniteleri (CDU'lar) ve soğutma plakaları devreye giriyor. Eaton uzmanlarına göre, iyi bir soğutma plakası, vasat bir soğutma plakasından şu özellikleriyle ayrılıyor: yüksek hassasiyetli iç mikro yapılarBu sayede ısı, çipten sıvıya neredeyse anında geçebilir.
Akıllı CDU'lar sistemin beyni gibi davranarak sıvı akışını koordine eder. elektrik mimarisiBu entegrasyon çok önemli çünkü soğutma maliyetlerinden tasarruf sağlayarak, bu güç bütçesinin daha fazla GPU'yu çalıştırmak için kullanılmasını mümkün kılıyor. Gerçekte bu, şu anlama gelebilir: hesaplama çıktısında %33'lük bir artış Elektrik şebekesine yapılan her bağlantı için.
- Yüksek kapasiteli CDU: 105 kW ile 2,3 MW arasındaki termal yükleri karşılayabilme kapasitesine sahiptir.
- Arka Kapı Isı Eşanjörleri (RDHx): 75 kW'a kadar kapasiteye sahip güçlü işlemcilerden ısıyı uzaklaştırırlar.
- Dinamik soğutma plakaları: 1.500 W'ın üzerinde termal çıkışa sahip çipleri soğutabilme kapasitesine sahiptir.
- Raf manifoldları: Soğutma sıvısının sızıntı olmadan her köşeye ulaşmasını sağlayan paslanmaz çelik dağıtım boruları.
Çevresel etki ve kalan zorluklar
Nvidia kendi bünyesindeki su sorununu çözdüğünü iddia etse de, daha büyük resme bakmak gerekiyor. Su tüketimi sadece sunucunun kendisinde değil, aynı zamanda onu çalıştıran elektriğin üretiminde de gerçekleşiyor. 2030 yılına kadar enerji karışımının önemli bir parçası olmaya devam edecek olan kömür ve doğal gaz santralleri, Çok büyük miktarlarda su tüketiyorlar. Üretilen her kWh için.
Başka bir deyişle, veri merkezi kapalı devre, çevre dostu bir sistem olsa bile, su faturası elektrik santraline kayıyor. Yine de bu geçiş gerekli. Hava soğutmadan sıvı soğutmaya geçmek, aşırı ısınmayı önlemenin tek yolu. Raf başına güç yoğunluğunun 120 kW'a kadar ulaşabildiği ortamlarda kritik bileşenlerin kullanım ömrünü kısaltır.
Sıvı soğutma, ısıyı yakalamada havaya göre 3.000 kata kadar daha etkilidir. Bu, performansı iyileştirmenin yanı sıra, geleneksel soğutucuları ve kondenserleri ortadan kaldırarak karbon ayak izini de azaltır. ücretsiz soğutma çözümleri ve yağsız santrifüjlü soğutucular genel enerji tüketimini optimize edenler.
Yapay zeka sektörü, sunucu termodinamiğinin yeniden icat edilmesini zorunlu kılıyor ve muhafazakar sistemlerden, sıcak su ve akıllı akış yönetiminin ön plana çıktığı mimarilere geçişi sağlıyor. Bu teknolojik sıçrama, işlem yoğunluğunu en üst düzeye çıkarmak ve işletmenin karlılığı, altyapının aşırı ısınma nedeniyle çökmeden LLM'lerin katlanarak büyümesini destekleyebilmesini sağlamak.