Üretken Yapay Zeka artık sadece bir vaat olmaktan çıkıp, kaynakları şaşırtıcı bir hızla tüketen bir makine haline geldi. Bu üstel büyüme Büyük Dil Modelleri (LLM) Bu durum, raf başına güç yoğunluğunun, havanın ekipmanı soğutmaya yetmeyeceği seviyelere ulaşması nedeniyle geleneksel veri merkezlerinin yetersiz kalmasına yol açmıştır.
Bu senaryoda, termal yönetimi ikincil bir teknik detay olarak görmekten, onu temel bir unsur olarak değerlendirmeye geçtik. belirleyici faktör Ne kadar yapay zeka çalıştırabileceğimizi ve bunun maliyetini bilmek için. Sıvı çözümlere geçiş artık sadece belirli birkaç kişi için bir deney değil, yeni nesil donanımlarla aynı hızda ilerlemek isteyen her altyapı için bir zorunluluktur.
"Jakuzi" konsepti: Patates kızartmalarını soğutmak için sıcak su.
Dünyanın en gelişmiş teknolojisini soğutmak için rahatlatıcı bir banyo sıcaklığını andıran su kullanıyor olmamız neredeyse gerçeküstü. Nvidia, soğutucunun giriş yaptığı sıcaklığın çok daha düşük olduğu bir sistem önererek bu kalıbı kırdı... 45ºC (113ºF)Geleneksel bilgisayar biliminde endişe verici olarak kabul edilebilecek bir rakam, ancak başarının anahtarı burada yatıyor.
Sihir, temel fizikte yatıyor: Yapay zeka çipleri o kadar çok ısı üretiyor ki, bir sıvıdan oluşan bir karışım... %75 su ve %25 propilen glikol Bu termal yükü hiç zorlanmadan emebilir. Sıvı sıcak olarak girer, ancak işlemciden gelen ısıyı emer ve devreden yaklaşık 55°C'de çıkarak silikonun performansının bozulmadan kalmasını sağlar.
Bu strateji harika çünkü, bu kadar yüksek bir başlangıç sıcaklığından yola çıkıldığında, Dış hava ile sıcaklık farkı Sistem, çoğu ılıman iklimde pasif olarak çalışmasına olanak sağlayacak kadar büyüktür. Bu nedenle, ısı devasa harici radyatörler aracılığıyla dışarı atılır ve gürültü seviyesini genellikle 85 desibelden fazla artıran gürültülü fanlara olan ihtiyacı ortadan kaldırır.
Su ve enerji israfına elveda
Bu mimarinin, özellikle Nvidia'nın yeni Rubin neslinde, en güçlü yönlerinden biri, su devresinin yalnızca belirli bir miktarda sıvıya ihtiyaç duymasıdır. bir kez doldurun Tesisin tüm ömrü boyunca. Bu, tam bir paradigma değişimini temsil ediyor, çünkü aşırı su tüketen buharlaşmalı soğutma kulelerinin emekliye ayrılmasına olanak tanıyor.
Nvidia temsilcilerine göre, bu yaklaşım... su tüketimini azaltın Veri merkezlerinde soğutmanın neredeyse %100'ü tesis içinde yapılır. Kuru soğutucular ve kapalı devre sistemler kullanılarak mekanik soğutuculara olan bağımlılık en aza indirilir ve yılın büyük bölümünde doğrudan su etkisi neredeyse yok denecek kadar az olur.
Ancak her şey güllük gülistanlık değil. Dahili veri merkezi tüketimi düşse bile, bazı sorunlar mevcut. devasa dolaylı etkiBu GPU çiftliklerini çalıştırmak için gereken elektriğin üretimi hala büyük ölçüde doğal gaz ve kömüre dayanıyor; bu endüstriler de çalışmak için çok miktarda suya ihtiyaç duyuyor, yani sorun sunucu odasından enerji santraline kaydı.
Performansın ardındaki mühendislik: CDU'lar ve soğutma plakaları
Bu sistemin felakete dönüşmesini önlemek için, çiplerin üzerine sadece sıcak su dökmek yeterli değildir. Güç dağıtımı ve termal yönetim arasında hassas bir koordinasyon gereklidir. İşte burada devreye... Akıllı Soğutma Dağıtım Üniteleri (CDU'lar)Sistemin beyni gibi davranan bu yapılar, sıvının akışını ve basıncını koordine ederek her şeyin sorunsuz bir şekilde ilerlemesini sağlar.
- Gelişmiş soğutma plakaları: Yüksek hassasiyetli iç mikro yapılar kullanarak, ısının %80 ila %90'ını doğrudan çipten yakalıyorlar.
- Doğrudan Çipe Sistemler: Bu teknoloji, ısı enerjisini taşımada havaya göre 3.000 kata kadar daha etkilidir.
- Raf İçi Dağıtım Dağıtım Kanalları: Soğutma sıvısının her bir GPU'ya verimli bir şekilde ulaşmasını sağlayan paslanmaz çelik toplayıcılar.
Bu teknolojiler doğru şekilde entegre edildiğinde, ekonomik açıdan çok ilginç bir şey oluyor. Daha önce soğutma sistemlerine harcanan enerji bütçesi artık başka alanlara yönlendirilebiliyor. daha fazla GPU'ya güç verinEaton verilerine göre, bu durum elektrik şebekesine bağlantı başına işlem gücünde %33'e varan bir artış anlamına gelebilir ve soğutmayı karlı bir araç haline getirebilir.
"Yapay Zeka Fabrikasına" Doğru: Bir Paradigma Değişimi
Artık genel veri merkezlerinden değil, gerçek veri merkezlerinden bahsediyoruz. Yapay zeka fabrikalarıNvidia DSX platformu gibi referans mimariler, bilgi işlem, ağ iletişimi ve gücün tek bir sisteme entegre edildiği bir tasarım öneriyor. Bu ekosistemde sıvı soğutma istisna değil, normdur ve raf başına 50 kW'ı aşan güç yoğunluklarına olanak tanır; bu, klima ile tamamen imkansız bir şeydir.
Sektör, şu yönde bir modele doğru ilerliyor: performans ve güvenilirlik Isıyı çipten olabildiğince hızlı bir şekilde uzaklaştırma yeteneğine bağlıdırlar. Schneider Electric gibi şirketler, enerji kullanımını optimize eden yağsız soğutma çözümleri ve yağsız santrifüjlü soğutucular geliştirerek, sistem sıfırdan tasarlanırsa sürdürülebilirlik ve ham gücün bir arada olabileceğini gösteriyor.
Bu mimarilerin uygulanması, veri merkezi operatörlerinin enerji maliyetlerinde %20 ila %40 arasında tasarruf sağlamasına olanak tanır. Tamamen yeşil bir yapay zekaya giden yol uzun olsa da, şu gerçek önemli: termal donanım devrimi Yüksek sıcaklıklı sıvı soğutmanın standart hale gelmesi, bir sonraki aşamaya doğru ilerlediğimizi gösteriyor. çok daha yoğun altyapıDaha verimli ve yerel su kaynaklarına daha az bağımlı.
45°C sıcak su kullanan sıvı soğutma sistemlerinin yaygınlaşması, veri merkezi mimarisini yeniden tanımlıyor, fanları ortadan kaldırıyor ve kapalı devre sistemler sayesinde su ihtiyacını önemli ölçüde azaltıyor. Dış enerji zorlukları devam ederken, soğutma plakalarının optimize edilmesi ve akıllı CDU'ların uygulanması, bilgi işlem kapasitesini %33'e kadar artırabilir ve termal yönetimi, endüstriyel ölçekte yapay zekanın ekonomik ve operasyonel sürdürülebilirliği için stratejik bir temel haline getirebilir.
