Üretken yapay zekâ devasa bir ilerleme kaydetti, ancak bu ilerlemenin yüksek bir bedeli var: dayanılmaz ısı. Sunucu raflarının 50 kW'ı aşan güç tüketimiyle mevcut altyapılar sınırlarına ulaşıyor ve geleneksel fanlar yetersiz kalıyor. Bu sorunu çözmek için sektör, keskin bir dönüş yaparak... doğrudan çipeBu, artık bir laboratuvar deneyi olmaktan çıkıp, yapay zekanın körelmesini önlemek için gerekli bir temel haline gelen bir teknoloji.
Bu senaryoda, şaka gibi görünen bir kavram ortaya çıktı: işlemcileri sıcak su kullanarak soğutmak. Kulağa çılgınca gelse de, Nvidia ve Eaton gibi devler tarafından savunulan bu strateji, veri merkezlerinin çok daha sürdürülebilir olmasını sağlıyor. Bu sadece dolaşan sıvıyı değiştirmekle ilgili değil, aynı zamanda... Elektrik mimarisinin tamamını yeniden düşünün. ve işlemci kapasitesinin çiplerin aşırı ısınması nedeniyle sınırlanmaması için termal yönetim.
Jakuzi yöntemi: 45ºC'nin büyüsü
Nvidia, geleneksel paradigmaları yıkan bir sistem tanıttı. Basitçe söylemek gerekirse, fikir, suyun sıcaklığının 38-40°C civarında olduğu ve orada bir süre kalabileceğimiz jakuzilerin prensibine dayanıyor. İşte onların yeni sunucuları da bu prensibe göre çalışıyor... Rubin mimarisi 45°C'lik gelen suyla çalışabiliyorlar. İnanılmaz olan şey ise, temel fizik kuralları sayesinde, çiplerin o kadar çok enerji üretmesi ki, bir sıvının bileşimi şu kadar... %75 su ve %25 propilen glikol Tüylerini dağıtmadan o ısıyı emebiliyor.
Süreç basit ama dahiyane: sıvı 45°C'de giriyor, işlemcilerden gelen ısı yükünü emiyor ve devreden yaklaşık 55°C'de çıkıyor. Bu kadar yüksek bir giriş sıcaklığını koruyarak, Dış hava ile sıcaklık farkı Sistem, güçlü klima sistemleri yerine devasa dış radyatörler kullanarak, ılıman iklimlerin çoğunda pasif olarak çalışabilecek kadar büyüktür.
Gürültüye ve su israfına elveda
Bu sistemin en büyük avantajlarından biri, şunlara olanak sağlamasıdır: fanları çıkarın85 desibeli aşan o sağır edici gürültüler, sunucu devre kartları kapatıldığında ortadan kalkıyor ve çok daha sessiz ve verimli bir ortam oluşuyor. Ancak asıl oyun değiştirici unsur su tüketimi. Geleneksel buharlaşmalı soğutma kulesi sistemleri endüstriyel seviyelerde su tüketirken, bu kapalı devre sistem... Sadece ilk dolum işlemine ihtiyaç duyuyor. tüm kullanım ömrü boyunca.
Nvidia, bu yaklaşım sayesinde veri merkezindeki su tüketiminin neredeyse %100 oranında azaltılabileceğini iddia ediyor. Ancak her şey iyi haber değil. TechCrunch uzmanları, verimli bir veri merkezinde bile su kullanımının yine de bir faktör olabileceği konusunda uyarıyor. elektrik üretimi Bu sistemi çalıştıran enerji kaynağı, özellikle doğal gaz veya kömüre dayanıyorsa, bol miktarda su tüketmeye devam ediyor; çünkü üretilen her kWh için litrelerce suya ihtiyaç duyuluyor.
Kritik bileşenler: Soğutma plakaları ve CDU
Bu sistemin arızalanmasını önlemek için yüksek hassasiyetli bileşenlere ihtiyaç vardır. Mikro yapılı soğuk plakalar Anakartlar çok önemlidir çünkü ısının %80 ila %90'ını yakalamayı sağlarlar. Anakart vasat ise sistem başarısız olur; gelişmiş bir anakart ise daha önce soğutuculara harcanan enerjinin GPU'lara yönlendirilmesini sağlayarak %80 ila %90'a varan performans artışı elde edilmesini mümkün kılar. %33 daha fazla hesaplama çıktısı her bir elektrik bağlantısı için.
Devre kartlarıyla birlikte Soğutucu Dağıtım Üniteleri (CDU'lar) sistemin beyni görevi görür. Eaton ve Schneider Electric gibi şirketler bu üniteleri tasarlıyor. Akıllı CDU'lar Bu üniteler elektrik mimarisiyle koordineli çalışır. Akışı ve yedekliliği yöneterek, bir arıza durumunda sistemin çökmesini önler ve gelecekte raf başına 120 kW'a kadar ulaşabilecek yoğunluklara olanak tanır.
En son teknolojiye sahip alternatifler ve çözümler
Sıcak suya ek olarak, LLM'lerdeki ısı sorununa karşı koymak için başka tamamlayıcı teknolojiler de mevcuttur. Örneğin, arka kapı ısı eşanjörleri (RDHx) İhtiyaca göre sıvı soğutmalı hava kullanarak 75 kW'a kadar ısıyı uzaklaştıran soğutma sistemleri sunarlar. Ayrıca, yağsız santrifüjlü soğutucular Bu cihazlar, çeşitli uygulamalar için sıcaklığı 33°C'ye kadar ayarlayarak, serbest soğutma yoluyla enerji tasarrufu sağlar.
Sıvı soğutmaya geçiş artık isteğe bağlı değil. Güç yoğunluğu 50 kW'ı aştığında, hava ısıyı yeterince hızlı bir şekilde uzaklaştıramaz. Entegrasyon paslanmaz çelik kolektörler Ayrıca, doğrudan çipe yönelik çözümler, AMD, Intel veya Nvidia işlemcilerinin istikrarlı performanslarını korumasını sağlayarak, aşırı ısınmanın donanımın ömrünü kısaltmasını önler.
Sıcak su soğutma ve kapalı devre sistemlere geçiş, yapay zeka sürdürülebilirliğinde bir dönüm noktası oluşturuyor. Hassas soğutma plakaları, koordineli soğutma üniteleri ve ortam sıcaklığından yararlanan termal yönetim sayesinde, GPU performansını en üst düzeye çıkarırken su tüketimini ve gürültüyü önemli ölçüde azaltmak mümkün; ancak küresel enerji sorunu sektörün en büyük zorluğu olmaya devam ediyor.