Üretken yapay zekâ, kaynakları baş döndürücü bir hızla tüketen gerçek bir canavara dönüştü. Büyük dil modellerinin (MLM'ler) yaygınlaşmasıyla fiziksel bir duvara çarptık: ısı. Sunucu rafları, geleneksel klima sistemlerini tamamen etkisiz hale getiren güç yoğunluklarına ulaştı ve bu da sektörü radikal bir sıçrama yapmaya zorladı. sıvı soğutma mimarileri Böylece donanımın kelimenin tam anlamıyla erimesini görmemiş oluruz.
Bu senaryoda Nvidia, ilk bakışta şaka gibi veya gerçeküstü bir deney gibi görünen bir öneriyle ortaya çıktı. İşlemcileri soğutmak için sıcak su kullanma fikri tüm mantığa aykırı görünüyor, ancak yeni stratejilerinin parlaklığı tam da burada yatıyor. Artık mesele sadece çiplerin aşırı ısınmasını önlemek değil, aynı zamanda işlemcilerin performansını da artırmak. ekonomik karlılığı optimize etmek ve sözde "yapay zeka fabrikalarının" sürdürülebilirliği.
Jakuzi konseptinin cipslere uygulanması
Basitçe anlatmak gerekirse: Suyun sıcaklığının 38 veya 40ºC civarında olduğu bir jakuzi hayal edin. İnsan için bu keyifli olabilir, ancak geleneksel bilgisayar sistemleri için felaket olurdu. Bununla birlikte, Nvidia'nın yeni Rubin mimarisine sahip sunucuları, içeri giren sıvının sıcaklığının belirli bir değerde olduğu ortamlarda çalışacak şekilde tasarlanmıştır. 45ºC (113ºF)Bu sıcaklık, sistemin verimli çalışmasını sağlamanın en önemli sırrıdır.
Buradaki fizik temel ama dahice. Yapay zeka çipleri o kadar çok ısı enerjisi üretiyor ki, bir sıvıdan oluşan bir %75 su ve %25 propilen glikol Isıyı hiç zorlanmadan emebilir. Sıvı sıcak olarak girer, işlemcinin termal yükünü toplar ve devreden yaklaşık 55°C'de çıkarak silikonun performansının herhangi bir şekilde düşmemesini sağlar.
Bu kadar yüksek bir sıcaklıktan başlamanın en büyük avantajı, dış hava ile arasındaki sıcaklık farkının, sistemin çoğu ılıman iklimde pasif olarak çalışmasına yetecek kadar büyük olmasıdır. Bu da aşağıdakilerin kurulumuna olanak tanır: devasa dış radyatörler Ayrıca, yalnızca enerji tüketmekle kalmayıp aynı zamanda genellikle 85 desibeli aşan şiddetli gürültü kirliliğine neden olan geleneksel vantilatörlerin de ortadan kaldırılması.
Hassas mühendislik ve temel bileşenler
Böyle bir sistemi kurmak, sadece borulara su dökmekten ibaret değildir; milimetre hassasiyetinde koordinasyon gerektirir. Her şeyin özü şurada yatmaktadır: CDU (Soğutma Sıvısı Dağıtım Üniteleri)Bunlar, soğutucu akışkanın basıncını ve akışını yöneten beyin görevi görür ve kapasiteleri 105 kW ile 2,3 MW arasında değişir.
Isıyı verimli bir şekilde iletmek için çeşitli özel elemanlar kullanılır:
- Gelişmiş soğutma plakalarıİç mikro yapıları sayesinde, ısının %80 ila %90'ını doğrudan çipten yakalarlar.
- Doğrudan Çipe SistemlerIsı enerjisini taşımada havadan 3.000 kata kadar daha etkili bir teknoloji.
- Raf manifoldlarıPaslanmaz çelikten üretilmiş toplayıcılar, sıvının sızıntı olmadan her bir GPU'ya ulaşmasını sağlar.
- RDHx (Arka Kapı Isı Eşanjörleri)Arka kapıda bulunan ısı eşanjörleri 75 kW'a kadar ısıyı uzaklaştırabilir.
Tüm bunlar elektrik mimarisiyle entegre edildiğinde, iş düzeyinde büyüleyici bir şey oluyor. Daha önce soğutma havasına harcanan enerji bütçesi artık daha fazla GPU'yu çalıştırmak için kullanılıyor. Eaton'a göre bu, önemli bir dönüm noktası olabilir. Bilgisayar üretiminde %33 artış her ağ bağlantısı için.
Su üzerindeki etki ve gerçek sürdürülebilirlik
Veri merkezlerinin en büyük sorunlarından biri su tüketimi olmuştur. Buharlaşmalı soğutma kuleleri gerçek birer su canavarıdır. Nvidia'nın sistemi bu durumu değiştiriyor çünkü devre kapalı ve Sadece bir kez doldurulması gerekiyor. Tesisin tüm ömrü boyunca. Bu, iç su tüketiminde neredeyse %100'lük bir azalmaya olanak tanır.
Bu etkiyi ölçmek için sektör, Su Kullanım Verimliliği (WUE) yöntemini kullanmaktadır. Eski sistemlerin WUE değeri çok yüksek olsa da, kapalı devre sıvı soğutma sistemleri ideal değere yaklaşmayı hedeflemektedir. 0.0L/kWhMicrosoft ve Google gibi dev şirketler, yılda milyonlarca litre su kaybını önlemek için sıfır buharlaşma tasarımlarını şimdiden uygulamaya koydular.
Ancak her şey güllük gülistanlık değil ve gerçekçi olmalıyız. Veri merkezindeki tasarruflar muazzam olsa da, sorun enerji üretimine kayıyor. Bu GPU çiftliklerini çalıştıran elektrik hala büyük ölçüde doğal gaz ve kömüre bağımlı ve bu tesisler... çok miktarda su İşlevini yerine getirmesi için. Başka bir deyişle, sunucunun musluğunu tamir ettik, ancak enerji santralinin musluğu hala çalışıyor.
Yeni bir paradigmaya doğru: Yapay Zeka Fabrikası
Artık genel veri merkezlerinden bahsedemeyiz. Nvidia DSX gibi referans platformların işlem gücünü, ağ bağlantısını ve gücü tek bir varlıkta birleştirdiği yapay zeka fabrikaları çağına giriyoruz. Bu ekosistemde sıvı soğutma bir seçenek değil, bir zorunluluktur. vazgeçilmez gereksinim Rafların gücü 50 kW'ı aştığında.
Sunucuların dielektrik sıvılara batırıldığı daldırma soğutma gibi daha radikal alternatifler de mevcuttur. İster tek fazlı daldırma ister faz değişimi yoluyla olsun, amaç suya olan bağımlılığı ortadan kaldırmaktır. enerji harcamasını azaltmak Çok özel durumlarda %82'ye kadar.
Bu teknolojilerin, yağsız santrifüjlü soğutucular ve ücretsiz soğutma çözümleriyle birlikte benimsenmesi, operatörlerin enerji maliyetlerinde %20 ila %40 arasında tasarruf sağlamasına olanak tanır. Tamamen yeşil yapay zekaya giden yol uzun, ancak 45°C'lik su kullanımı, kaynak tüketiminin aşılmaz bir engel haline gelmeden bilgi işlem gücünün artmaya devam etmesini sağlamaya yönelik dev bir adımdır.
Kapalı devre sıcak su sistemlerinin entegrasyonu ve gürültülü fanların ortadan kaldırılması, termal yönetimi veri merkezlerinin karlılığını ve yoğunluğunu artıran stratejik bir araca dönüştürerek yapay zeka altyapısının daha sürdürülebilir ve verimli bir şekilde ölçeklenmesine olanak sağlamıştır.