Upravljanje toplote v podatkovnih centrih se je iz preproste inženirske formalnosti spremenilo v ključni dejavnik, ki določa, koliko umetne inteligence je dejansko mogoče izvajati. S prihodom generativne umetne inteligence in modelov množičnih jezikov (MLM) smo naleteli na omare z gostoto, ki presega 50 kW, kar tradicionalno klimatizacijo naredi preprosto neuporabno. Ta prehod ni bil postopen, temveč nenaden skok k hlajenju s tekočino neposredno na čip, ki ni več eksperiment za izbrance, temveč standardna arhitektura za vse, ki želijo konkurirati v naslednji generaciji tehnološke infrastrukture.
Sredi tega toplotnega kaosa se pojavlja koncept hlajenja z vročo vodo , strategija, ki se sliši noro, saj predlaga uporabo vode z vhodnimi temperaturami 40 °C ali celo 45 °C za hlajenje procesorjev. Ne gre le za spremembo tekočine, ki kroži po ceveh; govorimo o popolni prenovi električne arhitekture, distribucijskih sistemov in načina usklajevanja komponent. Učinkovitost se zdaj ne meri zgolj z PUE, temveč s tem, koliko dejanske računalniške moči lahko izčrpamo iz vsakega kilovata, ki ga priključimo na omrežje, zaradi česar je nadzor toplote stvar neposredne ekonomske donosnosti.
Paradigma hlajenja s toplo vodo
Na prvi pogled se zdi ideja o uporabi vode s temperaturami, podobnimi temperaturam jacuzzija, za hlajenje najnaprednejše tehnologije na planetu nadrealistična. Vendar je fizika jasna: čipi umetne inteligence ustvarijo toliko toplotne energije, da jo tekočina, sestavljena iz 75 % vode in 25 % propilen glikola, lahko brez napora absorbira. Tekočina vstopi vroča, absorbira toploto procesorja in izstopi pri približno 55 °C, pri čemer ohranja celovitost silicija brez kakršnega koli poslabšanja zmogljivosti.
Ta tehnika je odlična, saj je temperaturna razlika z zunanjim zrakom pri tako visoki začetni temperaturi dovolj velika, da sistem deluje pasivno v večini podnebnih razmer. To omogoča namestitev ogromnih zunanjih radiatorjev in odpravlja potrebo po hrupnih ventilatorjih, ki običajno zvišajo raven hrupa nad 85 decibelov, s čimer se optimizira delovno okolje.
Poleg tega ta pristop odpravlja odvisnost od mehanskih hladilnikov in energetsko intenzivnih hladilnih sistemov. Z uporabo suhih hladilnikov in sistemov z zaprto zanko se vodni odtis drastično zmanjša. V arhitekturah, kot je nova generacija Rubin podjetja Nvidia, je treba vodni krog napolniti le enkrat v življenjski dobi elektrarne, kar omogoča upokojitev izhlapevalnih hladilnih stolpov, ki so pravi požiralci vode.
Precizno inženirstvo: Hladne plošče in CDU-ji
Da bi preprečili okvaro tega sistema, je bistvenega pomena natančna koordinacija. Tukaj pridejo v poštev napredne hladne plošče z notranjimi mikrostrukturami , ki lahko zajamejo od 80 % do 90 % toplote neposredno iz čipa. Vse hladne plošče niso enake; visoko natančna plošča zagotavlja, da sistem ostane zanesljiv tudi z vročo vodo, medtem ko bi nekakovostna ogrozila življenjsko dobo strojne opreme.
- Inteligentne CDU-je: Delujejo kot možgani sistema, ki usklajujejo tlak in pretok hladilnega sredstva. Te enote za distribucijo hladilnega sredstva lahko upravljajo od 105 kW do 2,3 MW.
- Razdelilniki regalnih naprav: Zbirniki iz nerjavečega jekla, ki zagotavljajo, da tekočina učinkovito in brez puščanja doseže vsako grafično kartico.
- Sistemi za neposredno izdelavo čipov: Tehnologija, ki postane 3.000-krat učinkovitejši od zraka za prenos toplotne energije.
- RDHx (toplotni izmenjevalniki zadnjih vrat): Toplotni izmenjevalniki na zadnjih vratih, ki odvajajo toploto s tekočinsko hlajenim zrakom z zmogljivostjo do 75 kW.
Ko so te komponente integrirane z električno arhitekturo, se pojavi fascinanten ekonomski pojav. Energijski proračun, ki se je prej zapravljal za hlajenje zraka, se zdaj lahko preusmerja za napajanje več grafičnih procesorjev . Po podatkih Eatona lahko to poveča računalniško zmogljivost za do 33 % na napajalni priključek, s čimer se upravljanje toplote spremeni v poslovno orodje.
Izziv porabe vode in trajnosti
Kljub napredku je umetna inteligenca stroj, ki porablja veliko virov. Modeli usposabljanja, kot je GPT-3, so izhlapeli na stotine tisoč litrov sladke vode, Googlovi podatkovni centri pa v povprečju porabijo ogromno dnevno. Za merjenje tega vpliva industrija uporablja učinkovitost porabe vode (WUE) , ki izračuna litre porabljene vode na kilovatno uro IT energije. Medtem ko ima tradicionalno izhlapevalno hlajenje visoko WUE, se lahko hlajenje s tekočino z zaprto zanko približa idealni vrednosti 0.0 l/kWh.
Velikani, kot je Microsoft, uvajajo zasnove z ničelnim izhlapevanjem, da bi letno zmanjšali izgubo vode za več kot 125 milijonov litrov na napravo. Medtem sta se Google in Meta zavezala k optimizaciji porabe vode do leta 2030 , s ciljem, da bi obnovili več vode, kot jo porabijo. Ta poteza je ključnega pomena, saj gostota moči nosilcev grafičnih procesorjev (ki lahko doseže 135 kW) ustvarja 24/7 povpraševanje po hlajenju, ki obremenjuje lokalne vodne vire, zlasti na območjih s pomanjkanjem vode, kot je Arizona.
Obstajajo tudi bolj radikalne alternative, kot je potopno hlajenje , kjer so strežniki potopljeni v dielektrične tekočine, ki ne poškodujejo elektronike. Naj gre za enofazno potopitev ali fazno spremembo (kjer tekočina vre pri nizkih temperaturah), je cilj popolnoma odpraviti potrebo po vodi in v nekaterih posebnih primerih zmanjšati porabo energije za do 82 %.
Proti dobi tovarn umetne inteligence
Ne moremo več govoriti o generičnih podatkovnih centrih, temveč o pravih tovarnah umetne inteligence . V tem ekosistemu se računalništvo, mreženje in napajanje združujejo v eno samo entiteto. Referenčna arhitektura, kot je platforma Nvidia DSX, predlaga zasnovo, kjer je tekoče hlajenje norma. To omogoča gostoto moči, ki bi bila s klimatsko napravo preprosto nemogoča, s čimer se optimizira uporaba prostora in energije.
Prehod z dobro uglašene zračno hlajene na tekočinsko hlajeno arhitekturo ni brez operativnih tveganj in precejšnje kompleksnosti integracije. Ko pa omare presežejo 50 kW, tekočinsko hlajenje ni več možnost in postane bistvena zahteva. Integracija rešitev prostega hlajenja in centrifugalnih hladilnikov brez olja dokazuje, da je mogoče združiti surovo energijo s trajnostjo, če je obrat zasnovan od temeljev.
Široka uporaba naprednih toplotnih sistemov in uporaba vode s 45 °C na novo opredeljujeta stroškovno učinkovitost infrastrukture umetne inteligence, saj omogočata prihranek energije od 20 % do 40 % in odpravljata odvisnost od hrupnih ventilatorjev. Z optimizacijo pretoka toplote iz čipa v električno omrežje industrija omogoča rast računalniške moči, ne da bi poraba vode in energije postala nepremostljiva ovira za širjenje jezikovnih modelov.
