Răcirea cu lichid crește performanța și eficiența platformei Blackwell de la Nvidia

 

Creșterea rapidă a inteligenței artificiale (AI), în special în domenii precum IA generativă (GenAI) și modelele de limbaj mari (LLM), a determinat o cerere fără precedent de putere de calcul. Pe măsură ce modelele AI devin mai complexe și necesită mai multe date, hardware-ul necesar pentru a susține aceste progrese se confruntă cu provocări semnificative, în special cu disiparea căldurii. Metodele tradiționale de răcire, cum ar fi răcirea cu aer, nu mai sunt suficiente pentru a gestiona consumul de energie al hardware-ului AI de ultimă generație și aici intră în joc soluțiile de răcire cu lichid.

 

Tehnologia de răcire cu lichid a câștigat proeminență ca modalitate extrem de eficientă de a gestiona producția termică a centrelor de date AI. Este crucial în special pentru platforme precum arhitectura Blackwell a Nvidia, unde puterea de calcul imensă necesită sisteme avansate de răcire pentru a asigura performanța și longevitatea.

 

LaHotchip 2024conferință, Nvidia și-a prezentat soluția inovatoare, integrareaapă caldă Răcire lichidă Direct to Chiptehnologie cu arhitectura sa Blackwell pentru a aborda provocările tot mai mari legate de consumul de energie și de răcire. Această dezvoltare semnifică un progres cheie în designul hardware AI, reducând costurile operaționale și îmbunătățind eficiența aplicațiilor AI la scară largă.

 

▲ Tutorial Hot Chips: Răcirea cu lichid crește performanța și eficiența

 

Creșterea tehnologiei de răcire cu lichid

 

Tehnologia de răcire cu lichid devine o componentă critică în proiectarea centrului de date AI, datorită cererii de putere în creștere ale cipurilor AI. Pe măsură ce aplicațiile AI cresc, consumul de energie în centrele de date este de așteptat să crească drastic. Multe procesoare AI, inclusiv H100 de la Nvidia și noile saleArhitectura Blackwell, consumați oriunde de la 700W la 1200W de putere. Acest consum imens de energie este agravat atunci când clusterele AI, formate din mii de GPU, funcționează la unison.

 

De exemplu,Grupul de antrenament AI al lui Elon Musk, cel mai mare din lume cu 100 de GPU000 H100, este răcit în întregime cu lichid pentru a-și gestiona necesarul de energie de 31-megawați. Astfel de exemple demonstrează de ce optimizarea tehnologiei de răcire este esențială - nu numai pentru a reduce costurile operaționale, ci și pentru a îmbunătăți performanța generală a sistemelor AI. Pe măsură ce nevoia de IA de înaltă performanță continuă să crească, răcirea cu lichid va juca un rol din ce în ce mai central în susținerea sistemelor de calcul de înaltă performanță.

 

 

Beneficiile răcirii cu lichid în centrele de date AI

Răcirea cu lichid iese în evidență datorită capacității sale de a transfera direct căldura departe de componentele critice precum procesoarele și GPU-urile, îmbunătățind disiparea căldurii în comparație cu răcirea tradițională cu aer. ÎnRăcire directă cu lichid (DLC), lichidul de răcire intră în contact direct cu cip, sporind eficiența termică și reducând nevoia de ventilatoare și sisteme de aer condiționat voluminoase. Acest lucru duce la un consum mai mic de energie pentru răcire, reducând astfel costurile operaționale totale ale centrului de date.

 

În plus,Răcire cu lichid prin imersie, unde servere întregi sunt scufundate într-un lichid dielectric, prezintă o soluție de răcire și mai eficientă. Această metodă nu numai că asigură că toate componentele rămân reci, ci și minimizează uzura mecanică, ceea ce prelungește durata de viață a hardware-ului și reduce semnificativ zgomotul produs de echipamentele care mișcă aerul.

 

 

Provocări legate de consumul de energie în hardware-ul AI

 

Pe măsură ce sistemele AI se extind, consumul lor de energie prezintă o provocare tot mai mare. Hardware AI, cum ar fiGPU Nvidia H100iar celArhitectura Blackwell, sunt cunoscute a fi consumatoare de energie, cu cerințele de putere ajungând până la 1200 W per cip. Un cluster AI obișnuit care conține 22 de GPU000 H100, de exemplu, poate necesita până la31 de megawați de energie electrică-echivalent cu consumul de energie al unui oras mic.

 

Această cerere masivă de energie nu numai că crește costurile operaționale ale centrelor de date, dar contribuie și la impacturi semnificative asupra mediului. Pentru a face față acestor provocări, centrele de date trebuie să se concentreze atât pe reducerea consumului de energie, cât și pe îmbunătățirea eficienței răcirii.

 

 

Arhitectura Blackwell de la Nvidia și răcirea directă cu apă caldă la cip

 

LaConferința Hotchip 2024, Nvidia și-a dezvăluit soluția pentru integrarea răcirii lichide cu arhitectura sa Blackwell, utilizândTehnologia de răcire cu apă caldă Direct to Chip. Această abordare folosește apă caldă (spre deosebire de apa rece) pentru a absorbi și a transfera căldura direct din cip. Utilizând răcirea cu apă caldă, Nvidia poate reduce consumul de energie de răcire al centrelor de date cu până la 28%.

 

Eficiența acestei soluții este dublă: nu numai că scade consumul total de energie pentru răcire, dar permite și recuperarea căldurii reziduale, care poate fi reutilizată pentru alte utilizări, cum ar fi încălzirea clădirilor din apropiere. În plus, răcirea cu apă caldă extinde durata de viață operațională a serverelor, menținând cipurile în intervale optime de temperatură, prevenind supraîncălzirea și reducând uzura.

 

▲ Soluție de răcire cu apă caldă directă la așchii

 

Această tehnică de răcire este deosebit de importantă, deoarece aplicațiile AI precum GenAI și LLM continuă să crească puterea de calcul necesară în centrele de date. Capacitatea de a menține temperaturi optime are un impact direct asupra performanței și scalabilității sarcinilor de lucru AI, asigurându-se că aceste sisteme pot face față solicitărilor intensive impuse acestora.

 

 

 

Răcire cu lichid prin imersie: un pas dincolo

 

Pe lângă răcirea directă cu lichid,Răcire cu lichid prin imersiecâștigă, de asemenea, teren ca soluție de nivel următor pentru sistemele AI la scară largă. Această metodă scufundă servere întregi într-un lichid dielectric, neconductor, care absoarbe și disipează complet căldura din toate componentele. Prin răcirea întregului sistem în acest mod, răcirea cu lichid prin imersie oferă următoarele avantaje:

 

• Eficiență de răcire îmbunătățită: Înconjurând toate componentele cu lichid de răcire, această metodă asigură o îndepărtare uniformă și eficientă a căldurii.
• Costuri mai mici de întreținere: Fără piese în mișcare, cum ar fi ventilatoarele, există mai puțină uzură mecanică, ceea ce reduce costurile de întreținere și prelungește durata de viață a echipamentului.
• Eficiență energetică îmbunătățită: Răcirea prin imersie poate reduce dramatic consumul de energie, deoarece elimină necesitatea sistemelor de aer condiționat și a altor componente active de răcire.

 

▲ Sistem de răcire cu lichid prin imersie

 

În plus,Răcire cu lichid prin imersieeste foarte scalabil, ceea ce îl face ideal pentru centrele de date care gestionează sarcini de lucru AI care generează cantități semnificative de căldură, cum ar fi cele alimentate de arhitectura Blackwell a Nvidia. Pe măsură ce modelele AI mai mari devin tot mai răspândite, răcirea prin imersie poate deveni o soluție de bază pentru centrele de date care doresc să-și extindă operațiunile, reducând în același timp costurile cu energie și impactul asupra mediului.

 

 

 

Investiția Silicon Valley în tehnologii de răcire

 

Cererea în creștere pentru soluții de răcire mai eficiente în centrele de date AI a atras atenția firmelor de capital de risc, în special înSilicon Valley. Aceste firme investesc activ în startup-uri specializate înrăcire cu lichidtehnologii, recunoscând că inovațiile în acest domeniu sunt esențiale pentru viitorul hardware-ului AI.

 

Startup-uri în curs de dezvoltaresoluții avansate de răcirenu numai că oferă beneficii imediate pentru sistemele AI de generație actuală, ci și pune bazele pentru următorul val de hardware AI, care probabil va solicita metode de răcire și mai sofisticate. Aceste tehnologii trebuie să abordeze atât cerințele de putere mare, cât și provocările termice ale sistemelor AI, făcându-le o investiție atractivă pentru cei care doresc să depășească limitele a ceea ce este posibil în calculul de înaltă performanță.

 

▲ AI Data Center Investment Trends

 

 

Concluzie

 

Pe măsură ce hardware-ul AI continuă să evolueze, cererea pentru tehnologii inovatoare de răcire crește. ale lui NvidiaArhitectura Blackwelleste în fruntea acestei schimbări, utilizândapă caldă Direct to Chiprăcire pentru a crește eficiența și a reduce costurile operaționale.Răcire cu lichid, fie prin contact direct sau prin metode de imersie, se dovedește a fi cea mai eficientă modalitate de a gestiona consumul masiv de energie și producția de căldură ale sistemelor AI moderne.

 

Firmele de capital de risc iau notă, multe investind în startup-uri care pot oferi soluții de răcire de ultimă generație. Pe măsură ce centrele de date AI devin mai mari și mai complexe, importanța sistemelor de răcire eficiente și scalabile va crește, făcând răcirea lichidă o piatră de temelie a viitoarei infrastructuri de calcul de înaltă performanță.