Creșterea soluțiilor de răcire cu lichid în serverele AI: o analiză TrendForce

 

Ⅰ Introducere

 

Potrivit celui mai recent sondaj realizat de TrendForce, este de așteptat ca rata de penetrare a soluțiilor de răcire lichidă să crească, determinată de livrarea anticipată a platformei NVIDIA Blackwell în al patrulea trimestru al anului 2024. Se estimează că această rată va crește de la aproximativ 10% în 2024 la peste 20% în 2025. Conștientizarea globală tot mai mare a factorilor de mediu, sociali și de guvernare (ESG), împreună cu construirea accelerată de servere AI de către furnizorii de servicii cloud (CSP), deschide calea pentru o schimbare semnificativă de la răcirea tradițională cu aer. la soluții avansate de răcire cu lichid.

 

Răcirea cu lichid oferă mai multe avantaje față de răcirea cu aer, inclusiv managementul termic îmbunătățit, niveluri reduse de zgomot și eficiență energetică crescută. Pe măsură ce cererea de capabilități AI crește, în special în aplicațiile cu consum intens de date, trecerea la sistemele de răcire cu lichid devine din ce în ce mai critică pentru menținerea performanței optime a serverului.

 

▲ Sistem de răcire cu lichid utilizat în mediile de server AI

 

 

Ⅱ Dominanța NVIDIA pe piața serverelor AI

 

Pe piața globală de servere AI, NVIDIA continuă să domnească suprem, deținând o cotă de piață de aproape 90% în segmentul de servere GPU AI începând cu 2024. AMD este semnificativ cu o cotă de piață de aproximativ 8%. Această dominație se datorează în mare măsură tehnologiei de ultimă oră NVIDIA și ecosistemului său robust, care acceptă o gamă largă de aplicații în AI, învățarea automată și analiza datelor.

 

TrendForce observă că volumul de livrare a NVIDIA Blackwell în acest an este relativ mic. Acest lucru se datorează în primul rând pentru că platforma este supusă unor procese finale de testare și validare în cadrul lanțului de aprovizionare, care necesită optimizare continuă în domenii precum transmisia de date de mare viteză și designul de răcire. Consumul crescut de energie al platformei Blackwell, în special în soluția de rack GB200, necesită o eficiență superioară de răcire, accelerând și mai mult adoptarea soluțiilor de răcire cu lichid.

 

▲ Platformă NVIDIA Blackwell pentru servere AI

 

În ciuda avantajelor răcirii lichide, ecosistemul actual de server încă arată o rată scăzută de adoptare a acestei tehnologii. Producătorii de design original (ODM) trebuie să parcurgă o curbă de învățare pentru a aborda provocările legate de scurgerile și eficiența răcirii. Întrucât proporția de GPU-uri de ultimă generație pe platforma Blackwell este de așteptat să depășească 80% până în 2025, acest lucru va aprinde concurența între producătorii de surse de alimentare și industria de răcire pe piața emergentă a răcirii lichide AI, ceea ce va duce la un nou peisaj competitiv.

 

 

 

Ⅲ Implementare accelerată de către CSP-uri mari

 

Principalii furnizori de servicii cloud, inclusiv Google, AWS și Microsoft, și-au accelerat rapid implementările de servere AI în ultimii ani, utilizând în mod predominant GPU-uri NVIDIA și ASIC-uri dezvoltate singur. Puterea termică de proiectare (TDP) a cabinetului NVIDIA GB200 NVL72 este de aproximativ 140 kW, subliniind nevoia urgentă de soluții de răcire cu lichid pentru a gestiona eficient disiparea căldurii. Se anticipează că metodele de răcire lichid-aer (L2A) vor deveni abordarea principală în acest context.

 

▲ Implementarea serverului AI în centrele de date

 

În timp ce GPU-urile NVIDIA domină, Google a fost, de asemenea, proactiv în explorarea soluțiilor de răcire cu lichid pentru unitățile sale de procesare tensor (TPU). Angajamentul Google față de această tehnologie o poziționează drept cea mai avansată companie din SUA în adoptarea răcirii lichide. BOYD și Cooler Master sunt furnizorii principali pentru plăcile reci de la Google, care sunt esențiale pentru menținerea temperaturilor optime în medii de calcul de înaltă performanță.

 

În China continentală, Alibaba își extinde agresiv centrele de date de răcire cu lichid, subliniind și mai mult trecerea globală către această tehnologie avansată de răcire. Alți furnizori de servicii cloud continuă să se bazeze în primul rând pe soluții de răcire cu aer pentru ASIC-urile AI dezvoltate singur, care pot împiedica performanța în comparație cu sistemele răcite cu lichid.

 

 

Ⅳ Furnizorii cheie și desemnarea componentelor

 

Pe măsură ce trecerea la răcirea cu lichid câștigă avânt, furnizorii de servicii cloud desemnează furnizori cheie de componente pentru soluțiile de răcire lichidă ale cabinetului GB200. În prezent, Qihong și Cooler Master sunt furnizori de top pentru plăci reci, în timp ce componentele colectoare provin de la Cooler Master și Shuanghong. Unitățile de distribuție a lichidului de răcire (CDU) sunt furnizate de lideri din industrie precum Vertiv și Delta.

 

Pentru componentele esențiale de prevenire a scurgerilor, cum ar fi deconectarea rapidă (QD), producători precum CPC, Parker Hannifin, Danfoss și Staubli sunt puternic implicați în achiziții. Pe măsură ce furnizori suplimentari precum Jiazhe și Fushida intră în etapa de validare, aceștia vor avea oportunități de a furniza componente de deconectare rapidă în prima jumătate a anului 2025, contribuind la atenuarea dezechilibrului actual între cerere și ofertă.

 

▲ Furnizori cheie pentru componente de răcire cu lichid

 

 

Ⅴ Avantajele răcirii cu lichid

 

Eficiență de răcire îmbunătățită

Sistemele de răcire cu lichid sunt proiectate pentru a elimina căldura mai eficient decât sistemele de răcire cu aer. Acest lucru este deosebit de important în aplicațiile AI în care procesoarele pot genera căldură semnificativă datorită cerințelor de calcul ridicate. Prin utilizarea lichidului pentru a absorbi și a transfera căldura departe de componente, serverele pot funcționa la temperaturi mai scăzute, reducând riscul de throttling termic și îmbunătățind performanța.

 

Optimizarea spațiului

Sistemele de răcire cu lichid ocupă adesea mai puțin spațiu decât soluțiile tradiționale de răcire cu aer, permițând un design mai eficient al centrului de date. Acest atribut de economisire a spațiului este deosebit de benefic pentru organizațiile care doresc să își maximizeze capacitatea serverului fără a-și extinde amprenta fizică.

 

Eficiență energetică

Având un accent tot mai mare pe durabilitate și eficiență energetică, soluțiile de răcire cu lichid pot ajuta la reducerea consumului total de energie al centrelor de date. Prin reducerea la minimum a dependenței de ventilatoare și unități de aer condiționat, răcirea cu lichid poate reduce costurile energetice și amprenta de carbon, aliniindu-se cu obiectivele ESG pe care multe companii se străduiesc să le atingă.

 

Reducerea zgomotului

Sistemele de răcire cu lichid funcționează mai silențios decât sistemele tradiționale de răcire cu aer, ceea ce duce la un mediu de lucru mai plăcut în centrele de date. Această reducere a zgomotului este o considerație importantă pentru instalațiile situate în apropierea zonelor populate sau în clădirile de birouri.

 

 

Ⅵ Abordarea provocărilor comune

 

În ciuda beneficiilor, trecerea la răcirea cu lichid vine cu provocări. Acestea includ:

 

Costuri inițiale

Investiția inițială pentru sistemele de răcire cu lichid poate fi mai mare decât soluțiile tradiționale de răcire cu aer. Organizațiile trebuie să cântărească aceste costuri în raport cu beneficiile și economiile pe termen lung în eficiența energetică și întreținere.

 

Preocupări privind scurgerile

Una dintre cele mai semnificative provocări asociate cu răcirea cu lichid este riscul de scurgeri. Proiectarea adecvată, selecția materialelor și protocoalele de întreținere sunt esențiale pentru a atenua acest risc și pentru a asigura fiabilitatea sistemului.

 

Complexitatea întreținerii

Sistemele de răcire cu lichid necesită întreținere mai complexă în comparație cu sistemele de răcire cu aer. Organizațiile trebuie să își instruiască personalul sau să angajeze furnizori de servicii specializați pentru a se asigura că soluțiile de răcire cu lichid rămân eficiente și fără probleme.

 

 

Ⅶ Tendințele viitoare în răcirea cu lichid

 

Pe măsură ce cererea de calcul AI continuă să crească, se așteaptă că mai multe tendințe viitoare vor modela peisajul răcirii cu lichid:

 

Adoptarea soluțiilor hibride

Sistemele hibride de răcire care combină atât tehnologiile de răcire cu aer, cât și cele lichide sunt susceptibile de a câștiga tracțiune. Aceste sisteme pot oferi flexibilitate și eficiență, adaptându-se la diferite sarcini de lucru și nevoi operaționale.

 

Materiale avansate

Dezvoltarea de materiale avansate pentru componentele de răcire cu lichid poate îmbunătăți performanța și fiabilitatea. Inovațiile în știința materialelor pot duce la soluții de răcire mai ușoare, mai durabile și mai eficiente.

 

Integrare cu AI și IoT

Integrarea tehnologiilor AI și IoT în sistemele de răcire poate optimiza performanța, permițând monitorizarea în timp real și ajustări automate bazate pe condițiile de mediu și sarcinile de lucru ale serverului.

 

Focalizare pe durabilitate

Pe măsură ce companiile acordă din ce în ce mai mult prioritate durabilității, soluțiile de răcire lichidă care utilizează lichide de răcire și materiale ecologice vor deveni mai răspândite. Industria poate vedea o schimbare către sisteme cu circuit închis pentru a minimiza deșeurile și impactul asupra mediului.

 

▲ Tendințele viitoare în tehnologia de răcire cu lichid

 

 

 

Ⅷ Concluzie

 

Trecerea de la soluțiile de răcire cu aer la soluții lichide în serverele AI reprezintă o evoluție semnificativă în industrie, determinată de progresele tehnologice și de cererea tot mai mare de management termic eficient. Cu NVIDIA lider pe piața serverelor AI și furnizorii mari de servicii cloud precum Google care explorează în mod activ opțiunile de răcire cu lichid, peisajul se schimbă rapid.

 

Înțelegând beneficiile și provocările răcirii lichide, precum și actorii cheie implicați în implementarea acesteia, organizațiile se pot poziționa mai bine pentru a folosi această tehnologie pentru îmbunătățirea performanței, sustenabilității și competitivității în peisajul AI. Pe măsură ce industria avansează, soluțiile de răcire lichidă vor juca un rol crucial în modelarea viitorului centrelor de date, asigurându-se că acestea pot satisface cerințele aplicațiilor AI de generație următoare.