Kunstmatige intelligentie zorgt voor een ongekende vraag in datacenters, omdat de behoefte aan het verwerken van grote hoeveelheden gegevens blijft toenemen.
Terwijl technologiegiganten zich haasten om hun infrastructuur uit te breiden om de AI-workloads te kunnen accommoderen, worden ze geconfronteerd met de groeiende uitdaging hoe ze deze activiteiten duurzaam en betaalbaar kunnen aandrijven – en dit heeft er zelfs toe geleid dat bedrijven als Oracle en Microsoft naar onderzoek kernenergie als mogelijke oplossing.
Een ander cruciaal probleem is het beheersen van de hitte die wordt gegenereerd door krachtige AI-hardware. Vloeistofkoeling is naar voren gekomen als een veelbelovende manier om optimale systeemprestaties te behouden en tegelijkertijd om te gaan met de stijgende energievraag. Alleen al in oktober 2024 kondigden verschillende technologiebedrijven vloeistofgekoelde oplossingen aan, wat een duidelijke verschuiving in de sector in die richting benadrukte.
Vloeistofgekoelde SuperClusters
Op zijn recent Lenovo Tech World-evenement presenteerde het bedrijf zijn volgende generatie Neptune vloeistofkoelingsoplossing voor servers.
De zesde generatie Neptune, die gebruik maakt van open-loop, directe warmwaterkoeling, wordt nu ingezet in het partnerecosysteem van het bedrijf, waardoor organisaties versnelde computing voor generatieve AI kunnen bouwen en uitvoeren, terwijl het energieverbruik van het datacenter met tot wel 40% wordt verminderd. , zegt het bedrijf.
Op OCP Global Summit 2024 presenteerde Giga Computing, een dochteronderneming van Gigabyte, een server met directe vloeistofkoeling (DLC), ontworpen voor Nvidia HGX H200-systemen. Naast de DLC-server onthulde Giga ook de G593-SD1, die beschikt over een speciale luchtkoelingskamer voor de Nvidia H200 Tensor Core GPU, gericht op datacenters die nog niet klaar zijn om vloeistofkoeling volledig te omarmen.
Dell's nieuwe Integrated Rack 7000 (IR7000) is een schaalbaar systeem dat speciaal is ontworpen met vloeistofkoeling in gedachten. Het is in staat toekomstige toepassingen tot 480 kW te beheren, terwijl bijna 100% van de gegenereerde warmte wordt vastgelegd.
“De datacenters van vandaag kunnen de eisen van AI niet bijhouden en vereisen computer- en vloeistofkoelinginnovaties met hoge dichtheid en modulaire, flexibele en efficiënte ontwerpen”, zegt Arthur Lewis, president van Dell's Infrastructure Solutions Group. “Deze nieuwe systemen leveren de prestaties die organisaties nodig hebben om concurrerend te blijven in het snel evoluerende AI-landschap.”
Supermicro heeft ook vloeistofgekoelde SuperClusters onthuld die zijn ontworpen voor AI-workloads, mogelijk gemaakt door het Nvidia Blackwell-platform. De vloeistofkoelingsoplossingen van Supermicro, ondersteund door het Nvidia GB200 NVL72-platform voor exascale computing, zijn begonnen met het testen van monsters voor geselecteerde klanten, waarbij volledige productie eind Q4 wordt verwacht.
“Wij zijn de drijvende kracht achter de toekomst van duurzaam AI-computing, en onze vloeistofgekoelde AI-oplossingen worden snel overgenomen door enkele van de meest ambitieuze AI-infrastructuurprojecten ter wereld, met meer dan 2.000 vloeistofgekoelde racks die sinds juni 2024 zijn verzonden”, aldus Charles Liang, president en CEO van Supermicro.
De vloeistofgekoelde SuperClusters zijn voorzien van geavanceerde in-rack of in-row koelvloeistofdistributie-eenheden (CDU's) en op maat gemaakte koude platen voor het huisvesten van twee Nvidia GB200 Grace Blackwell Superchips in een 1U-vormfactor.
Het lijkt duidelijk dat vloeistofkoeling de kern zal vormen van de datacenteractiviteiten, aangezien de werkdruk blijft groeien. Deze technologie zal van cruciaal belang zijn voor het beheer van de warmte- en energiebehoefte van de volgende generatie AI-computing, en ik denk dat we nog maar net de potentiële impact beginnen te zien die deze de komende jaren zal hebben op de efficiëntie, schaalbaarheid en duurzaamheid.
