Met de snelle opkomst van AI-toepassingen, onder leiding van modellen als ChatGPT, is de vraag naar rekenkracht omhooggeschoten. Om aan de toenemende computationele eisen van het AI-tijdperk te voldoen, heeft H3C Group, onder de paraplu van Tsinghua Unigroup, onlangs tijdens de NAVIGATE Leader Summit 2023 elf nieuwe producten in de H3C UniServer G6- en HPE Gen11-serie onthuld. Deze nieuwe serverproducten creëren een uitgebreide matrix voor AI in verschillende scenario's en bieden een krachtig onderliggend platform voor het verwerken van enorme gegevens en modelalgoritmen, en zorgen voor een ruim aanbod aan AI-computerbronnen.
Diverse productmatrix om tegemoet te komen aan de gevarieerde AI-computerbehoeften
Als leider op het gebied van intelligent computergebruik is de H3C Group al vele jaren nauw betrokken op het gebied van AI. In 2022 behaalde H3C het hoogste groeipercentage op de Chinese markt voor versnelde computers en behaalde het in totaal 132 wereldprimeurs in de internationaal gerenommeerde AI-benchmark MLPerf, wat zijn sterke technische expertise en capaciteiten aantoont.
Door gebruik te maken van een geavanceerde computerarchitectuur en intelligente mogelijkheden voor energiebeheer, gebouwd op de basis van intelligent computing, heeft H3C het vlaggenschip voor intelligent computergebruik, de H3C UniServer R5500 G6, ontwikkeld, speciaal ontworpen voor grootschalige modeltraining. Ze hebben ook de H3C UniServer R5300 G6 geïntroduceerd, een hybride computerengine die geschikt is voor grootschalige gevolgtrekkings-/trainingsscenario's. Deze producten voldoen verder aan de uiteenlopende computervereisten in verschillende AI-scenario's en bieden uitgebreide AI-computerdekking.
Vlaggenschip voor intelligent computergebruik, ontworpen voor grootschalige modeltraining
De H3C UniServer R5500 G6 combineert kracht, een laag stroomverbruik en intelligentie. Vergeleken met de vorige generatie biedt het drie keer zoveel rekenkracht, waardoor de trainingstijd met 70% wordt verminderd voor grootschalige GPT-4-modeltrainingsscenario's. Het is toepasbaar op verschillende AI-bedrijfsscenario's, zoals grootschalige training, spraakherkenning, beeldclassificatie en machinevertaling.
Kracht: De R5500 G6 ondersteunt maximaal 96 CPU-kernen, wat een toename van 150% in kernprestaties oplevert. Het is uitgerust met de nieuwe NVIDIA HGX H800 8-GPU-module, die 32 PFLOPS aan rekenkracht levert, wat resulteert in een 9x verbetering in grootschalige model AI-trainingssnelheid en een 30x verbetering in grootschalige model AI-inferentieprestaties. Bovendien kunnen gebruikers, met de ondersteuning van PCIe 5.0- en 400G-netwerken, AI-computerclusters met hogere prestaties inzetten, waardoor de adoptie en toepassing van AI in ondernemingen wordt versneld.
Intelligentie: De R5500 G6 ondersteunt twee topologieconfiguraties, past zich op intelligente wijze aan verschillende AI-toepassingsscenario's aan en versnelt deep learning en wetenschappelijke computertoepassingen, waardoor het gebruik van GPU-bronnen aanzienlijk wordt verbeterd. Dankzij de multi-instance GPU-functie van de H800-module kan een enkele H800 worden opgedeeld in 7 GPU-instances, met de mogelijkheid voor maximaal 56 GPU-instances, die elk onafhankelijke computer- en geheugenbronnen hebben. Dit vergroot de flexibiliteit van AI-middelen aanzienlijk.
Lage CO2-voetafdruk: De R5500 G6 ondersteunt volledig vloeistofkoeling, inclusief vloeistofkoeling voor zowel de CPU als de GPU. Met een PUE (Power Usage Effectiveness) van minder dan 1,1 maakt het ‘cool computing’ mogelijk in het heetst van de rekengolf.
Het is de moeite waard te vermelden dat de R5500 G6 bij de release werd erkend als een van de “Top 10 Outstanding High-Performance Servers of 2023” in de “2023 Power Ranking for Computational Performance”.
Hybride computerengine voor flexibele afstemming van trainings- en gevolgtrekkingseisen
De H3C UniServer R5300 G6 biedt als AI-server van de volgende generatie aanzienlijke verbeteringen in CPU- en GPU-specificaties vergeleken met zijn voorganger. Het beschikt over uitstekende prestaties, intelligente topologie en geïntegreerde computer- en opslagmogelijkheden, waardoor het geschikt is voor deep learning-modeltraining, deep learning-inferentie en andere AI-toepassingsscenario's, waarbij de behoeften op het gebied van training en inference computing flexibel worden afgestemd.
Uitstekende prestaties: De R5300 G6 is compatibel met de nieuwste generatie NVIDIA enterprise-grade GPU's, wat een prestatieverbetering van 4,85x oplevert vergeleken met de vorige generatie. Het ondersteunt verschillende soorten AI-versnellingskaarten, zoals GPU's, DPU's en NPU's, om te voldoen aan de heterogene rekenkrachtvereisten van AI in verschillende scenario's, waardoor het tijdperk van intelligentie wordt versterkt.
Intelligente topologie: De R5300 G6 biedt vijf GPU-topologie-instellingen, waaronder HPC, parallelle AI, seriële AI, directe toegang met 4 kaarten en directe toegang met 8 kaarten. Deze ongekende flexibiliteit verbetert de aanpasbaarheid aan verschillende gebruikerstoepassingsscenario's aanzienlijk, wijst op intelligente wijze middelen toe en zorgt voor een efficiënte werking van de rekenkracht.
Geïntegreerde computers en opslag: de R5300 G6 is flexibel geschikt voor AI-versnellingskaarten en intelligente NIC's, waarbij training- en inferentiemogelijkheden worden gecombineerd. Het ondersteunt maximaal 10 GPU's met dubbele breedte en 24 LFF-slots (Large Form Factor) voor harde schijven, waardoor gelijktijdige training en gevolgtrekking op één server mogelijk is en een kosteneffectieve computerengine wordt geboden voor ontwikkelings- en testomgevingen. Met een opslagcapaciteit tot 400 TB voldoet hij volledig aan de opslagruimtevereisten van AI-gegevens.
Nu de AI-boom steeds verder toeneemt, wordt de rekenkracht voortdurend hervormd en uitgedaagd. De release van de AI-servers van de volgende generatie markeert een nieuwe mijlpaal in de inzet van H3C Group voor “inherente intelligentie”-technologie en haar voortdurende streven naar de evolutie van intelligent computergebruik.
Kijkend naar de toekomst, geleid door de “Cloud-Native Intelligence”-strategie, houdt H3C Group vast aan het concept van “nauwgezet pragmatisme, dat het tijdperk van intelligentie voorziet.” Ze zullen doorgaan met het cultiveren van de vruchtbare bodem van intelligent computergebruik, het verkennen van diepgaande AI-toepassingsscenario’s en het versnellen van de komst van een intelligente wereld met toekomstbestendige, aanpasbare rekenkracht.
Posttijd: 04-jul-2023
