Az Nvidia Eos szuperszámítógépe megdöntötte saját AI képzési benchmark rekordját

2023.11.09. VipAIR

Az Nvidia Eos szuperszámítógépe a számítási teljesítmény lenyűgöző bemutatásával megdöntötte saját AI képzési rekordját, új mércét állítva fel a sebesség és a hatékonyság terén.

  • Az Nvidia több mint 10 000 H100 GPU-val hajtott Eos szuperszámítógépe új AI képzési rekordot állított fel: négy perc alatt képzett ki egy GPT-3 modellt.

  • Az Eos 40 exaflops AI-feldolgozási teljesítménnyel büszkélkedhet, rendkívül hatékony infrastruktúrával, amely bérelhető az AI-képességek bővítéséhez.

  • A szuperszámítógép legújabb eredménye jelentős előrelépést mutat a teljesítmény és a hatékonyság terén, hozzájárulva a különböző AI-alkalmazásokhoz.

Az Nvidia az Eos szuperszámítógépével ismét kitolta a mesterséges intelligencia határait. Ez a több mint 10 000 H100 Tensor Core GPU-val felszerelt technológiai titán úttörő rekordot állított fel azzal, hogy kevesebb mint négy perc alatt képzett ki egy 175 milliárd paraméteres GPT-3 modellt. Ez a teljesítmény nem csak egy lépés, hanem egy ugrás, hiszen megháromszorozza a korábban tartott rekord sebességét, amelyet maga az Nvidia állított fel alig hat hónappal korábban.

Az Eos szuperszámítógép a modern számítástechnika csodája, amely 10 752 GPU-t egyesít, amelyeket az Nvidia Infiniband hálózata köt össze, és másodpercenként egy petabyte-nyi adatot képes mozgatni. Emellett 860 terabyte nagy sávszélességű memóriával rendelkezik, ami elképesztő, 40 exaflops AI feldolgozási teljesítményt biztosít. Ez az 1344 csomópontra elosztott felhőarchitektúra az Nvidia szuperszámítógépek teljesítményét kínálja a vállalatoknak saját infrastruktúra nélkül, körülbelül havi 37 000 dolláros költséggel.

A legutóbbi benchmarkok során az Nvidia nem csak egy rekordot döntött meg, hanem kilenc benchmark-teszt során hat új rekordot állított fel, bemutatva a különböző AI-képzési feladatokban való jártasságát. Az Eos teljesítménye az Nvidia elkötelezettségét bizonyítja az AI-technológia fejlesztése mellett, a benchmarkok pedig megbízható mércéül szolgálnak a területen elért fejlődésnek.

A tesztekben használt GPT-3 modell lenyűgöző mérete ellenére az Nvidia tisztázta, hogy nem ez a legnagyobb elérhető változat. A teljes méretű GPT-3 modell, amely mintegy 3,7 billió paramétert tartalmaz, túl nehézkes a benchmarkokhoz. Ehelyett egy kompaktabb változatot használtak, amely még mindig ugyanannyi paramétert tartalmaz, de kisebb, jobban kezelhető adathalmazt használ.

Az Nvidia eredményei nemcsak a nyers teljesítményről, hanem a hatékonyságról is szólnak, de ezen a terén elért előrelépései nem korlátozódnak saját laboratóriumaira. A Microsoft Azure-csapata egy 10 752 H100 GPU-ból álló, azonos beállítással az Nvidia eredményeihez képest két százalékon belüli eredményeket ért el. Az Nvidia a tesztekben használt GPU-k számának megháromszorozása ellenére is sikerült megőriznie a lenyűgöző, 93 százalékos hatékonysági arányt. Ez a hatékonyság kulcsfontosságú az infrastruktúra és a befektetés maximális kihasználásához, biztosítva, hogy a szervezetek gyorsan és költséghatékonyan végezhessék munkájukat. Az Nvidia mesterséges intelligencia terén elért előrelépései nem maradnak észrevétlenek, hasonló rendszereket fejlesztenek és végeznek benchmark teszteket, ami tükrözi e terület növekvő jelentőségét és versenyképességét.

Megosztás Facebookon