Az AMD bemutatta a MI300X-et, egy élvonalbeli AI-chipet generatív AI feladatokhoz

2023.06.14. VipAIR

Az AMD bemutatta az Instinct MI300X-et, amely a vállalat AI-által vezérelt jövőjének központi eleme, amely kiterjedt memóriájáról és adatátviteli képességeiről híres, különösen a generatív AI-feladatoknál.

Egy San Franciscóban tartott különleges eseményen Lisa Su, az AMD vezérigazgatója felfedte az Instinct MI300X jellemzőit, amely egy olyan innovatív hardver, amelynek célja a generatív AI-feladatok, köztük a nagy nyelvi modellek tökéletesítése. Ez az AI-chip lényegében számos chiplet együttese, amelyek egyetlen csomagban kapcsolódnak egymáshoz megosztott memórián és hálózati kapcsolatokon keresztül. Su az MI300X-et "generatív AI-gyorsítónak" nevezte és kiemelte, hogy a CDNA 3 családba tartozó GPU-chipleteket tartalmaz, amelyeket kifejezetten mesterséges intelligencia és nagy teljesítményű számítási munkaterhelésekhez terveztek.

Az MI300X az előd, az MI300A GPU-fókuszú változata és abban különbözik, hogy a három Zen4 CPU chipletet további két CDNA 3 chipletre cseréltek. Ennek eredményeképpen az MI300X tranzisztorszáma 146 milliárdról 153 milliárdra nő, miközben a megosztott DRAM-memória 128 gigabájtról 192 gigabájtra bővül. A memória sávszélessége is jelentős ugráson ment keresztül, 800 gigabájt/másodpercről 5,2 terabájt/másodpercre.

A teljesítményt tekintve az MI300X 2,4-szer nagyobb memóriasűrűséget és 1,6-szor nagyobb memória-sávszélességet kínál, mint az Nvidia H100 "Hopper" GPU-ja. Képességeinek demonstrálására Lisa Su bemutatta a chipet a Falcon-40B, egy széles körben használt, 40 milliárd paramétert tartalmazó nyílt forráskódú nyelvi modell futtatásával. Su állítása szerint az MI300X az első olyan chip, amely képes egy ekkora neurális hálózatot teljes egészében a memóriában futtatni, így nincs szükség a külső memóriába történő oda-vissza adatátvitelre.

Lisa Su emellett bemutatta, hogy az MI300X képes körülbelül 80 milliárd paramétert tartalmazó modelleket futtatni a memóriában. A versenytársakhoz képest az MI300X extra memóriakapacitása előnyt jelent a nagyobb modellek közvetlen memóriában történő futtatásakor, ami csökkenti a szükséges GPU-k számát és ezáltal a teljes tulajdonlási költséget.

Az Nvidia DGX rendszereinek riválisaként a Lisa Su bemutatta az AMD Instinct Platformot is, egy mesterséges intelligencia számítógépcsaládot. Az első modell nyolc MI300X egységet kombinál 1,5 terabájt HMB3 memóriával, és megfelel az Open Compute Platform specifikációnak. Su hangsúlyozta, hogy az ügyfelek ezt a nagy kapacitású mesterséges intelligencia számítási képességet zökkenőmentesen integrálhatják majd meglévő infrastruktúrájukba. A versenyben az MI300X az Nvidia Grace Hopper kombinált chipjével fog versenyezni, míg a korábban megjelent MI300A-t már az El Capitan szuperszámítógépben használják. Mind az MI300A, mind az MI300X az idei negyedik negyedévben kerül sorozatgyártásba.

Megosztás Facebookon