Az Nvidia bemutatja a H100 NVL chipet a nagy nyelvi modellekhez
2023.03.22. VipAIR
Az Nvidia bemutatta a H100 NVL nevű új chipet, amelyet a nagy volumenű következtetési feladatok kezelésére, nagy természetes nyelvi modellekkel történő előrejelzések készítésére terveztek.
Az Nvidia társalapítója és vezérigazgatója, Jensen Huang a vállalat a GTC konferenciáján két új chipet mutatott be mesterséges intelligencia alkalmazásokhoz. Az elsőt, az NVIDIA H100 NVL for Large Language Model Deployment a nagy nyelvi modellek következtetési feladatainak kezelésére tervezték, mint például az OpenAI ChatGPT-je.
A következtetés egy gépi tanulási program bevetésének második szakasza, amikor a betanított programot futtatják, hogy előrejelzésekkel válaszoljon kérdésekre. A H100 NVL 94 gigabájt kísérőmemóriával rendelkezik, és adatközponti méretekben az előző generációs A100-ashoz képest, akár 12-szer gyorsabb következtetési teljesítményre képes a GPT-3 esetében.
A H100 NVL várhatóan az év második felében kerül kereskedelmi forgalomba. Az Nvidia ajánlata az Intel kiszorítására törekszik, amelynek szerver CPU-jai, a Xeon-család régóta uralja a következtetési feladatokat, míg az Nvidia a "képzés" területét uralja, amely az a fázis, amikor először kifejlesztenek egy olyan gépi tanulási programot, mint a ChatGPT.
A második chip, az L4 for AI Video 120-szor nagyobb AI-alapú videóteljesítményt képes nyújtani, mint a CPU-k, 99%-kal jobb energiahatékonysággal kombinálva. A Google az első felhőszolgáltató, amely az L4 videochipet kínálja, a G2 virtuális gépek segítségével, amelyek jelenleg privát előzetes kiadásban vannak.
A Google kínálatán kívül az L4 több mint 30 számítógépgyártó, köztük a Dell Technologies, a Fujitsu, a Hewlett Packard Enterprise, a Lenovo és mások rendszereiben is elérhetővé válik.
Jensen Huang vitaindító előadása több utalást is kiemelt a ChatGPT létrehozójára, az OpenAI-ra, amely az Nvidia szerint a Hopper GPU-kat fogja használni a programjait futtató Azure számítógépekben. A vállalat egy új, cuLitho nevű szoftverkönyvtárat is bemutatott, amelynek célja, hogy felgyorsítsa a fotomaszkok készítésének feladatát, azokat a képernyőket, amelyek meghatározzák, hogyan vetítik a fényt a szilícium ostyára, hogy áramköröket hozzanak létre.
Az Nvidia állítása szerint a szoftver a jelenleg elérhetőnél kisebb tranzisztorokkal és vezetékekkel rendelkező chipeket tesz lehetővé, felgyorsítja a teljes tervezési időt, és növeli az energiahatékonyságot. Jensen Huang elmondta, hogy a szoftvert a világ legnagyobb szerződéses chipgyártója, a TSMC tervezőrendszerébe integrálják, és a Synopsys tervezőszoftverébe is beépítik.- Legfrissebb
- A Microsoft elhallgattatta mérnökét a DALL-E 3-mal kapcsolatos aggodalmai miatt
- Az Eagle 7B: A költséghatékony, többnyelvű AI modellek új korszaka
- A Neuralink sikeresen beültetett egy vezeték nélküli agyi chipet egy emberbe
- Az OpenAI és a Common Sense Media együttműködik az AI-irányelvek kidolgozásában
- Elon Musk nagy tétekre épülő stratégiája az AI-technológiai versenyben
- Az AI spam már kezdi tönkretenni az internetet
- A Hugging Face és a Google együttműködik, hogy felgyorsítsa a nyílt AI-fejlesztést
- Az OpenAI új frissítésekkel gyógyítja a GPT-4 lustaságát
- Az AI-startupok és a technológiai óriások befektetései vizsgálat alatt állnak
- Chrome M121 frissítés: Az AI bevezetése az intelligensebb böngészési élményért
- Legnépszerűbb címkék
- OpenAI
- ChatGPT
- generatív AI
- AI
- gépi tanulás
- Microsoft
- innováció
- GPT-4
- technológia