Az Nvidia GPU-hiány: A Szilícium-völgy legforróbb témája

• Az Nvidia H100-as GPU-jának hiánya forró témává vált a Szilícium-völgyben, és olyan vállalatok, mint a Microsoft, hangsúlyozzák a GPU-k kritikus szerepét az üzleti életben.

• A H100 GPU-k iránti keresletről szóló találgatások széles körben elterjedtek, a becslések szerint akár 15 milliárd dollár értékű GPU-kra is igényt tartanak, beleértve a nagy technológiai vállalatok és pénzintézetek igényeit is.

  Ha többet akarsz tudni, kövess minket Facebookon!

• Míg egyesek a hiányt ellátási láncproblémának tekintik, mások innovatív módszereket találnak a gépi tanulási modellek optimalizálására.

Az Nvidia H100-as GPU-ja iránti kielégíthetetlen kereslet nagy port kavar a Szilícium-völgyben. Andrej Karpathy, a Tesla mesterséges intelligenciájának egykori igazgatója a hiányt a technológiai világ "legfőbb pletykájának" nevezte. Még a Microsoft éves jelentése is hangsúlyozta a GPU-k fontosságát, és a lehetséges kimaradások "kockázati tényezőjeként" emlegette őket.

Elterjedtek a találgatások arról, hogy a nagy méretű H100-as klaszterek kapacitása elfogy és a becslések szerint a kereslet legalább 2024 végéig fennmarad. Egy széles körben terjesztett blogbejegyzés szerzője azt találgatta, hogy a különböző technológiai óriások és privát felhők több százezer H100-asra tarthatnak igényt, ami körülbelül 15 milliárd dollár értékű GPU-t jelent.

A hiány kezelésére tett erőfeszítések közé tartoznak az olyan cégekbe történő befektetések, mint a CentML, amely a gépi tanulási modelleket optimalizálja a gyorsabb működés és a számítási költségek csökkentése érdekében. Ez a megközelítés nagyobb hatékonyságot teremt a piacon, lehetővé téve, hogy az összetett modellek hagyományos hardvereken is fussanak. Ezek a megoldások azonban hatékonyabbak lehetnek a mesterséges intelligencia következtetéseihez, mint a nagy nyelvi modellek nulláról való kiképzése.

Az Nvidia részéről a problémát inkább ellátási lánc problémának tekintik, mint GPU-hiánynak. Charlie Boyle, az Nvidia DGX Systems alelnöke és ügyvezető igazgatója kifejtette, hogy a hiány gyakran nem magával a GPU-val, hanem a lapkán lévő valamelyik alkatrész elmaradásával függ össze. Úgy véli, hogy idővel a "GPU-hiány" kérdés kikerül a narratívából, és inkább a rossz tervezésnek, mintsem valódi hiánynak tulajdonítják.