Az NVIDIA és a Dell új Project Helix-e, amely lehetővé teszi a helyben elérhető AI-megoldásokat

A Dell és az Nvidia régóta fennálló szövetségüket megerősítve bemutatták a Project Helix-et, egy ambiciózus vállalkozást, amely a hardver, a szoftver és a szolgáltatások összefogására összpontosít, hogy a generatív AI és a nagy nyelvi modellek (LLM) vállalati alkalmazását előmozdítsa. A Project Helix célja, hogy részletes útmutatókkal és referencia telepítésekkel segítse a vállalatokat a generatív AI-feladatok végrehajtásában.

A projekt központi eleme a Dell PowerEdge szerverek – például a PowerEdge XE9680 és R760a – integrálása az Nvidia H100 tenzormagos GPU-kkal, valamint a Dell PowerScale és a Dell ECS vállalati objektumtárolókkal. Az Nvidia AI Enterprise és NeMo keretrendszer képességei alkotják ennek az integrált rendszerek szoftveres gerincét. Kari Briski, az Nvidia szoftvertermék-menedzsmentért felelős alelnöke hangsúlyozta, hogy a vállalkozások számára az adatvédelem és a biztonság áll a középpontban, jelezve, hogy az LLM-eket a helyben kell működtetni.

A Project Helix leegyszerűsíti a folyamatot a vállalatok számára azáltal, hogy előre betanított alapmodelleket biztosít, amelyeket a szervezet adatainak megértéséhez lehet igazítani, így nem kell a semmiből új LLM-et fejleszteni. A Dell és az Nvidia hardver- és szoftvererőforrásainak ez az innovatív kombinációja lehetővé teszi az "LLMops"-ok – az LLM-ek konkrét vállalati felhasználásra történő üzemeltetését is.

Végül a Project Helix tervei szerint a vállalatok számára tervrajzok állnak majd rendelkezésre a személyre szabott generatív AI-munkaterhelések telepítéséhez, megoldást kínálva arra a kihívást jelentő feladatra, hogy egy modellt valós időben optimalizáljanak a késleltetés és az áteresztőképesség szempontjából. Varun Chhabra, a Dell Infrastructure Solutions Group és Telecom termékmarketingért felelős alelnöke optimizmusának adott hangot azzal kapcsolatban, hogy a projekt lehetővé teszi a mesterséges intelligencia telepítését bármilyen környezetben, legyen az helyben vagy a felhőben.