Az új SambaNova chip, amit a több billió paraméteres modell kezelésére terveztek

A SambaNova bemutatta úttörő SN40L chipjét, amely a több billió paraméteres nagy nyelvi modellek hatékonyságának újradefiniálását ígéri.

• A SambaNova bemutatta az SN40L-t, a negyedik generációs AI-chipjét, amelyet a több billió paraméteres nyelvi modellekhez terveztek.

• Az új chip, a vezérigazgató állítása szerint 30-szor hatékonyabb, csökkentve a hatalmas AI-modellekhez szükséges chipek számát.

• A SambaNova teljes körű AI-megoldást kínál, hardvert és szoftvert egyaránt biztosítva az AI-alkalmazásokhoz.

A SambaNova, bár nem olyan ismert, mint az olyan technológiai óriások, mint a Google vagy a Microsoft, csendben forradalmasítja az AI-térséget. Bemutatták az SN40L-t, a negyedik generációs egyedi AI-chipjüket. Ez az innováció a nagy nyelvi modellek feldolgozásának kihívásait hivatott kezelni, amelyek hagyományosan drága GPU-chipek sokaságát igénylik. Rodrigo Liang, a vállalat vezérigazgatója hangsúlyozza, hogy el kell távolodni a számos chipet alkalmazó „nyers erő” megközelítéstől. Állítása szerint az SN40L kifejezetten ezekre a hatalmas modellekre van hangolva, így a mesterséges intelligencia elérhetőbbé és hatékonyabbá válik a vállalatok számára.

Rodrigo Liang merész állítása szerint új chipjeik 30-szor hatékonyabbak, drasztikusan csökkentve a szükséges chipek számát. Míg a versenytársaknak 50-200 chipre lehet szükségük egy billió paraméteres modellhez, addig a SambaNova azzal büszkélkedhet, hogy ugyanezt mindössze nyolccal éri el. „Egy billió paraméteres modellt, például a GPT-4-et nyolc foglalatban futtathatok és a lehető legkorszerűbb pontossággal azonnal, teljesen optimalizálva szállítom” – jelentette ki Liang. Ez nem csak a hardverről szól; a SambaNova átfogó megoldást kínál, amely hardvert és szoftvert egyaránt magában foglal. Segítenek az ügyfeleknek a modellek magánadatokon történő kiképzésében, biztosítva, hogy a modell tulajdonjoga a vállalatnál maradjon.

A mostantól elérhető SN40L chip nem csupán egy önálló termék. Ez része a SambaNova azon elkötelezettségének, hogy teljes körű megoldást kínáljon, biztosítva ezzel az ügyfelek AI-projektjeinek költségbiztonságát. Ráadásul a chipet úgy tervezték, hogy teljes mértékben visszafelé kompatibilis legyen, így zökkenőmentes integrációt biztosít a korábbi generációs chipekkel.

• AI
• hatékonyság
• GPT-4
• technológia
• GPU
• LLM
• Szoftver
• Hardver
• AI feldolgozás
• SambaNova
• SN40L
• Teljes körű megoldás