A Kneron bemutatja a KL730 NPU-t: Az AI-feldolgozás jövőjét, a GPU-hiány közepette

2023.08.16. VipAIR

A Kneron KL730 neurális feldolgozóegysége (NPU) energiahatékonyságával és a GPT, transzformátor alapú AI-modellek gyorsítására való képességével forradalmasítja az AI-ipart.

  • A Kneron bemutatja a KL730 NPU-t, amely a korábbi modellekhez képest akár négyszer nagyobb energiahatékonysággal büszkélkedhet.

  • A vállalat chipje a szélső alkalmazásokat célozzák és olyan iparági óriások támogatják, mint a Qualcomm és a Foxconn.

  • A Kneron újrakonfigurálható AI-architektúrája egyedi megközelítést kínál az AI-feldolgozáshoz, amely eltér a hagyományos GPU-struktúráktól.

A mesterséges intelligenciához használt GPU-k globális hiányával kapcsolatos aggodalmak közepette a Kneron, az élvonalbeli AI-val foglalkozó startup cég versenyképes alternatívaként látja a neurális feldolgozóegység (NPU) technológiáját. A Kneron bemutatja legújabb KL730 NPU-ját, amely a vállalat állítása szerint akár négyszer nagyobb energiahatékonyságot kínál, mint korábbi modelljei. Az új chipet emellett kifejezetten a GPT, transzformátor alapú mesterséges intelligencia modellek felgyorsítására tervezték.

A Kneron chipjét nagyrészt a peremalkalmazásokra, például autonóm járművekre, valamint orvosi és ipari alkalmazásokra szánja, bár a vállalati alkalmazásokban is lát potenciált. A Kneron a Qualcomm és a Foxconn támogatását is élvezi. "Egy NPU több maggal rendelkezik, mint egy GPU" – mondta Albert Liu, a Kneron alapítója és vezérigazgatója. "A magok hatékonyabbak és jobban összpontosítanak az árnyalt csatlakoztathatósággal".

Albert Liu azzal érvelt, hogy a GPU nem kifejezetten a mesterséges intelligencia számára készült eszköz. "A GPU-hardvereket kifejezetten játékra tervezték és jelenleg csak az Nvidia próbálja mindannyiunk agyát átmosni azzal, hogy azt akarja mondani, hogy csak egy GPU képes az AI-ra" – mondta Liu. Az Nvidia GPU-technológiája piacvezető és ez az alapja a modern nagy nyelvi modelleknek (LLM) és a generatív AI-nak. Liu szerint ez nem lesz mindig így és bízik abban, hogy cége egyre nagyobb piaci teret fog kihasítani magának, mivel a szervezetek egyre inkább keresik a módját annak, hogy megfeleljenek az AI-igények kielégítésének.

A Kneron chipjei újrakonfigurálható AI-architektúrát használnak az AI felgyorsítására, ami más felépítés, mint amit a GPU-kban használnak. A KL730 esetében az architektúrát kifejezetten a GPT transzformátor-alapú AI-modellekhez is optimalizálták. Ez nem a Kneron első transzformátorokra optimalizált chipje – a vállalat két évvel ezelőtt jelentette be a KL530-as chipet, amely már rendelkezett ilyen képességgel. A Kneron chip transzformátoros modelljének eredeti felhasználási területe az autonóm járművek gyártóinak segítése volt. Albert Liu elmondta, hogy a transzformátor modellek nagyon hasznosak lehetnek a valós idejű időbeli korreláció-észlelés alkalmazási eseteiben.

Megosztás Facebookon