A Weights & Biases bemutatja a Prompts funkciót az LLMOps támogatásához

A San Franciscó-i székhelyű startup, a Weights & Biases bejelentette az új MLOps platformfrissítést, amelynek célja a nagy nyelvi modell-alapú (LLM) műveletek megkönnyítése. Az LLM-ek szervezeteknél történő egyre szélesebb körű használatával felmerült az igény olyan prompt-technikai eszközökre, amelyekkel láncolt promptok hozhatók létre a kívánt eredmények elérése érdekében. Az új funkció, a W&B Prompts lehetővé teszi a felhasználók számára, hogy egyszerűen LLM-alapú alkalmazásokat hozzanak létre olyan promptok sorozatával, amelyek optimalizált kimenethez vezetnek.

A Weights & Biases vezérigazgatója és társalapítója, Lukas Biewald szerint a vállalat küldetése mindig is az volt, hogy a legjobb eszközöket készítse a gépi tanulással foglalkozó szakemberek számára. Az első képesség, amelyet a vállalat épített, egy kísérletkövető eszköz volt, amely segített nyomon követni az összes modellt, amelyet egy szervezet épített és azt, hogy azok hogyan fejlődtek vagy visszafejlődtek az idő múlásával. Azóta a vállalat kibővítette a platformját paraméteroptimalizálással, jelentéstételi funkcióval, valamint a termék nyomon követésével, a modell-munkafolyamatok kezelése és a telepítéshez szükséges speciális funkciókkal.

Az elmúlt hónapokban egyre népszerűbbé vált a Prompt Engineering, a szervezetek a teljesen egyedi modellek építése helyett az olyan gyártók LLM-jeire támaszkodnak, mint az OpenAI és a Cohere. A Weights & Biases új funkciója illeszkedik a kialakulóban lévő LLMOps környezetbe, mivel segít a vállalatoknak pontos és hatékony súgók készítésében az összetett feladatokhoz.

Lukas Biewald megjegyezte, hogy az hangulatelemzés végrehajtása olyan egyszerű lehet, mint a megfelelő prompt. Az LLM-ek korában már nem igényel jelentős időt és erőfeszítést az hangulatelemzés alkalmazása egy adathalmazra. Úgy véli, hogy ma már minden szoftverfejlesztő és minden ember lehet gépi tanulással foglalkozó szakember anélkül, hogy sok képzésre lenne szüksége.

A W&B Prompts olyan eszközöket kínál a hibakereséshez, amelyek segítségével a prompt mérnök nyomon követheti és hibakereséssel elháríthatja a prompt lánc lehetséges hibáit. Emellett a LangChain, a nyelvi modellekkel támogatott alkalmazások fejlesztésére szolgáló keretrendszer mostantól integrálva van a W&B Prompts-ba. Az OpenAI-alapú LLM-ek számára a Weights & Biases integrált támogatást kínál az OpenAI Evals keretrendszer hatékonyságának értékeléséhez.

Összefoglalva, a prompt engineering az LLM-ek használatának legnépszerűbb módjává vált, és a W&B Prompts bevezetésével a szervezetek és a felhasználók könnyebben építhetnek LLM-alapú alkalmazásokat. A hibakereső eszközök és a LangChain és az OpenAI Evals keretrendszerrel való integráció megkönnyíti a pontos és hatékony promptok fejlesztését komplex feladatokhoz.