Microsoft Orca 2: A hatékony, kisebb nyelvi modellek új korszakának úttörője

2023.11.22. VipAIR

A Microsoft legújabb innovációja, az Orca 2 kihívást jelent az eddigi normák ellen, hiszen bebizonyította, hogy a kisebb nyelvi modellek összetett következtetési feladatokban felülmúlhatják nagyobb társaikat.

  • A Microsoft Orca 2, amely két modellből áll, 7 milliárd és 13 milliárd paraméterrel, fejlett érvelési képességekkel rendelkezik, és vetekednek az öt-tízszer akkora modellekkel.

  • Ezek a modellek az eredeti Orca sikerére építve továbbfejlesztett képzési módszereket alkalmaznak, így korlátozott számítási erőforrások mellett is hatékonyan képesek összetett feladatok megoldására.

  • Az Orca 2 sikere rávilágít a költséghatékony üzleti alkalmazásokban rejlő lehetőségekre, és új lehetőségeket nyit a kisebb, nagy teljesítményű nyelvi modellek számára.

A mesterséges intelligencia gyorsan fejlődő világában a Microsoft jelentős ugrást hajtott végre az Orca 2 kiadásával. Ez a 7 milliárd és 13 milliárd paraméterrel rendelkező nyelvi modellpár megkérdőjelezi az uralkodó felfogást, miszerint a nagyobb mindig jobb. Az Orca 2 azzal tűnik ki, hogy összetett következtetési feladatokban, különösen nullszaldós környezetben, vagy megegyezik a nagyobb modellekkel, köztük a Meta Llama-2 Chat-70B-vel, vagy felülmúlja azokat. Ez az eredmény a Microsoft innovatív, a továbbfejlesztett képzési módszerekre és jelekre összpontosító mesterséges intelligencia-fejlesztési megközelítését bizonyítja.

Az Orca 2 fejlesztése az eredeti 13B Orca modellre épül, amely már korábban is erős érvelési képességekről tett tanúbizonyságot azáltal, hogy modellek lépésről lépésre történő érvelési nyomvonalát utánozta. A Microsoft kutatói az Orca 2 esetében ezt egy lépéssel tovább vitték, egy egyedülálló képzési megközelítést alkalmazva. Ahelyett, hogy egyszerűen lemásolná a nagyobb modellek viselkedését, az Orca 2-t úgy tervezték, hogy különböző feladatokhoz különböző megoldási stratégiákat alkalmazzon, felismerve, hogy az egyféle megközelítés nem biztos, hogy hatékony a kisebb modellek esetében.

A Microsoft elkötelezettségét a mesterséges intelligencia technológia fejlesztése iránt az is mutatja, hogy mindkét Orca 2 modellt nyílt forráskódúvá tette. Ez a lépés lehetővé teszi a kisebb modellek fejlesztésével és értékelésével kapcsolatos szélesebb körű kutatást, amelyek a nagyobb modellekkel azonos teljesítményre képesek. Ez egy jelentős lépés afelé, hogy a vállalkozásoknak, különösen a korlátozott erőforrásokkal rendelkezőknek, több életképes lehetőséget biztosítson az egyedi felhasználási eseteik megoldására anélkül, hogy kiterjedt számítási kapacitásra lenne szükségük.

Az Orca 2 sikerének következményei messzemenőek. Nemcsak kihívást jelent a jelenlegi környezetben, ahol a nagyobb modellek dominálnak, hanem a jövőben több kis méretű, nagy teljesítményű modell számára is megnyitja az utat. Ez a fejlődés kulcsfontosságú, mivel új lehetőségeket nyit meg az AI-alkalmazások számára, különösen olyan környezetekben, ahol a számítási erőforrások korlátozottak. Az Orca 2-vel a Microsoft nemcsak a kisebb modellek teljesítményének határait feszegeti, hanem demokratizálja a fejlett AI-képességekhez való hozzáférést is.

Megosztás Facebookon