Sam Altman: Az LLM-ek mérete nem számít majd annyira a jövőre nézve

Az OpenAI vezérigazgatója, Sam Altman úgy véli, hogy az óriási nagy nyelvi modellek kora a végéhez közeledik, és hogy a méret a modell minőségének hamis mércéje.

Az MIT-n tartott rendezvényen adott interjúja során Sam Altman, az OpenAI társalapítója és vezérigazgatója megosztotta a nagy nyelvi modellekkel (LLM) kapcsolatos meglátásait. Annak ellenére, hogy az OpenAI a GPT-4 és a ChatGPT kiadásával nemrég sikert aratott, Altman úgy véli, hogy a kizárólag a méret alapján készült óriásmodellek korszaka a végéhez közeledik.

Altman kijelentette, hogy szerinte a méret a modell minőségének hamis mércéje, és ezt az 1990-es és 2000-es évek chip-sebesség versenyéhez hasonlította, ahol a hangsúly a nagy számra mutatáson volt, nem pedig a képességek gyors növekedésén. Ehelyett Altman úgy véli, hogy a hangsúlyt a legképzettebb, leghasznosabb és legbiztonságosabb modellek előállítására kell helyezni. Úgy véli továbbá, hogy a paraméterek száma emelkedő tendenciát mutathat, de ha van rá ok, hogy csökkenjen, vagy több modell működjön együtt, amelyek mindegyike kisebb, akkor ezt meg is tennék.

Altman szerint az OpenAI azért sikeres, mert a vállalat megfontoltan mozog, és mélyen átgondolja a termékeit. Megvédte cége hozzáállását, amikor az OpenAI hat hónapos szüneteltetését kérő levélről kérdezték, és kijelentette, hogy több mint hat hónapot töltöttek a GPT-4 képzésének befejezése után, mielőtt kiadták. Altman úgy véli, hogy elengedhetetlen, hogy időt szánjanak a biztonsági modell tanulmányozására, külső auditálásra, és megpróbálják a lehető legtöbbet enyhíteni.

Altman ugyanakkor úgy véli, hogy a levélben néhány technikai árnyalatot is elhibáztak azzal kapcsolatban, hogy hol kell szünetet tartaniuk. Úgy véli, hogy az óvatosság és a szigor fokozása a biztonsági kérdésekben kritikus fontosságú, és a levélben szereplő javaslatok nem jelentik a végső megoldást.

Altman azért is szeretne nyíltan beszélni a biztonsági kérdésekről és a jelenlegi modell korlátairól, mert szerinte ez a helyes. Elismeri, hogy néha ő és a vállalat más képviselői "hülyeségeket" mondanak, amelyekről kiderül, hogy tévesek, de hajlandó vállalni ezt a kockázatot, mert fontos, hogy párbeszédet folytassunk erről a technológiáról.

Sam Altman úgy véli, hogy az LLM-ek mérete a jövőben nem fog olyan sokat számítani, és a hangsúlyt a legképzettebb, leghasznosabb és legbiztonságosabb modellek szállítására kell helyezni. Úgy véli továbbá, hogy az óvatos haladás és a biztonsági kérdések szigorítása kritikus fontosságú e technológia jövője szempontjából.

• OpenAI
• ChatGPT
• AI
• átláthatóság
• GPT-4
• LLM
• Biztonsági kérdések
• Modellminőség
• Modellméret