Az Anthropic AI startup cég bemutatott egy chatbotot, amely 75 000 szavas kontextusablakkal rendelkezik, így kevesebb mint egy perc alatt képes feldolgozni egy teljes regényt.
A chatbotok memóriakapacitása gyakran korlátozó tényező, az olyan nyelvi modellek, mint a ChatGPT, ami körülbelül 3000 szóból álló kontextusablakkal rendelkeznek. Ez korlátozza a chatbotok által egy adott időben feldolgozható információ mennyiségét. A korábbi OpenAI mérnökök által alapított Anthropic azonban jelentősen, mintegy 75 000 szóra bővítette a chatbotja, Claude kontextusablakát. A vállalat blogbejegyzése szerint Claude kibővített kontextusablakának köszönhetően egy teljes regényt, például a – The Great Gatsby – címűt is képes egyetlen menetben feldolgozni. A vállalat ezt a képességet úgy demonstrálta, hogy Claude egyetlen szerkesztett mondatot azonosított a regényen belül, amit 22 másodperc alatt sikeresen teljesített. Fontos megjegyezni, hogy a mesterséges intelligencia nyelvi modelljei az információt tokenekben mérik, ami egy olyan szemantikai egység, amely pontosabban reprezentálja a jelentést, mint a karakterek vagy szavak száma. A Claude kontextusablakában most 100 000 tokent dolgoz fel, ami jelentős növekedés a korábbi 9000 tokenes kapacitásához képest. Jelenleg Claude megnövelt kapacitása csak az Anthropic üzleti partnerei számára érhető el, akik a vállalat API-ján keresztül férnek hozzá a chatbothoz. Bár az árakat egyelőre nem hozták nyilvánosságra, a nagyobb mennyiségű szöveg feldolgozásához szükséges megnövekedett számítási erőforrások miatt várhatóan jelentősen magasabb lesz. A mesterséges intelligencia nyelvi modellek információfeldolgozási képességeinek ez a fejlődése kétségtelenül hasznosabbá teszi őket. Az, hogy a Claude képes hosszú dokumentumokat percek alatt elolvasni, összefoglalni és elemezni, valamint hosszabb beszélgetéseket folytatni, forradalmasíthatja az iparágat. Ennek ellenére a chatbotok még mindig küzdenek az információk fabrikálásával, ami további fejlesztést igényel.