A csendes háború: Hogyan lopják a szellemi aranyat a rosszindulatú botok az AI óriásoktól?

2023.09.25. VipAIR

A digitális árnyékban a botok egy új fajtája bukkan fel, amelyek lopakodva nyerik ki az intelligenciát az olyan nagy teljesítményű AI-modellekből, mint az OpenAI GPT-4.

A nagy teljesítményű AI modellek, mint például az OpenAI GPT-4, újfajta digitális támadással néznek szembe. A Vercel vezérigazgatója, Guillermo Rauch által „web scraper 2.0”-ként jellemzett botok innovatív és aggasztó módon vonják ki az intelligenciát ezekből a modellekből. Rauch kiemelte ezt a riasztó tendenciát, hangsúlyozva a probléma nagyságát.

A mesterséges intelligencia ipar kielégíthetetlen étvágya a minőségi adatok iránt az egyik hajtóereje ezeknek a botoknak. A GPT-4-hez hasonló modellek kimeneteinek ügyes lekaparásával ezek a botok potenciálisan felhasználhatják a kinyert adatokat saját AI-modelleik képzésére. Guillermo Rauch ezt a „modell-desztilláció veszélyének” nevezte, ahol az AI-modellek elméletileg megoszthatják teljes tudásbázisukat. Ez arra késztette a nagy AI-vállalatokat, köztük az OpenAI, az Anthropic és a Google-t, hogy megtiltják a kimeneteik felhasználását más modellek képzésére.

Van azonban egy másik dimenziója is ennek a botveszélynek. A csúcskategóriás AI-modellek használatának növekvő költségei jövedelmező célponttá tették őket. Egyes rosszindulatú szereplők botokat vetnek be, hogy kérdésekkel árasszák el ezeket a modelleket és a gyanútlan magánszemélyekre vagy vállalatokra hagyják a számlát. Guillermo Rauch megosztott egy megdöbbentő esetet, amikor egy fejlesztő, akinek az alkalmazását ezek a botok kihasználták, egy 35 000 dolláros számlát kapott az OpenAI-tól.

A geopolitikai tényezők is szerepet játszanak. Mivel Kína blokkolja a hozzáférést a vezető generatív AI modellekhez, például a GPT-4-hez, a botok a korlátozások megkerülésére szolgáló megoldássá váltak. Ezek a botok diszkréten gyűjtik össze a legjobb eredményeket, megkerülve az ország cenzúráját. Az olyan platformokon, mint a Vercel, az AI-alkalmazások számának ugrásszerű növekedésével az egekbe szökött a botok potenciális célpontjainak száma.

Végül pedig a Software-as-a-Service (SaaS) vállalkozások érzik a nyomást. A hagyományos előfizetési modelleket veszély fenyegeti, mivel a botok kihasználják az AI-által vezérelt SaaS-szolgáltatásokat, ami pénzügyi veszteségekhez vezet. Guillermo Rauch ennek ellensúlyozására a használat alapú díjszabás felé való elmozdulást javasolja, hangsúlyozva, hogy védelmi intézkedésekre van szükség a botok támadásai ellen.

Megosztás Facebookon