Az OpenAI kiad egy eszközt az AI által generált szöveg felismerésére

Az OpenAI olyan eszközt indított, amelynek célja, hogy különbséget tegyen az ember által írt és az AI által generált szövegek között.

Az OpenAI kiadta az OpenAI AI Text Classifier nevű eszközt, amely megpróbál különbséget tenni az olyan mesterséges intelligencia rendszerek, mint a ChatGPT és a GPT-3 és az emberek által írt szöveg között. Az szövegosztályozó körülbelül 26%-os sikerességi aránnyal rendelkezik, de az OpenAI szerint más módszerekkel együtt használva hasznos lehet az AI szöveggenerátorokkal való visszaélés megelőzésében. Az OpenAI elérhetővé teszi ezt a kezdeti osztályozót, hogy visszajelzéseket kapjon és a jövőben továbbfejlesztett módszerek megosztását tervezi.

Az OpenAI AI szövegosztályozó egy olyan mesterséges intelligencia nyelvi modell, amelyet különböző nyilvánosan elérhető webes szövegeken képeztek ki és amelyet úgy finomhangoltak, hogy megjósolja annak valószínűségét, hogy egy adott szöveget mesterséges intelligencia generált. Az OpenAI a szövegosztályozó öt különböző szervezet 34 szöveggeneráló rendszeréből származó szöveggel képezte ki, köztük magával az OpenAI-val. A osztályozó azonban legalább 1000 karaktert igényel és nem biztos, hogy olyan hatékonyan működik a gyerekek által írt vagy az angoltól eltérő nyelven írt szövegek esetében.

Az OpenAI kijelenti, hogy a szövegosztályozó nagyobb valószínűséggel téveszt a gyerekek által írt vagy az angoltól eltérő nyelven írt szövegeken. Nem ismeri fel a plágiumot sem, ami korlátot jelent, tekintve, hogy a szöveggeneráló mesterséges intelligencia hajlamos olyan szöveget újraírni, amelyből betanították. Az osztályozó a szövegeket "nagyon valószínűtlen", "valószínűtlen", "nem egyértelmű, hogy AI által generált-e", "valószínűleg" vagy "valószínű" mesterséges intelligencia által generáltként címkézi meg a megbízhatósági szintje alapján.

• OpenAI
• ChatGPT
• GPT-3
• Plágium
• Visszajelzés
• Kiértékelés