Az OpenAI nem tesz eleget azért, hogy világossá tegye a ChatGPT korlátait

Az OpenAI, a ChatGPT nevű mesterséges intelligenciával működő chatbot alkotói a platform honlapján egy jól látható nyilatkozatot helyeztek el, amelyben jelzik, hogy a chatbot szórványosan téves információkat produkálhat. Ez egy meglehetősen univerzális kizáró nyilatkozat, amely számos információforrásra vonatkozik, azonban egy ilyen erős és gyakran félreértett technológia esetében kritikus jelentőségű.

A közelmúltban a félretájékoztatás problémája élesen előtérbe került, amikor egy amerikai ügyvéd, Steven A. Schwartz egy perben a ChatGPT-re támaszkodott precedensként. Annak ellenére, hogy kétségei voltak az információk érvényességével kapcsolatban, Schwartzot a mesterséges intelligencia megnyugtatta, hogy az ajánlásai pontosak, ami egy hamis kutatási irányvonalhoz vezetett. Az ilyen esetek hangsúlyozzák, hogy a rendszer korlátainak szélesebb körű megértésére és felismerésére van szükség.

Több olyan eset is előfordult, amikor a felhasználókat félretájékoztatta a mesterséges intelligencia. A legtöbb ilyen eset kisebb kellemetlenséget vagy zavart okozott, de a komoly következmények lehetősége nyilvánvaló. Az, hogy a robot képtelen volt helyesen értékelni a diákok esszéinek hitelességét és hogy hamis vádak merültek fel egy jogászprofesszor ellen, alátámasztja a probléma kezelésének sürgősségét.

Ezen esetek ellenére a ChatGPT és a hasonló chatbotok potenciális hasznossága tagadhatatlan. Megfelelő óvintézkedésekkel ezek az eszközök rendkívül hasznosak lehetnek. Ezzel párhuzamosan erőfeszítéseket tesznek annak érdekében, hogy ezek a rendszerek a jövőben tényszerűen megbízhatóbbá váljanak. A jelenlegi forgatókönyv azonban javításra szorul.

A chatbotokat egyre gyakrabban használják keresőeszközként. Míg a keresőmotorok olyan linkeket adnak meg, amelyek vizsgálatra invitálnak, addig a chatbotok hajlamosak arra, hogy információikat újratermelődő szövegben egyesítsék, gyakran egy nagy tudású digitális asszisztens illúzióját keltve. A kihívás itt annak biztosításában rejlik, hogy ezek a botok, mint például a ChatGPT, hatékonyan kiemeljék korlátaikat és elkerüljék a felhasználók félrevezetését.