Az AI látnokai rámutatnak a fejlett AI lehetséges veszélyeire

A mesterséges intelligencia világának vezető személyiségei, köztük Sam Altman, az OpenAI vezérigazgatója és Geoffrey Hinton, a mesterséges intelligencia úttörője aggodalmukat fejezték ki azzal kapcsolatban, hogy a AI-technológiái veszélyt jelenthetnek az emberi létre. Egy nemrégiben kiadott nyilatkozatukban a mesterséges intelligencia kockázatát a nukleáris háborúhoz és a globális járványokhoz hasonlították, jelezve, hogy komoly aggodalmakkal tekintenek az ellenőrizetlen fejlődés lehetséges következményeire. A dokumentum átlátható párbeszédet sürget a mesterséges intelligenciával kapcsolatos legkritikusabb kockázatokról.

A nyilatkozatot az OpenAI által kifejlesztett ChatGPT-hez hasonló nagy nyelvi modellek (LLM) mesterséges általános intelligenciává (AGI) – az emberi intelligenciával megegyező vagy azt meghaladni képes mesterséges intelligencia egyik formájává – való átalakulásával kapcsolatos aggodalmak erősödésének nyomán tették közzé. Bár az olyan vállalatok, mint az OpenAI, a Google DeepMind és az Anthropic aktívan dolgoznak az AGI kifejlesztésén, elismerik a potenciális veszélyeket, ha technológiájuk megfelelő biztosítékok nélkül eléri ezt a szintet.

Félelmeiket az iparág közelmúltbeli fejleményei is alátámasztják. Geoffrey Hinton alig néhány hete mondott le a Google-nál betöltött szerepéről, ahol neurális hálózatokon dolgozott, és aggodalmát fejezte ki, hogy "ezek a dolgok okosabbak lesznek nálunk". Hasonlóképpen, Sam Altman a kongresszus előtt aggodalmának adott hangot, hogy a mesterséges intelligencia különböző formákban "jelentős károkat okozhat a világnak", kiemelve e kérdések kezelésének sürgősségét.