Az AI úttörője riadót fúj a technológia kockázatai miatt

2023.05.11. VipAIR

Geoffrey Hinton a neves kutató, "az AI keresztapja" lemond a Google-tól, hogy szabadon beszéljen a gyorsan fejlődő AI potenciális veszélyeire figyelmeztessen.

Geoffrey Hinton, akit gyakran a "mesterséges intelligencia keresztapjaként" emlegetnek, nemrég lemondott a Google-nál betöltött pozíciójáról, hogy nyíltan beszéljen a mesterséges intelligencia lehetséges veszélyeiről. Döntése egyszerre váratlan, figyelembe véve a mesterséges intelligencia fejlesztése iránti elkötelezettségét és várható is, tekintettel a technológiával kapcsolatos növekvő aggodalmaira.

Geoffrey Hinton lemondása egybeesik a május elsejével, egy olyan nappal, amely történelmileg a munkásokat és a tavasz érkezését ünnepli. A mesterséges intelligencia, különösen a mély tanuló neurális hálózatokon alapuló generatív AI gyors fejlődése azonban azzal fenyeget, hogy a munkaerő nagy részét kiszorítja. A Világgazdasági Fórum előrejelzése szerint a következő öt évben a munkahelyek 25%-át megzavarhatja a mesterséges intelligencia.

Geoffrey Hinton egyik fő aggodalma, hogy a rosszindulatú szereplők visszaélhetnek a mesterséges intelligenciával a félretájékoztatás és a dezinformáció terjesztésére, ami egyre nehezebbé teszi az átlagember számára, hogy különbséget tegyen az igazság és a valótlanság között. Emellett Hinton úgy véli, hogy a gépek hamarabb fogják felülmúlni az emberi intelligenciát, mint korábban gondolták és sok szakértő szerint ez már a következő évtizedekben bekövetkezhet.

A mesterséges általános intelligencia (AGI), amelynek célja az emberhez hasonló kognitív képességekkel rendelkező mesterséges intelligencia-rendszerek létrehozása, sok vitát vált ki. A jelenlegi mesterséges intelligencia-rendszerek bizonyos feladatokban jeleskednek, míg az AGI képes lenne a feladatok széles skáláját elvégezni különböző területeken, emberi szinten vagy annál jobban. A generatív AI alkalmazások, például a Transformer neurális hálózatokon alapuló ChatGPT fejlesztése hozzájárult az AGI idővonal-előrejelzések felgyorsításához.

A generatív AI rendszerek képesek kibontakozó viselkedésre, azaz újszerű és váratlan képességek megjelenítésére. Ez a mesterséges intelligencia gyors fejlődéséhez vezetett, és Hinton becslése szerint az AGI 20 éven belül vagy annál is hamarabb megvalósulhat. Ez a gyorsulás aggodalmakat vetett fel a mesterséges intelligencia fejlesztésével kapcsolatos lehetséges kockázatok ellenőrzésével és kezelésével kapcsolatban.

A nyílt forráskódú AI-modellek, mint például az AutoGPT, képesek önállóan fejlesztési ötleteket generálni és összetett feladatokat elvégezni. Ez a hozzáférhetőség azonban azt is jelenti, hogy a rosszindulatú szereplők aljas célokra is kihasználhatják a technológiát. Geoffrey Hinton lemondása és az azt követő, a mesterséges intelligencia veszélyeire vonatkozó figyelmeztetések cselekvésre való felhívásnak tekinthetők, amely nagyobb tudatosságot és felkészültséget sürget a gyorsan fejlődő mesterséges intelligencia lehetséges következményeivel kapcsolatban.

Megosztás Facebookon