Geoffrey Hinton, az AI úttörője etikai aggályok miatt elhagyja a Google-t

2023.05.02. VipAIR

A "mesterséges intelligencia keresztapjaként" ismert Geoffrey Hinton lemondott a Google alelnöki és mérnöki posztjáról, mert aggodalmának adott hangot az AI technológiájának etikai következményeivel kapcsolatban.

Geoffrey Hinton, akit gyakran a "mesterséges intelligencia keresztapjaként" emlegetnek, lemondott a Google alelnöki és mérnöki posztjáról, az AI-technológia etikai következményeivel kapcsolatos aggodalmakra hivatkozva. Hinton attól tart, hogy a Google feladja a korábbi visszafogottságát a nyilvános AI-kiadásokkal kapcsolatban, hogy versenyre keljen más modellekkel, például a ChatGPT-vel és a Bing Chat-tel, ami több etikai kérdésnek is teret adhat.

Geoffrey Hinton attól tart, hogy a generatív AI használata rövid távon a félretájékoztatás hullámához vezethet, ami megnehezíti az igazság és a valótlanság megkülönböztetését. Úgy véli továbbá, hogy a mesterséges intelligencia bizonyos munkaköröket teljesen megszüntethet. Hinton hosszú távon aggódik a teljesen autonóm fegyverek kifejlesztése miatt, valamint amiatt, hogy a mesterséges intelligencia modellek hajlamosak lesznek furcsa viselkedést tanulni a képzési adatokból. Megfelelő szabályozás és hatékony ellenőrzés nélkül Hinton attól tart, hogy ezek a problémák fokozódni fognak.

Geoffrey Hinton aggodalmai akkor kezdtek el erősödni, amikor a Google, az OpenAI és mások olyan mesterséges intelligencia-rendszerek fejlesztésébe kezdtek, amelyek szerinte felülmúlják az emberi intelligenciát. Figyelmeztet, hogy az AI-fejlesztés üteme rohamosan gyorsul, és "ijesztő" belegondolni, hogy mi történhet a következő öt évben.

A Google vezető tudósa, Jeff Dean szerint a vállalat elkötelezett a mesterséges intelligencia felelős megközelítése mellett, és éberen figyel a felmerülő kockázatokra. Bár a Google nemrégiben kiadta Bard chatbotjának egy nyers változatát, korábban elutasította az olyan AI-modellek kiadását, mint az Imagen rendszere, az esetleges mérgező tartalmakkal és a szerzői jogok megsértésével kapcsolatos aggodalmak miatt.

Geoffrey Hinton a mesterséges intelligencia szempontjából kulcsfontosságú neurális hálózatok vezető szakértője. Leginkább arról ismert, hogy 2012-ben kifejlesztett egy tárgyfelismerő rendszert, amely gyakorló képek segítségével ismerte fel a gyakori tárgyakat. A Google 2013-ban felvásárolta Hinton DNNresearch nevű startupját, és az ő találmányának alapkoncepciója elősegítette a mai generatív technológiák fejlődésének fellendülését.

Geoffrey Hinton nincs egyedül az aggodalmaival, mivel olyan befolyásos akadémikusok és technológiai nagyságok, mint Elon Musk és Steve Wozniak hat hónapos szünetet kértek a mesterséges intelligencia fejlesztésére, hogy az etikai és biztonsági problémákkal foglalkozzanak. Az iparág egyik legjelentősebb alakjaként Hinton távozása a Google-től jelentős súllyal bír.

Megosztás Facebookon