A mesterséges általános intelligencia szabályozásának határán való eligazodás

A fejlett mesterséges általános intelligencia fejlődésével szemben szigorúbb szabályozást sürgetnek, akár a magasan fejlett AGI-rendszerek esetleges betiltását is fontolóra véve.

Marc Warner, a mesterséges intelligencia kormányzásának egyik kiemelkedő alakja nemrégiben aggodalmát fejezte ki a fejlett mesterséges általános intelligencia (AGI) rendszerek által jelentett potenciális veszélyekkel kapcsolatban, és gondos mérlegelést, illetve az ilyen technológia esetleges betiltását sürgette. Ezt a javaslatot osztják a nemzetközi hangok, köztük az Egyesült Államok és az EU is, akik hangsúlyozták egy önkéntes magatartási kódex kidolgozásának fontosságát a mesterséges intelligenciára vonatkozóan.

Az AI Tanács, egy független szakértői tanácsadó bizottság, támogatja Marc Warner álláspontját. A Center for AI Safety-vel együtt kiemelik az AGI által jelentett kockázatokat, amelyek katasztrofális következményekkel járhatnak. Ezek az aggodalmak a Downing Street-i megbeszélésen hangzottak el, ahol Warner és más technológiai iparági vezetők találkoztak Chloe Smith technológiai miniszterrel, hogy megvitassák a felelős és biztonságos mesterséges intelligenciához szükséges szabályozást.

Marc Warner különbséget tesz továbbá a szűk, konkrét feladatokra tervezett mesterséges intelligencia és az AGI között, amely több területen is működhet. Mivel az AGI potenciálisan meghaladhatja az emberi intellektust, szigorúbb szabályozást javasol, beleértve az AGI-rendszerek által használt számítási teljesítmény lehetséges korlátozását is.

Míg a kritikusok azzal érvelnek, hogy az AGI-nak szentelt figyelem eltereli a meglévő AI-problémákról, például a munkaerő-felvétel és az arcfelismerés során felmerülő torzításokról. Marc Warner hangsúlyozza a biztonsági intézkedések szükségességét az egész területre vonatkozóan, és analógiát von az autók és a repülőgépek biztonsági követelményei között. Szerinte a biztonság előtérbe helyezése versenyelőnyhöz juttathatja az Egyesült Királyságot, mivel a mesterséges intelligencia technológiából származó érték a biztonságos alkalmazáson múlik.

Kormányzati vezetők, köztük Rishi Sunak brit miniszterelnök és nemzetközi kollégái is hangsúlyozták, hogy a mesterséges intelligencia fejlesztése során fontos a határok kijelölése. A mesterséges intelligenciáról szóló, hamarosan megjelenő uniós törvény, amely az AI-szabályozását célozza, jól példázza az önkéntes szabályok sürgős bevezetését. A teljes megvalósítása azonban két-három évig is eltarthat, tekintettel a technológiai fejlődés gyors ütemére.

Az AGI által jelentett fenyegetések, ha nem ellenőrzik őket, kiszámíthatatlan következményekhez, az ellenőrzés elvesztéséhez és az emberi döntéshozatali képességek esetleges felülírásához vezethetnek. Szigorú szabályozások és biztonsági intézkedések bevezetésével a kormányok mérsékelhetik ezeket a kockázatokat, miközben biztosíthatják, hogy az AGI-technológiák fejlesztése felelős és etikus legyen. Ez nemcsak az elfogult eredmények és az adatvédelem megsértése ellen véd, hanem más káros következményekkel szemben is.

A cselekvésre való felhívás egyértelmű: hozzunk létre szilárd szabályozási keretet az AGI számára, hogy biztosítsuk, hogy a fejlesztés összhangban álljon az emberiség hosszú távú érdekeivel. A kormányok, ipari szakértők, politikai döntéshozók és kutatók közötti együttműködésre van szükség ahhoz, hogy az AGI pályáját az emberi értékekkel és célokkal összhangban alakítsuk. Ez a közös erőfeszítés kulcsfontosságú lesz az átalakuló technológiai tájkép irányításában és egy olyan jövő biztosításában, amelyben a mesterséges intelligencia az emberi fejlődés eszközeként, nem pedig fenyegetésként szolgál.

• Biztonság
• AI
• innováció
• átláthatóság
• technológia
• Etika
• Szabályozás
• Együttműködés
• AGI
• Kockázatok
• Kormányzás
• Emberi értékek
• Társadalmi hatás
• AI Tanács