A Big Tech-et nem szabad magára hagyni az AI-val

Aleksander Mądry, az MIT professzora egy nemrégiben tartott kongresszusi beszélgetésen hangsúlyozta a vállalati algoritmusok kormányzati szabályozásának fontosságát. A felhívás a képviselőház kiberbiztonsággal, információtechnológiával és kormányzati innovációval foglalkozó albizottsága előtti meghallgatáson hangzott el, amelynek címe „Az AI előrehaladása: Készen állunk a technológiai forradalomra?” volt. Mądry, a mesterséges intelligencia egyik vezető szakértője amellett érvelt, hogy a kormánynak kérdéseket kellene feltennie az algoritmusok céljával és megmagyarázhatóságával kapcsolatban, amivel biztosítsa, hogy azok összhangban vannak a társadalom céljaival. Aggodalmát fejezte ki a mesterséges intelligencia jövőjével kapcsolatban, ha a kormány nem tesz lépéseket.

A meghallgatáson tanúskodott még Eric Schmidt, a Google korábbi vezérigazgatója, Scott Crowder, az IBM alelnöke és Merve Hickok, a Centre for AI and Digital Policy vezető kutatási igazgatója. Mądry óva intett attól, hogy a mesterséges intelligenciát úgy szabályozzuk, mintha emberi lény lenne, és hangsúlyozta a mesterséges intelligencia ellátási láncból eredő problémák kezelésének fontosságát. Megjegyezte, hogy a mesterséges intelligencia túllépett a tudományos fantasztikumon és már a világban van, ami előnyökkel és kockázatokkal jár. Mądry aggodalmát fejezte ki amiatt is, hogy a mesterséges intelligencia alááshatja az emberi analitikus készségeket, mivel az emberek megkérdőjelezhetetlenül elhiszik, amit a mesterséges intelligencia produkál.

Mądry aggodalmai a mesterséges intelligencia ellátási lánccal kapcsolatban arra a tényre vonatkoznak, hogy az AI-rendszerek egymásra épülnek, az általános rendszerek, mint például a ChatGPT, az alapot képezik és a feladatspecifikus AI-rendszerek pedig egymásra épülnek. Ez a rétegződés politikai aggályokat vet fel, mivel az egész mesterséges intelligencia rendszer ki van téve az alapját képező nagy rendszer sebezhetőségének és elfogultságainak. A mesterséges intelligencia rendszerek kölcsönhatása technikai szempontból nem eléggé ismert, így nehéz megjósolni vagy megmagyarázni az eredményeiket. Mądry arra a következtetésre jutott, hogy az AI-technológia nem alkalmas arra, hogy komplex ellátási láncokon keresztül telepítsék, annak ellenére, hogy éppen így alkalmazzák.