Az ACM figyelmeztetést ad ki az algoritmikus rendszerek kockázatairól

2023.01.26. 14:10 VipAIR

Figyelmeztetést adtak ki, amely szerint az algoritmikus rendszerek mindenütt jelenléte komoly kockázatokat teremt.

Az ACM figyelmeztetést ad ki az algoritmikus rendszerek kockázatairól

Az Association for Computing Machinery (ACM) tájékoztatója szerint - amely a szervezet szerint az első a rendszerekről és a bizalomról szóló sorozatban - tökéletesen biztonságos algoritmikus rendszerek nem lehetségesek. A biztonságosabbá tételük érdekében azonban megvalósítható lépéseket lehet tenni, amelyet a kormányoknak és valamennyi érdekelt félnek kiemelt politikai és kutatási prioritásként kell kezelniük.

A tájékoztató legfontosabb következtetései a következők:

Ha többet akarsz tudni, kövess minket Facebookon!

A biztonságosabb algoritmikus rendszerek előmozdítása érdekében kutatásra van szükség mind az emberközpontú, mind a technikai szoftverfejlesztési módszerek, a jobb tesztelés, az ellenőrzési nyomvonalak és a felügyeleti mechanizmusok, valamint a képzés és az irányítás terén.

A szervezeti biztonsági kultúra kiépítéséhez vezetői irányításra, a munkaerő-felvétel és a képzés terén összpontosításra, a biztonsággal kapcsolatos gyakorlatok elfogadására és folyamatos figyelemre van szükség.

A biztonságosabb algoritmikus rendszerek előmozdításához belső és független, emberközpontú felügyeleti mechanizmusokra is szükség van, mind a kormányzaton, mind a szervezeteken belül.

Ben Shneiderman informatikus, a Marylandi Egyetem professzora és az Emberközpontú mesterséges intelligencia című könyv írója volt a vezető szerzője a tájékoztatónak, amely az egyes technológiai fejlesztések hatásáról és politikai következményeiről szóló rövid technikai tájékoztatók sorozatának legújabb darabja. Megjegyzi, hogy bár az algoritmikus rendszerek rengeteg terméket és folyamatot javítottak, a nem biztonságos rendszerek mélyreható károkat okozhatnak. Kifejtette, hogy a kormányoknak és az érdekelt feleknek ugyanúgy kell prioritásokat meghatározniuk és biztosítékokat bevezetniük, mint ahogyan egy új élelmiszerterméknek vagy gyógyszernek is szigorú felülvizsgálati folyamaton kell átesnie, mielőtt a nyilvánosság számára elérhetővé válik.

Shneiderman a biztonságosabb algoritmikus rendszerek létrehozását a polgári repüléshez hasonlította, amely ugyan még mindig tartogat kockázatokat, de általánosan elismert, hogy biztonságos. Hangsúlyozza, hogy a biztonságosabb algoritmikus rendszerek irányába tett erőfeszítések elmozdulást jelentenek az AI etikájára való összpontosításról és hozzáteszi, hogy ez különösen fontos, amikor az AI nem könnyű alkalmazásokról van szó, mint például a következetes döntések, a pénzügyi kereskedés, jogi kérdések, munkaerő-felvétel és elbocsátások, valamint az életfontosságú orvosi, közlekedési vagy katonai alkalmazások.