Az ACM figyelmeztetést ad ki az algoritmikus rendszerek kockázatairól

Az Association for Computing Machinery (ACM) tájékoztatója szerint - amely a szervezet szerint az első a rendszerekről és a bizalomról szóló sorozatban - tökéletesen biztonságos algoritmikus rendszerek nem lehetségesek. A biztonságosabbá tételük érdekében azonban megvalósítható lépéseket lehet tenni, amelyet a kormányoknak és valamennyi érdekelt félnek kiemelt politikai és kutatási prioritásként kell kezelniük.

A tájékoztató legfontosabb következtetései a következők:

A biztonságosabb algoritmikus rendszerek előmozdítása érdekében kutatásra van szükség mind az emberközpontú, mind a technikai szoftverfejlesztési módszerek, a jobb tesztelés, az ellenőrzési nyomvonalak és a felügyeleti mechanizmusok, valamint a képzés és az irányítás terén.

A szervezeti biztonsági kultúra kiépítéséhez vezetői irányításra, a munkaerő-felvétel és a képzés terén összpontosításra, a biztonsággal kapcsolatos gyakorlatok elfogadására és folyamatos figyelemre van szükség.

A biztonságosabb algoritmikus rendszerek előmozdításához belső és független, emberközpontú felügyeleti mechanizmusokra is szükség van, mind a kormányzaton, mind a szervezeteken belül.

Ben Shneiderman informatikus, a Marylandi Egyetem professzora és az Emberközpontú mesterséges intelligencia című könyv írója volt a vezető szerzője a tájékoztatónak, amely az egyes technológiai fejlesztések hatásáról és politikai következményeiről szóló rövid technikai tájékoztatók sorozatának legújabb darabja. Megjegyzi, hogy bár az algoritmikus rendszerek rengeteg terméket és folyamatot javítottak, a nem biztonságos rendszerek mélyreható károkat okozhatnak. Kifejtette, hogy a kormányoknak és az érdekelt feleknek ugyanúgy kell prioritásokat meghatározniuk és biztosítékokat bevezetniük, mint ahogyan egy új élelmiszerterméknek vagy gyógyszernek is szigorú felülvizsgálati folyamaton kell átesnie, mielőtt a nyilvánosság számára elérhetővé válik.

Shneiderman a biztonságosabb algoritmikus rendszerek létrehozását a polgári repüléshez hasonlította, amely ugyan még mindig tartogat kockázatokat, de általánosan elismert, hogy biztonságos. Hangsúlyozza, hogy a biztonságosabb algoritmikus rendszerek irányába tett erőfeszítések elmozdulást jelentenek az AI etikájára való összpontosításról és hozzáteszi, hogy ez különösen fontos, amikor az AI nem könnyű alkalmazásokról van szó, mint például a következetes döntések, a pénzügyi kereskedés, jogi kérdések, munkaerő-felvétel és elbocsátások, valamint az életfontosságú orvosi, közlekedési vagy katonai alkalmazások.