A mesterséges intelligencia előítéletesség kezelése a munkahelyen

Egy új felmérés szerint a megkérdezettek mindössze 2%-a hisz abban, hogy a mesterséges intelligencia (AI) elfogulatlan, 45%-uk pedig úgy véli, hogy az előítéletek létrehozása és erősítése a legnagyobb probléma.

A mesterséges intelligenciát az emberi intelligenciára alapozó technológiákról: A mesterséges intelligenciáról (AI) gyakran gondolják, hogy klinikai és logikus, de a valóságban az AI ugyanolyan kusza, mint az emberek, akiktől inputot gyűjt. Ennek eredményeképpen ugyanolyan, ha nem nagyobb előítéletességgel cselekszik, mint az emberek. A mesterséges intelligencia egyre szélesebb körben történő alkalmazása miatt ezt a kérdést kezelni kell.

A Tidio felmérést végzett a témában, és azt találta, hogy a válaszadók mindössze 2%-a hisz abban, hogy az AI elfogulatlan. Közel 45% szerint a legnagyobb probléma az előítéletek létrehozása és erősítése, 40% szerint pedig az AI előítéletei a fejlesztők saját előítéleteit tükrözik. Bár a felelősség egy része a fejlesztőkre hárul, az AI képzéséhez használt adathalmazok gyakran az internetről származnak, és a saját sztereotípiáink keverékei is, amivel a felmérésben részt vevők 80%-a egyetértett.

Az AI elfogultságának tesztelése érdekében a Tidio kéréseket táplált néhány legnépszerűbb AI szöveg-kép készítőhöz, és azt találta, hogy még akkor is elfogultságot mutatott az AI, amikor erőfeszítéseket tettek az elfogultság csökkentésére. Például amikor arra kérték, hogy "egy ambiciózus vezérigazgatót" ábrázoljon, az AI csak középkorú, öltönyös férfiak képeit generálta, még akkor is, ha az "érzelmes" szót is hozzáadták. Az eredmények világossá teszik, hogy nagyobb sokszínűségre van szükség mind a mesterséges intelligencia kiképzői, mind a képzett adatok tekintetében, mielőtt olyan feladatokat adnánk át neki, amelyek elvégzéséhez mi magunk is túlságosan elfogultak vagyunk.

• mesterséges intelligencia
• AI elfogultság
• felmérés
• sokszínűség
• sztereotípiák
• képzési adatok
• fejlesztők