Az AI rejtett elfogultságai: Tanulmány az OpenAI CLIP-modelljéről

2023.12.11. VipAIR

A Michigani Egyetem tanulmánya jelentős torzításokat tárt fel az OpenAI CLIP-modelljében, amely az AI-által generált képeken a gazdagabb, nyugati nézőpontokat részesíti előnyben.

  • A Michigani Egyetem kutatói elfogultságokat tárnak fel az OpenAI CLIP-modelljében, amely a gazdagabb, nyugati életmódot ábrázoló képeket részesíti előnyben.

  • A tanulmány rávilágít arra, hogy a CLIP-hez hasonló AI-eszközök fenntarthatják a társadalmi egyenlőtlenségeket és a kulturális előítéleteket.

  • A kutatók a befogadóbb AI-modellek mellett érvelnek, hangsúlyozva a sokszínű adathalmazok és az átlátható AI-fejlesztés szükségességét.

A Rada Mihalcea, a Michigani Egyetem professzora által vezetett kulcsfontosságú tanulmányban az OpenAI DALL-E képgenerátorának szerves részét képező CLIP AI-modellt vizsgálták az elfogultságok szempontjából. A kutatócsoport felfedezte, hogy a CLIP hajlamos a magasabb jövedelmű, nyugati életstílust ábrázoló képeket előnyben részesíteni. Ez a megállapítás kulcsfontosságú, mivel rávilágít a modell potenciális szerepére a társadalmi és kulturális szakadékok szélesítésében, különösen az alacsonyabb jövedelmű népesség körében.

A tanulmányban a Dollar Street változatos képadatkészletét használták, amely több mint 38 000 képet tartalmaz különböző globális háztartásokból. Az elemzés egyértelmű összefüggést mutatott ki a CLIP-pontszámok és a háztartások jövedelme között, a gazdagabb családok képei következetesen magasabb pontszámot kaptak. Például a jómódú háztartásokból származó elektromos lámpák magasabb pontszámot értek el, mint a szegényebb háztartásokból származó petróleumlámpák. Ez a torzítás nemcsak a képekben, hanem a földrajzi eloszlásban is tükröződik, mivel az alacsonyabb pontszámok túlnyomórészt az alacsonyabb jövedelmű afrikai régiókból származó képekhez kapcsolódnak.

Ezen torzítások kezelésére a kutatók több intézkedést javasolnak. Javasolják a földrajzi szempontból változatos adathalmazokba való befektetést, olyan értékelési mérőszámok meghatározását, amelyek figyelembe veszik a helyet és a jövedelmet, valamint a mesterséges intelligencia modellek képzési adatainak demográfiai átláthatóságának biztosítását. Ezek a lépések létfontosságúak a méltányos AI-eszközök kifejlesztéséhez, amelyek pontosan reprezentálják a globális sokféleséget, és nem súlyosbítják a meglévő egyenlőtlenségeket.

Megosztás Facebookon