A generatív AI potenciális veszélye az emberi jogi vizsgálatokra nézve

2023.05.06. VipAIR

A Human Rights Watch arra figyelmeztetett, hogy a generatív AI gyors fejlődése jelentős veszélyt jelenthet az emberi jogi nyomozásokra, mivel új kihívásokat jelent a bizonyítékok gyűjtése és ellenőrzése szempontjából.

A generatív mesterséges intelligencia egy gyorsan fejlődő terület, amely komplex algoritmusok és neurális hálózatok segítségével új és eredeti tartalmakat hoz létre nagy adathalmazok elemzése és tanulása révén. A Human Rights Watch (HRW) azonban aggályokat fogalmazott meg a generatív AI nyomozásokban való lehetséges alkalmazásával kapcsolatban, mivel a modellek hatalmas mennyiségű adatból történő kiképzésére támaszkodik.

A szervezet arra figyelmeztet, hogy a generatív AI modelleket kiterjedt adathalmazokon képzik ki, amelyeket gyakran különböző internetes forrásokból gyűjtenek, megfelelő szűrés vagy szabályozás nélkül. Az átláthatóság és a szabályozás hiánya potenciális torzításokhoz és pontatlanságokhoz vezethet az adatokban, ami veszélyeztetheti az emberi jogi vizsgálatokat.

A HRW emellett kiemelte a magánélet és az adatbiztonság kérdését is. A generatív AI modellekbe táplált adatokat feltehetően a rendszer képzésére és fejlesztésére használják fel. Ez azt jelenti, hogy a generatív AI rendszerekbe bevitt érzékeny vagy személyes adatok veszélyben lehetnek. A HRW hangsúlyozza, hogy a technológiai vállalatoknak egyértelmű válaszokat kell adniuk arra vonatkozóan, hogy miként kívánják a generatív AI-val kapcsolatban a magánélethez való jogokat tiszteletben tartani.

A generatív AI használata számos veszélyt jelent a vizsgálatokra, többek között a meglévő problémák megerősítésének lehetőségét, például a szubjektív nézőpontok objektív tényként való népszerűsítését, a félrevezető videók vagy képek előállítását és az elfogult tartalom előállítását. A generatív AI jövőjében az emberi jogi csoportok számára egyre fontosabbá válik a tények ellenőrzése és a tartalom ellenőrzése, mivel az interneten hamis vagy félrevezető információk, köztük a mesterséges intelligencia által generált, nagyon is hihető fotók és videók is terjednek.

A generatív AI versenyfutás megkezdődött, és olyan nagyvállalatok, mint a Google, a Microsoft, az Amazon és a Baidu érdeklődést mutatnak e technológia iránt. A nagy hatalmú technológiai vállalatok és magánszemélyek kereskedelmi érdekei fontos kérdéseket vetnek fel a vállalati hatalommal és elszámoltathatósággal kapcsolatban. A HRW óvatosságra int a generatív AI technológia alkalmazásával kapcsolatban, és hangsúlyozza az átláthatóság, az elszámoltathatóság és az emberi jogok tiszteletben tartásának szükségességét.

Megosztás Facebookon