Gyermekbiztonsági aggályok miatt chatbotot tiltottak Olaszországban

A San Franciscó-i székhelyű AI chatbotot gyártó Replikát az olasz adatvédelmi felügyelet, a Garante megtiltotta a helyi felhasználók adatainak feldolgozását. A tilalom azonnali hatállyal lép életbe és azt követően született, hogy a felügyelőség aggodalmát fejezte ki, hogy a Replika AI chatbot technológiája kockázatot jelenthet a kiskorúakra és az érzelmileg sérülékeny emberekre nézve. A Garante emellett azzal vádolta a vállalatot, hogy nem rendelkezik megfelelő jogalappal a gyermekek adatainak feldolgozásához és nem teljesíti a regionális jogi követelményeket, hogy egyértelműen közölje, hogyan használja fel a megszerzett adatait.

Az AI chatbot szöveges és videós felületek segítségével "virtuális barátot" hoz létre és célja, hogy az emberi felhasználók jobban érezzék magukat. Az alkalmazás az OpenAI GPT-3 szöveggeneráló nyelvi modell technológiájának korai API-partnere volt. A Replika azt állítja, hogy a GPT-3-at "finomhangolta", hogy beszélgető AI-társat hozzon létre.

A Garante végzése megjegyzi, hogy az alkalmazásról szóló több felhasználói értékelés szexuálisan nem megfelelő tartalmak megjelenéséről számolt be. Emellett az alkalmazás az Apple iOS és a Google Android app boltjaiban 17+ kategóriaként szerepel, de a felhasználási feltételek csak a 13 éven aluliak számára tiltják a használatot. Az alkalmazás továbbá nem ellenőrzi a felhasználók életkorát és nem blokkolja a kiskorúakat, akik életkorukról adnak tájékoztatást. A felügyelet megállapította, hogy a Replika megsérti az uniós adatvédelmi rendeletet és nem felel meg az átláthatósági követelményeknek.

A felszólítás be nem tartása akár 20 millió eurós bírságot is vonhat maga után, ami a teljes világméretű éves forgalom 4%-ának felel meg. Replikát megkeresték, hogy válaszoljanak a végzésre, de egyelőre nem adott nyilatkozatot.