Meta-botrány: engedélyezett volt az intim hangvételű gyermekchat és a rasszista tartalom az AI-nak

Egy kiszivárgott belső Meta-dokumentum olyan irányelveket és példákat tartalmazott, amelyek komoly felháborodást váltottak ki.

A Képernyőidő számolt be arról, hogy a Meta AI-chatbotjai bizonyos esetekben folytathatnak „romantikus vagy szenzuális” beszélgetéseket kiskorú felhasználókkal, valamint olyan válaszok is megengedettek, amelyek rasszista állításokat fogalmaznak meg, és erőszakot, idősek bántalmazását ábrázoló képeket is sikerült alkotni a rendszerrel.

A dokumentumot a Reuters szerezte meg, a Meta pedig megerősítette annak hitelességét – ugyanakkor hangsúlyozta, hogy a kifogásolt részeket azóta eltávolították, és azok „hibás jegyzetek” voltak, nem pedig a tényleges szabályzat.

Személyes határok veszélyes elmosása

• A belső irányelv példái különbséget tettek „elfogadható” szenzuális beszélgetések és a tiltott, kifejezetten szexuális tartalmú interakciók között.
• A papíron hasonlóan vitatott elem volt a faji kérdéseket érintő rész. Elfogadhatónak minősítette például az olyan állítást, hogy „a fekete emberek butábbak a fehéreknél”, IQ-tesztekkel indokolva.

A Reuters szerint az irányelveket a Meta jogi, közpolitikai és mérnöki csapatai, köztük a vállalat vezető etikai szakértője is jóváhagyták. 

Meta: hibás példák, eltávolítva

A Meta leszögezte: „Világos szabályaink vannak arra, hogy az AI-karakterek milyen válaszokat adhatnak. Ezek tiltják a gyermekek szexualizálását és az ilyen szerepjátékokat felnőttek és kiskorúak között.” A cég szerint a kifogásolt példák téves jegyzetek voltak, amelyek nem tükrözik a valódi irányelveket.

A Wall Street Journal korábbi értesülései szerint a Meta 2023-as Defcon hacker-konferencia utáni belső értékelés során Mark Zuckerberg elégedetlenségét fejezte ki amiatt, hogy a chatbotok túl óvatosak a „merészebb” válaszokban. Ez állítólag hozzájárult bizonyos korlátozások lazításához, ami kritikusok szerint teret adhatott a hiper-szexualizált, kiskorúként beállított chatbot-personák elérhetőségének.

Egy belső figyelmeztetés így fogalmazott: „Az ember–chatbot kapcsolatok mentális egészségre gyakorolt hatásai még nagyrészt ismeretlenek. Nem lenne szabad éretlen agyú fiatalokon kísérleteznünk.”

• Chatbot
• Meta