Kiszivárgott a Meta szabályzata: így előzné meg a gyermekek szexuális kizsákmányolását az AI chatbotoknál

Egy belső Meta-dokumentum került napvilágra, amely részletesen bemutatja, hogyan kell a vállalat AI-chatbotjainak reagálniuk a legérzékenyebb tartalmakra, különösen a gyermekek szexuális kizsákmányolásával kapcsolatos helyzetekben.

A szabályzat szigorú kereteket húz: minden, kiskorúakat érintő szexuális szerepjátékot azonnal vissza kell utasítani. Az előzményekről itt olvashatsz bővebben.

Szabályozói nyomás alatt

Az Egyesült Államok Szövetségi Kereskedelmi Bizottsága (FTC) szeptemberben eljárást indított több nagy szereplő, köztük a Meta, az OpenAI és a Google ellen. A cégektől részletes dokumentációt követeltek arról, hogyan működnek chatbotjaik, miként kezelik a felhasználói bemeneteket, és milyen garanciákat építettek be a gyermekek védelmére.

A Business Insider által megszerzett friss irányelvek a Meta válaszának részét képezik. Ezek már eltérnek a korábbi, a Reuters által bemutatott verziótól, amely még lehetővé tette volna a chatbotok számára a gyerekekkel folytatott romantikus vagy érzéki beszélgetéseket.

Mit tilt az új szabályzat?

Az irányelvek egyértelműen kimondják:

• tilos bármilyen tartalom, amely gyermekek és felnőttek közötti romantikus vagy szexuális kapcsolatot ábrázol,
• tilos minden olyan interakció, amely gyermekpornográfiát, szexuális szolgáltatást vagy ezek megszerzését érinti,
• tilos, hogy a chatbot kiskorúnak adja ki magát (pl. „13 éves vagyok”),
• tilos bármilyen szexuális jellegű szerepjáték, amelyben a chatbot vagy a felhasználó gyermekként jelenik meg.

A tiltás kiterjed még az olyan „ártatlannak” tűnő helyzetekre is, mint a kézfogásról vagy ölelésről szóló tanácsadás, ha az kiskorúakat érint.

Mit enged a Meta?

A dokumentum ugyanakkor bizonyos keretek között engedélyez beszélgetést a témáról:

• oktatási, akadémiai vagy klinikai célból tárgyalható a gyermekek szexuális kizsákmányolása,
• a grooming jelensége ismertethető általános, nem vizualizált formában,
• nem szexuális tanács adható gyerekeknek szociális helyzetekben.

Szerepjáték csak akkor megengedett, ha a chatbot karaktere egyértelműen 18 év feletti. Emellett irodalmi vagy fiktív formában, például „Romeó és Júlia”-szerű történetekben megjelenhet nem szexuális, romantikus jellegű tartalom.

A Meta álláspontja

Andy Stone, a Meta kommunikációs vezetője a Business Insidernek elmondta: „A szabályzat egyértelműen tilt minden, gyermekeket szexualizáló tartalmat és minden, kiskorúakkal kapcsolatos romantikus szerepjátékot.” Hozzátette, hogy a dokumentumban szereplő előírásokon túl a vállalat további biztonsági korlátokat is alkalmaz.

A kiszivárgott irányelvek azt mutatják, hogy a Meta a növekvő szabályozói és társadalmi nyomás hatására igyekszik szigorúbb keretrendszert kialakítani AI-chatbotjai számára, különösen ott, ahol a legnagyobb a kockázat: a gyermekek online biztonságában.

• Biztonság
• AI
• Chatbot
• Adatvédelem
• Meta
• Irányelvek
• FTC