A Snapchat új biztosítékokat vezet be AI chatbotja számára

2023.04.06. VipAIR

A Snapchat új eszközöket, például korhatár-szűrőt és a szülőknek szóló betekintést vezetett be az AI chatbotjának javítása érdekében, miután a jelentések szerint a bot nem megfelelő módon reagált.

A Snapchat a mesterséges intelligencia chatbotját ért kritikákra reagálva új funkciókkal és biztosítékokkal egészítette ki a felhasználók védelmét. A múlt hónapban indított chatbotot a GPT technológia működteti, és a Snapchat+ előfizetők számára elérhető. Egy jelentés azonban rávilágított arra, hogy a chatbot nem biztonságos és nem megfelelő módon reagált.

A Snapchat közölte, hogy tudomására jutott, hogy az emberek megpróbálták "becsapni a chatbotot, hogy olyan válaszokat adjon, amelyek nem felelnek meg az irányelveinknek",és az új eszközöket a nem megfelelő válaszok megelőzésére tervezték. Az egyik ilyen funkció a korszűrő, amely megmondja a chatbotnak a felhasználó születési dátumát, és biztosítja, hogy a életkorának megfelelően válaszoljon.

Emellett a Snapchat a Családi Központban több betekintést nyújt majd a szülőknek vagy a gondviselőknek a gyermekeik chatrobottal való interakcióiról. Az új funkció lehetővé teszi a szülők vagy gyámok számára, hogy nyomon kövessék gyermekeik chatbottal folytatott kommunikációját és az interakciók gyakoriságát. Mind a szülőnek, mind a tinédzsernek be kell jelentkeznie a Családi központ használatába, hogy ezeket a szülői felügyeleti funkciókat használni tudja.

A Snapchat hangsúlyozta, hogy a chatbot nem "igazi barát", és a beszélgetések előzményeire támaszkodik a válaszok javítása érdekében. A vállalat kijelentette, hogy a chatbot válaszainak mindössze 0,01%-a "nem megfelelő", ami magában foglalja az erőszakra, szexuálisan egyértelmű kifejezésekre, tiltott droghasználatra, szexuális zaklatására, zaklatásra, gyűlöletbeszédre, lekicsinylő vagy elfogult kijelentésekre, rasszizmusra, nőgyűlöletre vagy alulreprezentált csoportok kirekesztésére való utalásokat.

A Snapchat az OpenAI moderálási technológiáját is hozzáadta meglévő eszköztárához, amely lehetővé teszi a vállalat számára, hogy felmérje a potenciálisan káros tartalmak súlyosságát, és ideiglenesen korlátozza a felhasználók chatbothoz való hozzáférését, ha visszaélnek a szolgáltatással. A cég azt is közölte, hogy ideiglenesen blokkolni fogja a chatbot hozzáférését a szolgáltatással visszaélő felhasználók számára.

Az AI-alapú eszközökkel kapcsolatos kritikák ellenére a Snapchat továbbra is bízik a generatív AI-eszközökben. A chatbot mellett a vállalat néhány hete bevezetett egy AI-alapú háttérgenerátort, amely a Snapchat+ előfizetők számára készült kéréseken keresztül működik.

Megosztás Facebookon