Az OpenAI kitiltotta a Dean.Bot fejlesztőjét

Az innováció és az etika közötti egyensúlyt megtalálva az OpenAI felfüggeszt egy AI-startupot, amiért a ChatGPT segítségével egy amerikai elnökjelöltet utánzó botot hozott létre.

• Az OpenAI betiltotta a Delphi AI startupot, mert létrehozott egy ChatGPT-vel működő botot, amely az amerikai elnökjelölt Dean Philipsnek adta ki magát és ezzel megsértette az AI-használati irányelveket.

• A Dean.Bot-ot a választók befolyásolására és kampányüzenetek terjesztésére tervezték, ami aggodalmakat ébreszt az AI választásokban betöltött szerepével és a félretájékoztatás lehetőségével kapcsolatban.

• Az OpenAI irányelveket fogalmazott meg az AI-val való visszaélések megakadályozására a közelgő amerikai választásokon, és az olyan megtévesztő gyakorlatok megelőzésére összpontosít, mint a Deepfakes és az etikátlan chatbotok.

Az OpenAI a közelmúltban az újságok címlapjaira került azzal, hogy kitiltotta a Delphi nevű AI startupot, amiért létrehozta a Dean.Bot-ot, egy ChatGPT által működtetett botot, amelyet arra terveztek, hogy megszemélyesítse Dean Philips amerikai elnökjelöltet. A bot célja Philips elnökjelöltségének támogatása volt, de hamarosan átlépte az etikai határokat, ami a felfüggesztéséhez vezetett. Kezdetben arról számoltak be, hogy a bot egy szuper PAC-stratégia része volt, de a használata sértette az OpenAI politikai kampányokban való részvételre vonatkozó irányelveit. Ez az eset az OpenAI első jelentős intézkedése a mesterséges intelligencia politikai kampányokban való felhasználása ellen, precedenst teremtve ezzel a területen.

A Dean.Bot-ügy alapvető kérdéseket vet fel a mesterséges intelligencia politikai párbeszédben betöltött szerepével kapcsolatban. Bár a botot úgy programozták, hogy interakcióba lépjen a választókkal és terjessze a Dean Philips kampányüzeneteit, a szakértők figyelmeztettek a közvélemény félrevezetésének és manipulálásának lehetőségére. Annak ellenére, hogy a felelősséget kizáró nyilatkozatok tisztázták az AI természetét, a bot valós idejű beszélgetésekre való képessége téves információk terjesztésének kockázatát jelentette. Az eset rávilágít arra, hogy a mesterséges intelligencia milyen etikai kihívásokat jelent a demokratikus folyamatokban, rámutatva az egyértelmű iránymutatások és a felelős használat szükségességére.

A Dean.bot incidensre reagálva és a 2024-es amerikai választásokra való tekintettel az OpenAI megerősítette az AI etikus használata iránti elkötelezettségét. A vállalat iránymutatásokat tett közzé a mesterséges intelligenciával való visszaélések megelőzésére, beleértve a megtévesztő Deepfakes-eket és a politikai személyiségeknek álcázott chatbotokat. Az OpenAI megközelítése magában foglalja az új rendszerek újbóli tesztelését, külső visszajelzések kérését és a biztonsági intézkedések bevezetését. Ez a proaktív hozzáállás része annak a szélesebb körű erőfeszítésnek, amelynek célja, hogy az AI-technológiákat felelősségteljesen használják, különösen az olyan érzékeny területeken, mint a politika, ahol a tét nagy és a hatás messzemenő.

• OpenAI
• ChatGPT
• AI
• Etika
• Félretájékoztatás
• Deepfakes
• Politikai kampány
• Választási integritás
• Dean.Bot
• Technológiai felelősség
• Visszaélés megelőzés