A Google Chatbot Bard-ját az alkalmazottak a félrevezető tanácsok miatt bírálták

2023.04.20. VipAIR

A Google alkalmazottai könyörögtek a vállalatnak, hogy ne indítsa el a Bard nevű chatbotját, egyesek "a haszontalannál is rosszabbnak" és "kóros hazudozónak" nevezték – derül ki egy új jelentéséből.

A Google chatbotját, a Bard-ot kritikával illették a vállalat alkalmazottai, akik egy jelentés szerint "beteges hazudozónak" nevezték a rendszert és felszólították a vállalatot, hogy ne indítsa el. A jelentés 18 jelenlegi és volt Google-alkalmazottat idézett, akik etikai aggályokat fogalmaztak meg a chatbot pontosságával és biztonságával kapcsolatban. Az alkalmazottak azt állították, hogy Bard gyakran adott félrevezető tanácsokat a felhasználóknak, különösen olyan témákban, mint a repülőgép leszállása vagy a búvárkodás. Az egyik dolgozó a Bard-ot "a haszontalannál is rosszabbnak" nevezte.

A figyelmeztetések ellenére a Google 2021 márciusában elindította a "kísérleti" botot, figyelmen kívül hagyva egy belső biztonsági csoport kockázatértékelését, amely arra a következtetésre jutott, hogy a rendszer nem áll készen az általános használatra. A jelentés rávilágít arra, hogy a Google hogyan helyezte előtérbe az üzletet a biztonsággal szemben, amikor igyekezett felvenni a versenyt az olyan riválisokkal, mint a Microsoft és az OpenAI, annak ellenére, hogy a biztonság és az etika iránti elkötelezettségét hirdette a mesterséges intelligencia terén.

Az, hogy a Google az üzletet helyezi előtérbe a biztonsággal szemben, nem újdonság. A vállalatot már régóta kritizálják az etikai aggályokkal kapcsolatos megközelítése miatt. 2020 végén és 2021 elején a Google kirúgott két kutatót, akik egy olyan kutatási dokumentumot írtak, amely a Bard-hoz hasonló chatbotok alapjául szolgáló mesterséges intelligencia nyelvi rendszerek hibáit tárta fel. A jelentés azt sugallja, hogy a vállalat az etikával szemben az üzletre összpontosít, még hangsúlyosabb, ha a keresési üzleti modellje veszélybe kerül.

Míg egyesek azzal érvelnek, hogy a Bard-hoz hasonló chatbot-rendszerek fejlesztéséhez és védelméhez nyilvános tesztelésre van szükség, mások úgy vélik, hogy a felhasználókat rossz információforráshoz irányítani más, mint közvetlenül egy mesterséges intelligencia rendszer felhatalmazásával félrevezető információkat adni nekik. A Bard-ot a Microsoft Bing chatbotjával és az OpenAI ChatGPT-jével összehasonlító tesztek során a Google rendszere következetesen kevésbé volt pontos és hasznos, mint riválisai.

Megosztás Facebookon