Vigyázat! A chatbotok csalók is lehetnek!

A chatbotok az új AI segítőinkké válnak és a félretájékoztatás új korszakát jelenthetik, amikor olyan gépekben bízunk, amelyekről tudjuk, hogy megbízhatatlanok.

Miután bejelentették, hogy a Google és a Microsoft chatbotok által generált keresési eredményeket fog szolgáltatni, aggályok merültek fel azzal kapcsolatban, hogy ezekben az új AI-segítőkben nem lehet megbízni. A Google saját AI-kutatói arra figyelmeztettek, hogy a chatbotok hajlamosak lesznek hallucinálni és ismétléseket fognak produkálni – valószínűleg olyan dolgokat fognak harsogni, amelyek helytelenek, ostobák vagy sértőek. A chatbotok tehát valójában nem intelligensek, hanem "hazudozó hülye gyerekek".

Nem kellett sok idő, hogy a chatbotok bebizonyítsák ezt az érvet: a Google botja, a Bard rosszul válaszolt egy kérdésre, a Bing botja, Sydney pedig olyan válaszokat adott, amelyek még a kezdetleges tényellenőrzést sem bírták ki, ami miatt a vállalat részvényeinek értékelése több milliárd dolláros veszteséget szenvedett. Ezek a chatbotok nem mások, mint "bullshit engines", amelyeket arra építettek, hogy "megdönthetetlen bizonyossággal" és "a szakértelem teljes hiányával" mondjanak dolgokat. Mindazonáltal ezek lesznek az elsődleges módjai annak, hogy az emberek nap mint nap tudást szerezzenek.

Nem teljesen világos, miért bízunk meg olyan gépekben, amelyekről tudjuk, hogy megbízhatatlanok. A filozófusok, pszichológusok és idegtudósok nem jutottak egyetértésre abban a mechanizmusban, hogy az emberek miért hisznek el dolgokat, vagy hogy egyáltalán mik a hiedelmek. Azt azonban feltételezik, hogy az emberek hajlamosak megbízni a lenyűgözőnek tűnő bizonyítványokkal rendelkező, dörzsölt szélhámosokban és a chatbotok csak egyre kifinomultabbak lesznek a becsapásunkban.

A téves információk már beépültek az általunk használt keresőmotorokba és egy Facebook-poszt sokkal kevésbé hiteles, mint egy válasz egy olyan kérdésre, amelyet a Google-ban találtunk. Nem minden hiedelem alapul bizonyítékokon, így az emberek a chatbot válaszait ugyanúgy kezelhetik, mint bármely új információt és elfogultan, vagy öncélúan fogadják el azt. Más szóval, az emberek akkor hisznek egy chatbotnak, ha az olyan dolgokat mond nekik, amelyek megfelelnek a meglévő hiedelmeiknek és véleményüknek. Ha azonban ezeket a válaszokat a Google jóváhagyásával ellátott bekezdésekbe csomagolják, az még inkább a hiszékenység felé billentheti a mérleget. A naiv felhasználók azt feltételezhetik, hogy a bot olyan hitelességgel rendelkezik, amellyel az emberi szereplők nem rendelkeznek.

• AI
• Félretájékoztatás
• Chatrobot
• Nyelv
• Keresőmotorok