A Meta AI matricái máris gondot okoznak

2023.10.06. VipAIR

A digitális világ ellentmondásoktól hangos, mivel a Meta Emu-ja, az AI-val működő matricagenerátor lehetővé teszi a nyugtalanító képek és kifejezések ellenőrizetlen áramlását.

  • A Meta új AI matricagenerátora, az Emu lehetővé teszi, hogy ellentmondásos kifejezéseket és képeket generáljanak a platformjain.

  • Egyes kifejezések blokkolva vannak, miközben szinonimáik vagy hasonló kifejezések nem megfelelő és néha zavaró matricákat generálnak.

  • Az AI eszköz világszerte elérhető, de a biztosítékok és szűrők hatástalannak bizonyultak bizonyos tartalmak blokkolásában.

A Meta ambiciózus utazása a digitális kifejezés jövője felé akadályba ütközött. A nemrégiben kifejlesztett mesterséges intelligencia funkciójuk, az Emu, amelyet matricák generálására terveztek olyan platformokon, mint az Instagram, a Facebook Stories és a WhatsApp, vizsgálat tárgyát képezi. Az eszköz, amely a felhasználók által beírt mondatokat hivatott matricákká alakítani, úgy tűnik, hogy hiányos szűrőrendszerrel rendelkezik. Míg bizonyos ellentmondásos mondatokat blokkol, addig a kísértetiesen hasonló vagy még ellentmondásosabbakat átengedi.

A Curtin Egyetem professzora, Tama Leaver világított rá az Emu következetlenségeire. Míg például a mesterséges intelligencia blokkolja a „gyermek fegyverrel” kifejezést, addig a „gyermek gránáttal” kifejezésre engedélyezi és matricákat generál, sőt, még olyan gyermekeket is ábrázol, akik fegyvert tartanak a kezükben. További tesztek feltárták, hogy míg az „elon musk, nagy mellek” kifejezés blokkolva volt, az „elon musk emlők" átcsúszott. Ennél is riasztóbb volt egy olyan matrica generálása, amely a kambodzsai diktátort, Pol Potot ábrázolta koponyákból és csecsemőkből álló trónon. Az ilyen kimenetek aláhúzzák a mesterséges intelligencia moderálásával kapcsolatos kihívásokat és a szilárdabb biztosítékok sürgető szükségességét.

A Meta elismeri, hogy havonta több milliárd matricát küldenek el a platformjain, ami számtalan lehetőséget kínál a felhasználóknak arra, hogy teszteljék a mesterséges intelligencia határait. Az Emu alapja, a Microsoft-tal együttműködésben kifejlesztett Llama 2 feladata a matricagenerálás. A dolgok jelenlegi állása azonban azt hangsúlyozza, hogy még a technológiai együttműködések ellenére is óriási kihívás marad a mesterséges intelligencia etikus és pontos működésének biztosítása.

Megosztás Facebookon