A Pentagon támadási álhír a Twitter fizetett ellenőrzésének veszélyeit mutatja

A hét elején a Pentagonban történt robbanásról készült hamis kép, amelyet valószínűleg egy mesterséges intelligencia hozott létre, annak ellenére, hogy az esemény soha nem történt meg. A kép először egy ellenőrzött Twitter-fiókon jelent meg, ami sokakat arra késztetett, hogy a kék pipa miatt összetévesszék a legitim fiókkal. Ezt a fiókot azóta törölték. A képet több nagy követővel rendelkező Twitter-fiók is tovább terjesztette, sőt egy indiai televíziós csatorna is beszámolt róla. A hamisított kép és hír eredeti forrása továbbra is bizonytalan.

Az internetes valótlanságok nem új keletűek, de a generatív AI és a Twitter megújult hitelesítési rendszere új utakat nyitott a terjedésük előtt. Az incidens azzal kapcsolatos aggályokat is felvet, hogy a mesterséges intelligenciát potenciálisan fel lehet használni a tőzsde manipulálására. Egyesek például azt feltételezték, hogy a hamis Pentagon-robbanás képe összefüggésbe hozható az S&P 500 rövid ideig tartó esésével, bár ezt nem sikerült véglegesen megerősíteni.

A fő probléma a felhasználók bizalma a kék pipa iránt, amely hagyományosan a hitelesség szimbóluma, és amely 15 év alatt kialakult szokás. Az új politika, amely lehetővé teszi, hogy bárki megvásárolhassa ezt a szimbólumot, bonyolította a helyzetet. Még ha az emberek megértik is, hogy a kék pipa már nem garantálja a legitimitást, a hamis képek kiszűrése egyre nehezebbé válik, ami arra utal, hogy a jövőben az ilyen dezinformációs kampányok mindennapossá válhatnak.