Versenyfutás az AI deepfakes detektorok létrehozásáért

A Pentagonban történt robbanást ábrázoló hamis kép közelmúltban történő megjelenése, amelyet befolyásos közösségi médiában is terjesztettek, rávilágított a hatékony mélyhamisítás-felderítő eszközök szükségességére. A koholt kép, amely egyértelműen a mesterséges intelligencia munkája, pánikot és zavart váltott ki, aláhúzva az AI-kutatók figyelmeztetését a lehetséges digitális információs csapásokról.

A neves informatikus, Geoffrey Hinton aggodalmai a mesterséges intelligencia által generált képek egyre nagyobb hitelességével kapcsolatban hangosabban visszhangoznak, mint valaha. Válaszul a start-upok és a már működő AI-vállalkozások egyre növekvő csoportja gyorsítja fel a deepfakes felismerésére szolgáló technológia fejlesztését. Ezek az erőfeszítések a generatív AI tudatosságának növekedését követően nyertek lendületet, amelyet olyan alkotások vezettek, mint az OpenAI DALL-E és a ChatGPT és amely jelentős beruházásokat hajtott végre a mesterséges intelligencia hamisítványok felismerésére.

A tartalom integritásának védelméért folytatott versenyben olyan cégek, mint az Optic, az Intel FakeCatch és a Fictitious.AI a szöveges, hang- és videóformátumok mesterséges intelligencia interferenciák felderítésére összpontosítanak. A jelenlegi észlelőrendszerek ígéretes teljesítménye ellenére az iparág szakértői, köztük Arjun Narayan, a Google Trust and Saftey korábbi vezetője, aggodalmának ad hangot amiatt, hogy lépést kell tartani az AI-technológiák fejlődésével.

Íme néhány vállalat, amelyek élen járnak a deepfakes észlelésének versenyében:

Intel FakeCatcher

Az Intel, amely a mesterséges intelligencia kutatásában elért innovatív lépéseiről híres, sikeresen felhasználta szakértelmét a FakeCatcher létrehozásához. Ez a legmodernebb technológia valós idejű felismerést kínál a deepfakes videókról. A FakeCatcher megkülönböztető módon elkerüli a nyers forráskódok vizsgálatának hagyományos módszereit, és ehelyett egy kifinomultabb megközelítést választ: az arcelemzést. Az arc véráramlásában bekövetkező finom változások észlelésével – amelyek kizárólag valódi embereknél figyelhetők meg – a FakeCatcher egyedülálló módon képes megkülönböztetni a hiteles emberi alanyokat a mesterséges intelligencia által generált hamisítványoktól. Ezenfelül a rendszer további intézkedésként a tekintet észlelését is beépíti az alany hitelességének meghatározásához. Az "emberi igazság" keresése áll e technológiai törekvés hátterében, ahogyan azt Ilke Demir, az Intel Labs vezető kutatója, az alapkérdést hangsúlyozva elmondta: "Mi tesz minket emberré?"

Microsoft

Mielőtt a Microsoft a ChatGPT integrálásával megkísérelte volna megfiatalítani a Bing keresőt, a technológiai óriásvállalat a deepfakes felderítésének ijesztő feladatával foglalkozott. Még 2020-ban mutatták be a Microsoft Video Authenticator-t, egy olyan eszközt, amelynek célja, hogy alaposan megvizsgálja a fényképeket vagy videókat, és megbízhatósági pontszámot adjon, felmérve a digitális manipuláció valószínűségét. Ez az innovatív rendszer olyan finom jeleket azonosított, mint például a szürkeárnyalatos elemek átmenetei és más bonyolult részletek, amelyeket az emberi szem általában nem vesz észre. Abban az időben ez az érzékelő csúcstechnológiának számított. A mesterséges intelligencia-képgenerátorok gyors elterjedése és kifinomultsága az azt követő három évben azonban kétségessé tette a korabeli hatékonyságát. Még a Microsoft is elismerte, hogy az észlelő eszközeinek képességei eleve korlátozottak, tekintettel a deepfakes technológia könyörtelen fejlődésére. Előrelátóan megjegyezték: "Arra számítunk, hogy a szintetikus média létrehozására szolgáló módszerek egyre kifinomultabbak lesznek".

DARPA

A féktelen kutatásnak és fejlesztésnek elkötelezett Defense Advanced Research Projects Agency (DARPA) 2019 óta vagy még korábban aktívan szondázza a szintetikus anyagok felderítési technikáit. A DARPA Semantic Forensic (SemaFor) programjának középpontjában a fejlett "szemantikai és statisztikai elemző algoritmusok" fejlesztése áll. Ezeket a kifinomult eszközöket úgy tervezték, hogy megerősítsék a manipulált vizuális média elleni védelmet, ezáltal mérsékelve a dezinformáció terjesztésének lehetőségét. A SemaFor-program továbbá úttörő szerepet játszik a hozzárendelési algoritmusok fejlesztésében. Ezek kritikus szerepet játszanak a manipulált képek eredetének meghatározásában, megkülönböztetve, hogy ártalmatlan céllal készültek-e, vagy káros dezinformációs kampányok alkotóelemei.

OpenAI

Az OpenAI jelentősen előmozdította a generatív AI integrációját a mainstreambe, különösen a nagy visszhangot kiváltó DALL-E képgenerátorok és a ChatGPT révén. A legújabb törekvés az AI Classifier létrehozására irányul, amelyek célja e termékek ellenőrzése. Konkrétan ez az AI Classifier, amely jelenleg a szövegre összpontosít, arra törekszik, hogy különbséget tegyen az emberi és a mesterséges intelligencia által generált tartalom között. Az AI Classifier kezdeti teljesítménye azonban nem volt túl fényes. Az OpenAI értékeléséből kiderül, hogy az AI által generált szövegek mindössze 26%-át sikerült pontosan azonosítania, és azokat "valószínűleg AI által írtnak" minősítette. Továbbá az ember által generált szövegek 9%-át helytelenül jelölte mesterséges intelligencia által írtnak. Az OpenAI megjegyezte: "Az AI Classifier-ünk nem teljesen megbízható. Nem arra szántuk, hogy fő döntéshozatali eszközként használjuk, hanem inkább a szöveg eredetének azonosítására szolgáló más módszerek kiegészítéseként".

Optic

A deepfakes-felismerés úttörőjeként feltűnő Optic magabiztosan állítja, hogy képes megkülönböztetni a Stable Diffusion, a Midjourney, a DALL-E és a Gan.ai által készített mesterséges intelligenciával előállított képi anyagokat. A folyamat egyszerű – a felhasználóknak csak fel kell tölteniük a gyanús képet az Optic weboldalára, vagy el kell küldeniük azt egy Telegram-roboton keresztül, ezt követően a rendszer értékelést ad. Az Optic minden egyes ellenőrzésnél megjelenít egy bizonyossági pontszámot is, amely jelzi, hogy a képet valószínűleg mesterséges intelligencia készítette, és megpróbálja lenyomozni a létrehozásához használt konkrét mesterséges intelligencia modellt. Bár az Optic dicséretes, 96%-os sikerrel büszkélkedhet az AI által generált képek pontos azonosításában, elismeri, hogy rendszere nem tévedhetetlen. Erre példa, amikor felkérték az Optic-ot, hogy hitelesítsen egy állítólag felrobbant Pentagont ábrázoló képet, amelyet tévesen emberi alkotásnak minősített.

GPTZero

A GPTZero, egy kifinomult osztályozási modell hatékonysága annak észlelésében, hogy az adott szöveget mesterséges intelligencia, különösen az OpenAI ChatGPT, GPT3, GPT4 vagy a Google Bard-ja hozta létre. A szöveg elküldése után a GPTZero egy pontszámot ad, amely jelzi annak valószínűségét, hogy a dokumentumot mesterséges intelligencia generálja. Bár az eszköz az angol nyelvű írott tartalom széles skáláját képes értékelni, jelentős alkalmazásra talált az oktatók körében, lehetővé téve számukra, hogy megállapítsák, hogy a tanulók felhasználják-e a mesterséges intelligenciát az esszéikhez. Az eszköz hírneve egyre nő, több mint 6000 tanár számolt be a használatáról, olyan rangos intézményekről, mint a Harvard, a Yale és a Rhode Island Egyetem.

Sentinel

A Sentinel forradalmi kiberbiztonsági megközelítése egy négyszintű struktúrát foglal magában a deepfakes észlelésére és félrevezetésére. Az elsődleges szint magában foglalja a dokumentumok szkennelését az ismert deepfakes-hez kapcsolódó hash-ek – lényegében a manipulált tartalom által hagyott digitális nyomok – keresésére. A kifinomultabb szintek mesterséges intelligenciát alkalmaznak a tartalom manipulálására utaló vizuális és hallási változások alapos vizsgálatára. Az internetes integritás megerősítése iránti elkötelezettség mélyen személyes a Sentinel vezérigazgatója, Johannes Tammekänd számára, aki a volt Szovjetunióból származik – a dezinformációs kampányairól hírhedt rezsimből. Tammekänd háttere elősegíti az ellenőrizetlen információs hadviselés lehetséges következményeinek megértését, és megerősíti elkötelezettségét amellett, hogy világszerte megvédje a demokráciákat a hasonló fenyegetésektől.

Reality Defender

A mindössze két évvel korábban alapított Reality Defender vállalati szintű eszközöket biztosít, amelyek lehetővé teszik a vállalkozások és a kiterjedt szervezetek számára, hogy gyorsan átvizsgálják a hanganyagokat, fényképeket és videókat a digitális manipuláció nyomai után. A Reality Defender által azonosítani képes mesterséges intelligencia-modellek sajátosságai továbbra is kissé homályosak. Mindazonáltal a vállalat azt állítja, hogy rendszerét a NATO Strategic Communications Centre of Excellence felhasználta a deepfakes és a félretájékoztatás további formáinak azonosítására, amelyeket a VKontakte közösségimédia-platform oroszbarát fiókjai terjesztenek.

Attestiv

A Massachusettsből származó Attestiv saját szabadalmaztatott mesterséges intelligencia technológiáját alkalmazza a különféle típusú digitális tartalmak aprólékos vizsgálatára, a fényképektől, videóktól, dokumentumoktól a telemetriai adatokig. Ezeket a beadványokat, amelyeket akár közvetlenül a céghez szállítanak, akár az alkalmazásai révén rögzítik, alaposan megvizsgálják a digitális manipulációra utaló lehetséges rendellenességek szempontjából. A kriminalisztikai elemzés után az Attestiv egy "összesített manipulációs pontszámot" ad, amely megbecsüli annak valószínűségét, hogy a digitális tartalom mesterséges intelligencia által generált vagy módosított. Azokban az esetekben, amikor manipulációt észlelnek, a cég védi a tartalom digitális másolatát a blokklánc főkönyvében. Ez a tárolási stratégia lehetővé teszi az ismétlődő esetek gyors felismerését, amikor a manipulált adathordozó újra felszínre kerül.

Blackbird.ai

A 2014-ben alapított Blackbird.AI kiemelkedik azon tartós vállalkozások közül, amelyek mesterséges intelligencia segítségével nyomon követik a lehetséges deepfakes-t és korlátozzák az online forgalmukat. Ahelyett, hogy az újabb technológiai cégeket tükrözné, amelyek a digitális változások finom jelzéseire összpontosító dokumentumok vizsgálatára koncentrálnak, a Blackbird erőfeszítéseit a már észlelt mesterséges intelligencia által manipulált képek pontos meghatározására és terjedésének megfékezésére fordítja. A Blackbird valós időben vizsgálja a közösségi média tendenciáit, és számos "médiakockázatot" vizsgál, hogy feltárja és elnyomja a dezinformációt vagy befolyásolja a kampányokat, mielőtt azok ellenőrizhetetlenül fokozódnának. A rosszindulatú kampányok rohamosan terjednek gyakran mesterséges intelligencia által manipulált képek, amelyek célja a közönség megtévesztése félrevezető értelmezésekkel, például olyan prominens személyekről, mint Donald Trump hamisított képei.

Fictitious.AI

Az elmúlt tíz évben a plágiumfelismerő rendszerek az akadémiai intézmények standard eszközévé váltak. Ezek a rendszerek azonban, amelyeket elsősorban az azonos online tartalmak azonosítására terveztek, nehezen ismerték fel a fejlett mesterséges intelligencia chatbotok, például a GPT4 és a ChatGPT által létrehozott tartalmakat. Ezt a látszólag "eredeti" tartalmat a felhasználók bevitele alapján készítik, ami kihívást jelent a hagyományos plágiumfelismerő eszközök számára. Azonban a Fictitious.AI fellép ennek a fejlődő problémának a megoldása érdekében. Ez a technológiai cég egy olyan fejlett mesterséges intelligencia modellt vezet be, amelyet a GPT4-hez és a ChatGPT-hez hasonló chatbotok által generált szövegek felismerésére terveztek. A Fictitious.AI interaktív konzolt kínál az oktatóknak, és lehetővé teszi a tanárok számára, hogy beírják a diákok beadványait, és elemezzék az eredményeket. Az eredmények végső értelmezése és felhasználása azonban a pedagógus belátására van bízva.

Sensity AI

A Hollandiából származó Sensity AI kijelentette, hogy jártas az olyan modellek mesterséges intelligencia által készített képeinek azonosításában, mint a Dall-E, a Stable Diffusion és a Midjourney, valamint az OpenAI GPT3-ból származó szövegek. A Sensity AI egyedülálló módon kiemeli azt a képességét is, hogy pontosan felismeri a digitális arccsere eseteit. Ez a különleges funkció fontos szerepet játszik az olyan személyek csalási kísérletei elleni küzdelemben, akik megpróbálják magukat másoknak kiadni, hogy jogosulatlanul hozzáférjenek az arcszkenneléssel vagy más biometrikus mutatókkal védett fiókokhoz.