A Nightshade: A művészek titkos fegyvere az AI ellen

2023.10.24. VipAIR

Mivel az AI egyre többet tanul a világhálóról, a művészek megtalálták a módját, hogy megvédjék munkájukat a Nightshade nevű eszközzel, amely „megmérgezi” a képeket az AI-modellek számára.

  • A művészek és alkotók aggodalmukat fejezték ki amiatt, hogy az AI-modellek engedély nélkül használják fel a munkáikat a képzéshez.

  • Egy új eszköz, a Nightshade lehetővé teszi a művészek számára, hogy képeiket az emberek számára észrevehetetlen, de az AI-képzés szempontjából zavaró módon módosítsák.

  • A Chicagói Egyetem kutatói által kifejlesztett eszköz célja, hogy a hatalmi egyensúlyt visszahelyezze a művészek javára és megvédje szellemi tulajdonukat.

A DALL-E-hez, a Midjourney-hez és a Stable Diffusion-hoz hasonló generatív AI-modellek elterjedése óta a művészek körében egyre nagyobb az aggodalom amiatt, hogy munkáikat beleegyezésük nélkül használják fel az AI-képzésben. Ezek a modellek hatalmas mennyiségű, gyakran a világhálóról származó adatra támaszkodnak, amelyek között olyan művészek által létrehozott tartalmak is vannak, akik nem tudnak vagy ellenzik az AI-képzésben való felhasználásukat. Míg egyesek jogi lépéseket tettek, egy új eszköz másfajta ellenállást kínál.

A Nightshade egy nyílt forráskódú eszköz, amely még mindig a fejlesztési fázisban van. A Chicagói Egyetem kutatói által kifejlesztett eszköz lehetővé teszi a művészek számára, hogy finoman megváltoztassák képeiket oly módon, hogy az emberi szem számára láthatatlan, de megzavarja a tanulni próbáló mesterséges intelligencia modelleket. A Nightshade segítségével például egy kutyát ábrázoló képet úgy lehet „megmérgezni”, hogy az egy AI-modell számára macskának tűnjön. Elég sok ilyen módosított kép esetén a mesterséges intelligencia modellek félrevezethetők, és pontatlan vagy akár bizarr eredményeket produkálhatnak.

A Nightshade mélyreható következményekkel jár. Nemcsak a generatív AI modellek működését kérdőjelezi meg, hanem jelentős akadályt jelent a mesterséges intelligencia fejlesztői számára is, akiknek mostantól fel kell fedezniük és el kell távolítaniuk ezeket a „mérgezett” képeket. Bár a lehetséges visszaélésekkel kapcsolatos aggodalmak is felmerülnek, az átfogó cél a művészek felhatalmazása, valamint munkájuk tiszteletben tartásának és védelmének biztosítása a digitális korban.

Megosztás Facebookon