2023.08.28. VipAIR
Ahogy a beltenyésztés megronthatja egy faj genetikáját, az AI hasonló kihívásokkal néz szembe, ha a saját generált tartalmaikból kezdenek el tanulni, ez veszélyezteti digitális és kulturális tájképünket.
-
A generatív AI a „beltenyésztés” veszélyével néz szembe, mivel egyre inkább a saját maga által generált tartalmakból tanul.
-
Ez a beltenyésztés ronthatja az AI-rendszereket és torzíthatja az emberi kultúrát.
-
Az olyan megoldásokat, mint az AI-osztályozók és a vízjelek, már vizsgálják, de a kihívás továbbra is jelentős.
A generatív AI, a hatalmas mennyiségű emberi tartalomból tanuló technológia fenyegető kihívással néz szembe. Ahogyan a populációban a beltenyésztés genetikai problémákhoz vezethet, az AI-rendszereket is hasonló probléma fenyegeti. Ahogy az internet telítődik AI-által generált tartalmakkal, az újabb mesterséges intelligencia rendszerek végül ezekből a AI-által létrehozott műalkotásokból tanulhatnak. Ez nem valódi emberi kultúra, hanem annak egy utánzott változata, amely kockáztatja a mesterséges intelligencia „génkészletének” megrongálódását egy beltenyésztéshez hasonló folyamat révén.
Ez a "generatív beltenyésztésnek" nevezett jelenség két fő problémát vet fel. Először is, az AI-rendszerek integritása idővel romolhat. Ahogy a mesterséges intelligencia az emberi kultúra torzított változataiból tanul, egyre pontatlanabb nyelvi és kulturális reprezentációkat hozhat létre. Másodszor, ahogy az AI-által generált tartalom egyre értékesebbé válik, beárnyékolhatja a valódi emberi hozzájárulásokat, ami a kollektív kultúránk torz megjelenítéséhez vezethet.
A közelmúltban készült tanulmányok rávilágítottak e probléma súlyosságára. Egyesek szerint a generatív beltenyésztés az „adatmérgezés” miatt „modell összeomláshoz” vezethet. Ahogy az AI-által generált tartalom növekszik a képzési adathalmazokban, a generatív modellek minősége fokozatosan romolhat. Továbbá, mivel ezek a generált tartalmak nem tartoznak szerzői jogvédelem alá, dominálhat az ember által létrehozott tartalmak felett és jobban befolyásolhatják kulturális irányvonalainkat, mint az emberi művészek és alkotók.
E kihívás kezelése innovatív megoldásokat igényel. Az egyik megközelítés az emberi és az AI-által generált tartalmak közötti különbségtételre tervezett AI-osztályozókat foglalja magában. Azonban ezek az osztályozók, mint például az
OpenAI által kifejlesztett osztályozó, pontossági problémákkal küszködtek. Egy másik lehetséges megoldás az AI-által generált műalkotások vízjelekkel való ellátása. Ez a módszer, bár ígéretes, korlátokba ütközik, különösen a könnyen szerkeszthető szövegalapú tartalmak esetében.
Összefoglalva, a generatív AI térnyerése eddig nem látott kihívásokat hoz magával. Bár ezek a rendszerek a múltbeli stílusok és tartalmak utánzására vannak kiképezve, hiányzik belőlük az emberi alkotók által nyújtott személyes inspiráció. A generatív beltenyésztés együttes hatása olyan jövőhöz vezethet, amelyben kultúránkat inkább a mesterséges intelligencia, mint az emberi kreativitás befolyásolja. Ennek kezelése technikai megoldásokat és politikai beavatkozásokat egyaránt igényel a kiegyensúlyozott digitális ökoszisztéma biztosítása érdekében.
