A Microsoft elhallgattatta mérnökét a DALL-E 3-mal kapcsolatos aggodalmai miatt

2024.01.31. VipAIR

Az OpenAI DALL-E 3-mal kapcsolatos lehetséges visszaélésekkel szembesülve egy Microsoft-mérnök aggodalma alapvető etikai kérdéseket vet fel a technológiával kapcsolatban.

  • A Microsoft mérnöke, Shane Jones aggodalmát fejezi ki amiatt, hogy a DALL-E 3 képes explicit és erőszakos képeket képes generálni.

  • Miután nyilvános bejelentését a Microsoft jogi osztálya töröltette, Jones kormányzati tisztviselőkhöz fordult, hogy felhívja a figyelmet.

  • Mind a Microsoft, mind az OpenAI azt állítja, hogy kivizsgálták az aggályokat, hangsúlyozva az AI biztonsága és az alkalmazottak visszajelzései iránti elkötelezettségüket.

A mesterséges intelligencia területén az etikai határokat folyamatosan tesztelik. Shane Jones, a Microsoft vezető mérnöke központi figurája lett ennek a folyamatos vitának, amikor nyilvánosan kifejezte aggodalmát az OpenAI DALL-E 3 nevű, explicit és erőszakos képek generálására képes AI-val kapcsolatban. Jones 2023 decemberében felfedezett biztonsági rés miatt jelentette a problémát a Microsoftnak és az OpenAI-nak, ezzel is rávilágítva az ügy sürgősségére.

A helyzet ellentmondásos fordulatot vett, amikor a Microsoft jogi osztálya állítólag arra utasította Shane Jonest, hogy távolítsa el a problémát részletező bejegyzését. Ezt az utasítást nem sokkal azután adták ki, hogy Jones tájékoztatta a Microsoft vezetői csapatát az OpenAI igazgatótanácsával folytatott levelezéséről. Jones szerint a poszt törlésére vonatkozó utasítás minimális magyarázattal érkezett, és a jogi részleg további felvilágosítás kérésére tett erőfeszítéseit állítólag figyelmen kívül hagyták. Ezek után Jones levelet írt Washington állam főügyészének, Bob Fergusonnak és további tisztségviselőknek, hogy értesítse a nyilvánosságot.

A Microsoft reakciója erre az epizódra aláhúzza, hogy milyen összetett az etikai dilemmák kezelése az AI-fejlesztés során. A vállalat megerősítette elkötelezettségét a munkavállalói aggályok kezelése iránt és kijelentette, hogy szilárd belső mechanizmusokkal rendelkezik az ilyen kérdések kivizsgálására és megoldására. A Microsoft hangsúlyozta Shane Jones állításainak igazolására és tesztelésére irányuló erőfeszítéseit is és fenntartotta, hogy a mesterséges intelligenciával működő képalkotó rendszereik nem kerültek veszélybe, ahogyan attól tartott.

Az OpenAI ezzel szemben megerősítette Shane Jones jelentésének kézhezvételét és az ügy azonnali kivizsgálását. A mesterséges intelligencia-óriás megismételte, hogy a biztonság a prioritásuk és megemlítette, hogy erős képosztályozókat vezettek be, hogy megakadályozzák a káros tartalmak generálását. Kiemelték továbbá, hogy proaktív megközelítésükkel kizárták az explicit tartalmakat a DALL-E 3 tréningadataiból és folyamatos erőfeszítéseket tesznek a kockázatok csökkentésére olyan területeken, mint az elfogultság és a félretájékoztatás. Ez az incidens kérdéseket vet fel az AI-fejlesztés határaival kapcsolatban, egyúttal a technológiai vállalatok folyamatos erőfeszítéseit is bemutatja az innováció és az etikai felelősség egyensúlyának megteremtésére.

Megosztás Facebookon