Az OpenAI új küldetése: A szuperintelligens AI és az emberi szándékok összehangolása

2023.07.07. VipAIR

Az OpenAI egy új kutató csapatot állít fel, amelynek feladata, hogy feltárja, hogyan lehet a szuperintelligens AI-rendszereket az emberi szándékokkal összhangban irányítani.

  • Az OpenAI új csapatot hoz létre a szuperintelligens AI-rendszerek irányítására szolgáló módszerek kidolgozására.

  • A csapat egy "emberi szintű automatizált összehangolási kutató" létrehozására fog összpontosítani annak biztosítására, hogy az AI-rendszerek elérjék a kívánt eredményeket.

  • Az OpenAI hisz abban, hogy az AI gyorsabb és jobb eredményeket tud elérni az összehangolás kutatásában, mint az emberek.

Az OpenAI vezető kutatója, Ilya Sutskever vezetésével új csapatot indít, amelynek feladata a szuperintelligens AI-rendszerek irányítására és ellenőrzésére szolgáló stratégiák kidolgozása. A csapat, amely az OpenAI korábbi összehangolási részlegének tudósait és mérnökeit, valamint a vállalat más szervezeteinek kutatóit foglalja magában, a következő négy évben a szuperintelligens mesterséges intelligencia irányításának alapvető technikai kihívásaira fog összpontosítani. Előrejelzéseik szerint az emberit meghaladó intelligenciával rendelkező mesterséges intelligencia jelenhet meg az évtizeden belül, és ez az AI nem feltétlenül jóindulatú, ami szükségessé teszi az irányítás és korlátozás módjainak kutatását.

A csapat magas szintű célja az AI-rendszerek képzése emberi visszajelzések felhasználásával, az AI-képzése más AI-rendszerek értékelésében és végső soron olyan mesterséges intelligencia kiépítése, amely képes összehangolni a kutatást. Az összehangolás kutatása annak biztosítására vonatkozik, hogy az AI-rendszerek elérjék a kívánt eredményeket, vagy ne tévedjenek el. Az OpenAI feltételezi, hogy a mesterséges intelligencia gyorsabb és jobb összehangolási kutatást tud végezni, mint az ember. Az előrehaladással az AI-rendszerek egyre nagyobb részt vehetnek át az összehangolási munkában és végül jobb összehangolási technikákat tervezhetnek, valósíthatnak meg, tanulmányozhatnak és fejleszthetnek ki.

Azonban egyetlen módszer sem bolondbiztos, és a csapat elismeri az OpenAI megközelítésének számos korlátját. A mesterséges intelligencia kiértékelésre való felhasználása magában hordozza annak az AI-nak a következetlenségeit, elfogultságait vagy sebezhetőségeit. Így kiderülhet, hogy az összehangolási probléma legnehezebb részei talán egyáltalán nem is a mérnöki munkához kapcsolódnak. E kihívások ellenére az OpenAI úgy véli, hogy a szuperintelligencia-összehangolása alapvetően gépi tanulási probléma és a nagyszerű gépi tanulási szakértők kulcsfontosságúak lesznek a megoldáshoz.

Megosztás Facebookon