A nyilvánosság által támogatott AI alapszabályai: Az Anthropic forradalmi megközelítése

2023.10.24. VipAIR

Az OpenAI innovatív riválisa, az Anthropic AI újradefiniálja az etikus AI határait, és a nyilvánosság hozzájárulásával erős, új alapszabályt adott ki a Claude nevű chatbotjához.

  • Az OpenAI riválisa, az Anthropic AI a nyilvánosság visszajelzései alapján új AI-alapszabályt adott ki chatbotja, Claude számára.

  • A 75 pontból álló alapszabály a kiegyensúlyozott válaszokat, az etikus viselkedést hangsúlyozza és tiltja a mérgező vagy diszkriminatív válaszokat.

  • A nyilvánosság által vezérelt alapszabály több mint 1000 résztvevő aggályait és értékeit tükrözi, hangsúlyozva az AI biztonságának és etikájának fontosságát.

Az Anthropic AI, egy Amazon által támogatott startup és az OpenAI félelmetes riválisa, úttörő szerepet játszik a mesterséges intelligencia irányításának demokratikus megközelítésében. A népszerű chatbot, A Claude mögött álló cég nemrég mutatta be új AI-alapszabályát. Ez az irányadó szabályrendszer, amely Claude képzését és viselkedését alakítja, nem zárt tárgyalóteremben született, hanem a nyilvánosság hozzájárulása alapján. A 75 pontból álló alapszabályt hangsúlyozza a kiegyensúlyozott és objektív válaszok adásának fontosságát. Ez arra is kötelezi a chatbotot, hogy az etikus viselkedés keretein belül működjön és kifejezetten figyelmeztet a diszkriminatív, mérgező, rasszista vagy szexista válaszokra.

Az alapszabály megalkotása nem magányos vállalkozás volt. Az Anthropic együttműködött a Collective Intelligence Project nevű kutatócéggel, hogy összegyűjtse 1000, különböző hátterű amerikai véleményét. Ezeknek a résztvevőknek lehetőségük volt szavazni a meglévő szabályokról vagy újakat javasolni. Az így kapott elveket, amelyek a vélemények széles spektrumát tükrözték, aztán beépítették az alapszabályba. Ez a dokumentum mostantól a Claude képzésének alapjául szolgál, biztosítva, hogy a mesterséges intelligencia válaszai összhangban legyenek a felhasználók kollektív értékeivel.

Az Anthropic ezen kezdeményezése a mesterséges intelligencia biztonságának és etikájának növekvő jelentőségét bizonyítja a mai digitális korban. Ahogy az AI-rendszerek egyre inkább beépülnek mindennapi életünkbe, az őket irányító elvek döntő fontosságúvá válnak. Az Anthropic megközelítése, amely a nyilvánosságot helyezi az AI irányításának középpontjába, nemcsak azt biztosítja, hogy chatbotjuk etikus és biztonságos marad, hanem precedenst teremt más technológiai vállalatok számára is.

Megosztás Facebookon