A Google DeepMind részlege életvezetési tanácsokat nyújtó AI-t fejleszt

• A Google DeepMind mintegy 21 AI-eszközt fejleszt, amelyek életvezetési tanácsadásra, tervezésre és oktatásra összpontosítanak.

• Aggályok merülnek fel azzal kapcsolatban, hogy milyen negatív hatásai lehetnek annak, ha az életvezetési tanácsadásban az AI-ra támaszkodunk.

• A Google a Scale AI-val együttműködve teszteli ezeket az eszközöket, hangsúlyt fektetve a biztonságra és a hasznosságra.

A Google mesterséges intelligencia részlege, a DeepMind a jelentések szerint generatív AI technológiát használ fel, mintegy 21 eszköz kifejlesztésére, amelyek életvezetési tanácsokkal, tervezéssel és oktatással foglalkoznak. Az eszköz fejlődéséről szóló nyilvánosságra hozatal azt követően történt, hogy a Google saját mesterséges intelligencia biztonsági szakértői decemberben megosztottak egy prezentációt a vezetőkkel, amelyben arra figyelmeztettek, hogy az AI-eszközökre támaszkodó felhasználóknak az életvezetési tanácsadás során olyan potenciális negatív kimeneteleket tapasztalhatnak, mint a "csökkent egészség és jólét", valamint az "ügynöki képesség elvesztése".

Források szerint a Google a Scale AI, egy 7,3 milliárd dollárra értékelt, AI-szoftverek képzésére és érvényesítésére szakosodott startup cég szolgáltatásait vette igénybe ezen eszközök teszteléséhez. A projektben állítólag több mint 100 doktorátussal rendelkező személy vesz részt, akik aktívan közreműködtek. Az értékelés egyik központi álláspontja annak felmérése, hogy az eszközök képesek-e párkapcsolati útmutatást nyújtani és segíteni a felhasználókat a személyes és intim kérdésekben. Egy szemléltető kérés betekintést nyújtott a projekt természetébe, amely egy barátja esküvőjével és pénzügyi korlátokkal kapcsolatos személyes konfliktus kezelésével kapcsolatos tanácsadás körül forog.

A DeepMind által jelenleg fejlesztés alatt álló eszközöket nem terápiás célokra szánják – amint azt hangsúlyozták. A Google nyilvánosan elérhető Bard chatbotja csak akkor irányítja a felhasználókat mentálhigiénés támogatási forrásokhoz, amikor terápiás tanácsadásra kérdeznek rá. E korlátozások egyik mozgatórugója az, hogy a mesterséges intelligencia orvosi vagy terápiás összefüggésben való alkalmazása vitatott. A közelmúltban a National Eating Disorder Association felfüggesztette Tessa chatbotját, miután az káros tanácsokat adott az étkezési zavarokkal kapcsolatban.