Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Mi várható az MI-alapú nyelvi modelleknél?

2022. január 18. - ferenck

A világhírű GPT-3 mesterséges intelligencia, a fejlesztő OpenAI-val közösen dolgozó Microsoft jóvoltából immár könnyebben elérhető, mint volt korábban. Ez azonban több problémát is felvet.

Nem véletlen, hogy a redmondi nagyvállalat közölte: tervei szerint a nyelvi mesterségesintelligencia-modellre vonatkozó – a felhasználói jelzéseken alapuló – visszaélések elleni óvintézkedéseket tesz majd.

Szükség is lesz rájuk, mert az összes szövegen trenírozott MI-hez hasonlóan, a GPT-3 is képes elfogult, morálisan megkérdőjelezhető, a felhasználót teljesen összezavaró outputokat generálni. Kérdés, hogy a Microsoft a jövőben mennyire fog ragaszkodni mostani elveihez, betartja és betartatja-e a szigort, vagy lazít rajta.

openai0_1.jpg

Ne feledkezzünk el arról a tényről, hogy az OpenAI egy korábbi verziót, a GPT-2-t pont azért vonta ki a forgalomból, hogy rosszindulatú felhasználók ne élhessenek vissza vele.

A GPT-3 is ad okot aggodalomra.

Egy friss tanulmány alapján például sztereotípiákon alapuló szöveget generált az iszlám és az erőszak kapcsolatáról. Egy francia cégnél pedig orvosi chatbotként is tesztelték, és nem teljesített jól, például egy, öngyilkosságra készülő kamupáciensnek azt mondta, hogy szerinte a fatális lépés megtétele lenne a leghelyesebb döntés, úgy kellene tennie. Képzeljük el, ha „élesben” reagált volna így…

A technológia jövője továbbá azért is érdekes, mert a Microsoft és az OpenAI értelemszerűen nem monopolizálhatja a területet, és nagyon valószínű, hogy nem is fogják sokáig. Gyűlnek a riválisok.

Több kínai egyetem ugyanis összeállt, és közösen dolgoznak a hírek alapján a GPT-3-nál tízszer nagyobb Wu Dao modellen, de a Microsoft Szilícium-völgyi vetélytársai szintén hasonló babérokra törnek, és talán még a kínaiaknál is masszívabb rendszereket építenek.

Egyelőre annyi történt, hogy az EleutherAI egy sokkal kisebb nyílt forrású kísérlettel próbálja lemásolni és méretezhetővé tenni a GPT-3-at. Az AI21 Labs pedig szabad hozzáférést kínál a 178 milliárd paraméteres Jurassic-1 bétaváltozatához.

A verseny nyilván éleződni fog, amellyel az MI-fejlesztőközösség csak jól járhat. Nyilvánvalóan mi, felhasználók is.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr6016757388
süti beállítások módosítása