Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Tisztítsuk meg az adatsorokat!

2022. február 21. - ferenck

A nyelvtől a látásmodellekig, a mély ideghálók teljesítménye folyamatosan javul, például hatékonyabbak, jobbak az általánosításban. Ezekre a rendszerekre sajnos az elfogultság, csoportok pontatlan és sztereotip megjelenítése szintén jellemző. A magyarázatokkal adósak maradnak, plusz törékenyek is – figyelmeztet a dublini University College Komplex Szoftver Laboratóriumában kognitív tudományokkal foglalkozó Abeba Birhana.

A kutató bízik a változásokban, optimista a jövő igazságosabb mesterséges intelligenciáit illetően. Álláspontját szakértői elemzésekre, több MI-kutató kritikus véleményére alapozza. Szerinte hamarosan fejleszthetünk az ezeket a negatív hatásokat mérséklő, esetleg teljesen kiiktató rendszereket, és a fejlesztésük idővel rutintevékenységgé válik.

bias_ai.jpg

A szakterületen nincs hiány az optimizmusból, sőt, rengetegen túl sokat várnak a modellektől, a félrevezető nyelvezettől a nagyzoló ígéretekig, minden el van túlozva körülöttük – és nem csak a mainstream médiában.

Nyelvi modelleket sokszor emberi tulajdonságokkal (tudatosság, dolgok megértése) ruháznak fel, holott például egy mondatban csak az előző szavak alapján prognosztizálják a következőt, azok alapján generálják a szöveget, és közben nem értik a jelentését.

biasai0.jpg

Ha meg akarjuk érteni a modellek emberekre gyakorolt hatását, akkor előbb magukat a modelleket kellene megértenünk. Először a korlátjaikat, majd az általuk okozott károkat.

Sajnos az adatsorokról készült jelentéseket kevesen veszik komolyan, pedig a modellek növekedésével maguk az adatsorok is terebélyesebbek lesznek, több gyakorlásra van szükségük, ami a masszív tréningjük és tesztelésük nélkül nem megy.

Az adatsorok anyagát főként a világhálóról gyűjtik össze, és kritikus szerepet játszanak az adott modell sikerében. A legmasszívabbak felülvizsgálatára viszont kevés a pénz, ráadásul meg sem becsülik ezeket a munkákat. Így fordulhatnak elő kegyetlen, bigott, gyűlölködő és csaló alkalmazások. A szöveges, vizuális stb. massza megtisztítása fárasztó és idegőrlő feladat, és akik csinálják, folyamatosan szembesülnek a kegyetlenség, bigottság, ellenségeskedés és csalás hatásaival.

És még az MI-közösség is alulbecsüli őket.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr1016801988
süti beállítások módosítása