Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Elfogultak a szintetikus adatok?

2020. október 27. - ferenck

Virágzó és gyorsan fejlődő piac szintetikus adatsorok generálása gépitanuló-rendszerek gyakoroltatásához. Az érintett startupok (AI.Reverie, GenRocket, Hazy, Mostly AI stb.) külön figyelmet szentelnek a forrásadatok előítélet-mentességére, hogy a rajtuk trenírozott algoritmusok ne legyenek részrehajlók. Természetesen nemcsak figyelnek, hanem módszereket is dolgoznak ki rá.

Ha nem sikerül megoldaniuk a problémát, a szintetikus adatsorok „megöröklik” a fizikai valóságból származó adatok hiányosságait, elfogultságát. Azokét az adatokét, amelyeken alapulnak a későbbi gépitanulás-modellek.

De miért van szükség szintetikus adatsorokra?

szintetikus_adatsor.jpg

Elsősorban azért, mert nagyon jó minőségű gyakorló adatsorok létrehozását a magas költségek miatt sok cég nem engedheti meg magának, másrészt pedig, azokban az esetekben, amikor a fizikai valóság adatai nem állnak rendelkezésre, ez az egyetlen lehetőség.

De a szintetikus adatsorok sajnos nemcsak megőrzik, hanem fel is erősíthetik az eredetiek részrehajlását, rengeteget torzíthatnak, például növelhetik a társadalmi előítéleteket. A fejlesztők nagyon vigyáznak a „valóságtorzulásokra”: ne legyenek jelentősek, még inkább: egyáltalán ne forduljanak elő, és igyekeznek minimalizálni a kockázatokat, hogy a begyakoroltatott modell ne eredményezzen teljesen félrevezető, igazságtalan outputokat.

A Mostly AI friss kísérletében az 1994-es amerikai népszámlálás adataiból kiindulva generáltak adatsort, amelyben az évi 50 ezer dollárnál többet kereső férfiak 20 százalékkal többen voltak, mint a nők. Az egyenletesebb eloszlás érdekében a cég beépített a rendszerbe egy generátort, amely a magas jövedelmű férfiak és nők arányának jelentős felbillenésekor büntetőmechanizmusokat alkalmazott. A technikával 2 százalékosra csökkentették a különbséget.

A startup a visszaeső bűnözésre vonatkozó, hírhedtté vált COMPAS adatsor alapján is generált szintetikus adatsort, bemutatva, hogy az abból kiinduló modelleknél feketék esetében aránytalanul magasabb, fehéreknél aránytalanul alacsonyabb az ismételt bűnelkövetés valószínűsége. A kezdeti adatsorral 24 százalék volt a különbség, végül korrekciós technikákkal elérték, hogy 2 százalékra csökkenjen.

Az adatsorok elsődleges rendeltetése, hogy elfogulatlan outputot eredményezzenek – magyarázzák a fejlesztők.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr6516256442

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.
süti beállítások módosítása