Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Elfogulatlanabb mesterséges intelligenciákat!

2021. október 15. - ferenck

Az igazságszolgáltatás, a pénzügyi intézmények, állami és magánvállalatok emberek életét komolyan befolyásoló algoritmusokat használnak a döntéshozáshoz. Ezek az algoritmusok sajnos sokszor előítéletesek; bőrszín, társadalmi státusz és más tényezők befolyásolják őket, például aránytalanul több feketét látnak bűnelkövetőnek, mint fehéret, és túl sok szegény bankkölcsönét nem támogatják.

Az MIT (Massachusetts Institute of Technology) kutatói az algoritmusok korrektségét az összes alternatívánál pontosabban és gyorsabban kiértékelő mesterségesintelligencia-programnyelvet (Sum-Product Probabilistic Language, SPPL), egy valószínűség-alapú programozó rendszert fejlesztettek.

aifairness.jpg

A feltörekvőben lévő valószínűség-alapú programozás a programnyelvek és az MI metszéspontjára belőhető diszciplína. Megkönnyíti mesterségesintelligencia-rendszerek fejlesztését, első sikereit a gépi látásban, a józanész jellegű adatfeldolgozásban és az automatizált adatmodellezésben érte el. Ezekkel a nyelvekkel a programozók egyszerűbben határoznak meg valószínűségi modelleket, vonnak le következtetéseket.

Nem ez az első algoritmikus korrektséggel foglalkozó rendszer, viszont olyan mértékben specifikálták és optimalizálták meghatározott modellcsoportokra, hogy ezerszer, de akár háromezerszer is gyorsabb válaszokat ad, mint a többi opció.

aifairness0.jpg

Ezeket a válaszokat olyan kérdésekre és utasításokra adja, mint „milyen valószínűséggel adna kölcsönt negyven feletti személynek?” Ami a korrektséget illeti, a „van-e különbség az azonos társadalmi-gazdasági háttérrel rendelkező bevándorlók és nem bevándorlók hitelkérelmének elbírálásában?” és a „ha az alulreprezentált csoporthoz tartozó jelentkező kvalifikált az állásra, mennyire valószínű, hogy meg is kapja azt?” azok a kérdéstípusok, amelyek esetén jól működik az SPPL. Ezen a nyelven csak pontos valószínűségalapú következtetést generáló programok írhatók, ami fontos az algoritmus elfogultságának egyértelmű megítélésében. A válasz gyorsasága ellenőrizhető, amivel elkerüljük lassú programok írását.

Természetesen minden ilyen következtetésben lehetnek hibák, a (súlyos) társadalmi következményekkel járó MI-alkalmazásokban viszont egyáltalán nem lenne szabad előfordulniuk. Az SPPL ezen a téren szerencsére sokkal megbízhatóbb a „rokon” nyelveknél (PPL), és ez pontosan a jól meghatározható, de így sem kevés modellosztály (például a döntésfa-osztályozók) miatt lehetséges. Egyelőre mesterséges ideghálókhoz viszont sajnos nem ajánlják, amire szükség lenne, mert a döntésfákat és ideghálókat egyaránt elemző egyéb rendszerek lassabbak és pontatlanabbak is.

Az SPPL mindenesetre bebizonyította, hogy a pontos valószínűségalapú következtetés nemcsak elméletben, hanem gyakorlatban is működik.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr416663352
süti beállítások módosítása