Egyre több sürgősen megválaszolandó kérdést vet fel a mesterségesintelligencia-rendszerek, algoritmusok esetleges elfogultsága. Hiába fejlettek ezek a technológiák, egyelőre „csak” annyira jók, mint az általuk feldolgozott adatok. Az adatokat pedig emberek táplálják beléjük.

A világmédia beszámolt már rasszista, szexista és más negatív tulajdonságokat kifejező algoritmusokról.

Még nyugtalanítóbb, hogy ha a gyakorlóadatokból kivesszük az emberi részrehajlást, a rendszer saját magától is fejlődhet negatív irányba. A probléma egyre általánosabb, és mielőbbi megoldásra lenne szükség, mert hamarosan eljön az idő, amikor a hétköznapok szinte minden szegmensében MI-k segítik tevékenységünket (például döntéshozásban).

A mesterségesintelligencia-kutatások egyik élenjárója, a Google néhány éve kétnapos gépitanulás-gyorstalpalót (machine learning crash course, MLCC) indított, hogy mérnökei jobban megismerjék a szakterületet. Az MLCC február óta online is elérhető, bárki hozzáférhet, gyakorolhat, elolvashatja az esettanulmányokat, megoldhatja a feladatokat, azaz betekintést nyerhet a gépi tanulásba.

A cég a múlt héten új modullal egészítette ki az anyagot. A pártatlanság modul a mesterségesintelligencia-fejlesztés közbeni elfogulatlanságra, előítélet-mentességre összpontosít. A szakterülethez kapcsolódó szószedetet szintén bővítették, pártatlansággal kapcsolatos szócikkek kerültek bele.

A szócikkeket kezdőknek és gyakorlott fejlesztőknek egyaránt referenciaként ajánlják, és bizakodnak, hogy az anyaggal hozzájárulnak a pártatlanság koncepciójának a mesterségesintelligencia-kutatói közösségeken belüli elterjedéséhez.

Az egyórás programban több kérdést megvitatnak: az adatokban megnyilvánuló különböző emberi részrehajlás-típusokat, az elfogultság által potenciálisan érintett területek a modell gyakoroltatása előtti azonosítási módjait, a modell előrejelzéseinek kiértékelési módszertanát. Utóbbi esetben az összteljesítmény mellett a részrehajlást, elfogultságot is vizsgálják.

„Ha egy gépitanulás-szakember modelleket épít, értékel ki és alkalmaz, figyelembe kell vennie, egyik legfontosabb szempontnak kell tartania a pártatlanságot (például, hogy személyek eltérő demográfiai háttere mennyire befolyásolja az előrejelzést). Emellett, proaktívan kell stratégiákat kidolgoznia az algoritmus részrehajlásából eredő hatások ok azonosítására és megváltoztatására” – összegez a Google.