Az NJSZT blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Pártatlanság modullal egészíti ki gépitanulás-gyorstalpalóját a Google

2018. október 24. - ferenck

Egyre több sürgősen megválaszolandó kérdést vet fel a mesterségesintelligencia-rendszerek, algoritmusok esetleges elfogultsága. Hiába fejlettek ezek a technológiák, egyelőre „csak” annyira jók, mint az általuk feldolgozott adatok. Az adatokat pedig emberek táplálják beléjük.

A világmédia beszámolt már rasszista, szexista és más negatív tulajdonságokat kifejező algoritmusokról.

googlemachinelearning.jpg

Még nyugtalanítóbb, hogy ha a gyakorlóadatokból kivesszük az emberi részrehajlást, a rendszer saját magától is fejlődhet negatív irányba. A probléma egyre általánosabb, és mielőbbi megoldásra lenne szükség, mert hamarosan eljön az idő, amikor a hétköznapok szinte minden szegmensében MI-k segítik tevékenységünket (például döntéshozásban).

A mesterségesintelligencia-kutatások egyik élenjárója, a Google néhány éve kétnapos gépitanulás-gyorstalpalót (machine learning crash course, MLCC) indított, hogy mérnökei jobban megismerjék a szakterületet. Az MLCC február óta online is elérhető, bárki hozzáférhet, gyakorolhat, elolvashatja az esettanulmányokat, megoldhatja a feladatokat, azaz betekintést nyerhet a gépi tanulásba.

googlemachinelearning0.jpg

A cég a múlt héten új modullal egészítette ki az anyagot. A pártatlanság modul a mesterségesintelligencia-fejlesztés közbeni elfogulatlanságra, előítélet-mentességre összpontosít. A szakterülethez kapcsolódó szószedetet szintén bővítették, pártatlansággal kapcsolatos szócikkek kerültek bele.

A szócikkeket kezdőknek és gyakorlott fejlesztőknek egyaránt referenciaként ajánlják, és bizakodnak, hogy az anyaggal hozzájárulnak a pártatlanság koncepciójának a mesterségesintelligencia-kutatói közösségeken belüli elterjedéséhez.

googlemachinelearning1.jpg

Az egyórás programban több kérdést megvitatnak: az adatokban megnyilvánuló különböző emberi részrehajlás-típusokat, az elfogultság által potenciálisan érintett területek a modell gyakoroltatása előtti azonosítási módjait, a modell előrejelzéseinek kiértékelési módszertanát. Utóbbi esetben az összteljesítmény mellett a részrehajlást, elfogultságot is vizsgálják.

„Ha egy gépitanulás-szakember modelleket épít, értékel ki és alkalmaz, figyelembe kell vennie, egyik legfontosabb szempontnak kell tartania a pártatlanságot (például, hogy személyek eltérő demográfiai háttere mennyire befolyásolja az előrejelzést). Emellett, proaktívan kell stratégiákat kidolgoznia az algoritmus részrehajlásából eredő hatások ok azonosítására és megváltoztatására” – összegez a Google.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr4214317011

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.