Az MI-algoritmusok markánsan jelen vannak hétköznapjainkban, és a technológiai fejlődéssel a jövőben sokkal nagyobb szerepet játszanak majd. Elvileg nem jellemző rájuk az emberi szubjektivitás, rengeteget segítenek, és általában hasznosak az objektív döntéshozásban.
Elvileg…
A mesterségesintelligencia-fejlesztéseknél sokan, valószínűleg Donald Trump is teljesen szabad piacot képzelnek el. Szintén sok szakértő viszont nem ért egyet ezzel az állásponttal, mert álláspontjuk szerint mindenkit meg kellene védeni az esetleg elfogult, kirekesztő és diszkrimináló algoritmusokkal szemben.
A védelemhez pontosan megfogalmazott irányelvek szükségesek.
Jogvédő szervezetek (Human Rights Watch, Amnesty International, Wikimedia Alapítvány, Access Now stb.) május 16-án egy torontói szimpóziumon a kormányokat és a technológiai vállalatokat emberi jogokat védő infokom technológiai irányelvek elfogadására szólították fel.
A Nyilatkozat a gépi tanulásról az Access Now oldalán olvasható.
Algoritmusaiknak az átláthatóság és az egyenlőség jegyében történő felülvizsgálatára, az újak e szempontokat figyelembe vevő fejlesztésére buzdítják a mérnököket, hogy az MI-k gépi tanulás során elsajátított ismereteikkel esetleg ne rasszista vagy embercsoportokra, marginalizált rétegekre káros más megkülönböztetéseket propagáljanak.
Az algoritmusok adatbázisokból tanulnak, az adatbázisokat pedig emberek dolgozzák ki. A tanuló adatsorokban lehetnek szándékos vagy szándél nélküli, de mindenképpen elfogult, részrehajló példák is. A rájuk alapuló – elvileg teljesen objektív – mesterséges intelligencia pedig káros következtetéseket vonhat le, hamis mintázatokat kereshet – és találhat, és következményként például egyes ügyeknél a rendőrségnek bőrszín stb. alapján sugallhatja, hogy kik után nyomozzon.
A Torontói Nyilatkozat azért egyedi mert általános irányelvek mellett valódi, tényleges megoldásokra is tesz javaslatot. Szerzői azt is megfogalmazták, hogy mesterségesintelligencia-algoritmusok miatt hátrányos megkülönböztetést átélt személyeket jogi orvoslat, e célra létrehozott fórumok illetnek meg.
