Egyre több járműbe telepítenek önvezető képességeket, nagyvárosokban bővülnek a robottaxi-szolgáltatások. A változások következtében szinte naponta nő a gépilátás-algoritmusoktól függő emberi életek száma. Autógyártók viszont nem árulják el, milyen gyalogos-detektáló rendszereket használnak, és az önvezető autók által okozott balesetek számát sem közlik.

A rendszerek általában meglévő nyílt forrású modelleken alapulnak, és ezekkel a modellekkel kapcsolatban is biztosak lehetünk: ugyanazok a problémák merülnek fel velük kapcsolatban is, mint az összes többi más esetében.

Kínai és brit kutatók széleskörben használt nyolc objektumdetektálót értékeltek ki a bőrszín, az életkor és a nem szerinti elfogultság szempontjából. Ha gyalogosokról van szó, ezek az elfogultságok ugyanis életről és halálról is dönthetnek. Megítélésükhöz a detektálásukat befolyásoló, karakterisztika szerint címkézett adatsorok kellenek gyalogosokról. Az emberek közötti fontos különbségek (bőrszín, kor, nem) különösen a fényviszonyok függvényében, komolyan befolyásolhatják a gépilátás-rendszerek teljesítményét.

A kutatók utcai jeleneteket ábrázoló négy adatsor nyolcezer fényképét gyűjtötték össze. Az összes fotót bőrszín (világos/sötét), életkor (gyerek/felnőtt) és nem (férfi/nő) szerinti annotált címkékkel látták el, majd négy általános rendeltetésű objektum-detektort és négy gyalogos-specifikus detektort teszteltek rajtuk.

Teljesítményüket az általuk észlelt bőrszín, kor és nem szerint, különféle világosság, kontraszt és időjárási feltételek mellett értékelték ki. Szignifikáns méltányossági problémák merültek fel.

Két modell sokkal rosszabbul ismert fel sötétebb bőrű személyeket, alacsony fényerő és kontraszt mellett pedig az összesnek problémát okozott a detektálásuk. Mindegyik rosszabbul teljesített gyerekekkel, mint felnőttekkel. A nemi különbségeket általában jól észlelték, éjszakai jelenetekben viszont nehezebben azonosították a nőket.

Az eredmények a korábbi kutatásokat igazolták: bizonyos személyeket nehezebben vesznek észre a gépilátás-modellek, mint másokat. Már egy 2019-es MIT (Massachusetts Institute of Technology) anyag például kimutatta, hogy nők és sötétebb bőrűek esetében rosszabbul működik az arcfelismerés.