Több tényező hátráltatja az önvezető járművek széleskörű elterjedését: időnként baleseteket, máskor torlódásokat okoznak, vagy beleragadnak a cementbe stb. A technológiai hibák mögött, legalábbis a londoni King's College friss, kollégák által még nem lektorált tanulmánya alapján más problémák is vannak: a rendszerek elfogultak.

A kutatók nyolc különböző, mesterséges intelligenciával működtetett – széles körben használt, valódi adatokat tartalmazó adatsorokon gyakoroltatott – gyalogosdetektáló-rendszert vizsgáltak. Munkájukból kiderül, hogy a rendszerek színesbőrűeket sokkal rosszabbul észlelnek, mint világosabb bőrűeket. A rendszer közel nyolc százalékkal gyakrabban képtelen azonosítani őket.

Az adatok annotálásával kezdtek, 8111 képet 16070 gender-, 20115 életkor- és 3513 bőrárnyalat-címkével láttak el.

Innentől lényegében „statisztikai játékot” folytattak, és végül 7,52 százalékos detektálás-pontossági eltérést találtak világosabb és sötétebb bőrű személyek között. Alacsony kontrasztú, alacsony fényerejű, tehát éjszakai és rosszabb minőségű képek esetében szignifikáns mértékben nőtt a különbség.

A bőrszín-alapú nagy különbségek mellett a detektorok egy másik csoporttal, gyerekekkel szemben szintén „előítéletesnek” bizonyultak. Az eredményekből kiderült, hogy húsz százalékkal kevesebbszer azonosították őket, mint a felnőtteket.

Az ismert önvezető autó gyártókra azonban a tanulmány alapján senki nem tehet szemrehányást, mert a vizsgált rendszerek egyike sem tartozik hozzájuk, nem a tulajdonuk. Ők saját rendszereket használnak, saját információkkal, és a szabályozók, az érintett hatóságok is egyre több – szigorú feltételekhez kötött – engedélyt adnak ki.

A Tesla (vagy bármelyik másik) adatai belső használatra szánt, bizalmas információk, nem is tudjuk, milyen modelleket használnak, viszont valószínűsíthető, hogy általában meglévő nyílt forrású modelleken alapulnak. A kutatók biztosak benne, hogy ezekkel a modellekkel szemben is hasonló problémák merülhetnek fel.

Arról se feledkezzünk meg, hogy a kutatásról a köztudottan hisztérikusan mesterségesintelligencia-ellenes Futurism techportál számolt be elsőként.