Amikor az Amazon Rekognition arcfelismerő rendszere támadások tüzébe került, a tanulmányok kihangsúlyozták: a szoftver pontatlan, valamint elfogult nőkkel és színes bőrű személyekkel szemben. A mamutcég válaszában az állt, hogy a kutatók félreértelmezték a Rekognition bűnüldöző szervek általi használatát.
A nagymennyiségű képpel dolgozó szoftvercsomag speciális arcjegyek azonosításától, hasonlóságok összevetéséig változatos funkciókat tölt be. A felhasználók például bűnügyi nyilvántartásban szereplő fotót társíthatnak biztonsági kamerák által rögzített képekhez. Sokan viszont – nem alaptalanul – félnek a bűnüldözés automatizálásának következményeitől.
Most viszont büntetésvégrehajtó ügyfél nyilatkozta, hogy a szoftvert pontosan úgy használja, ahogy a kutatók leírták. Oregon állam Washington megyéjének seriff hivatala, az Amazon által hivatalosan elismert egyetlen büntetésvégrehajtó kliens fekete-fehéren közölte, hogy a Rekognitiont nem az Amazon által nemrég ajánlott módon használják.
Az Amazon javaslata: a rendőrség szabjon meg egy szigorú minimumszintet, amelyet az egyezéseknek el kell érniük. Például egy személy arca legalább 99 százalékban egyezzen meg az adatbázisban lévő képpel. Optimális esetben a rendszer csak és kizárólag ilyenkor kapcsolhatja össze a kettőt.
Az oregoni rendőrök viszont megmondták, hogy nem használnak ilyen határértékeket. A korábbi dokumentumokban egyébként 96 százalékos küszöbérték szerepelt. A seriff hivatal elismerte: a Rekognition-nel kizárólag irányelveket dolgoznak ki, a többi bizonyítékot a nyomozók gyűjtik össze, és csak mindezek után emelnek vádat valaki ellen.
Az Amazon megismételte, hogy a rendszer telepítésében és üzembe helyezésében segédkeztek a seriff hivatalnak, és eddig semmiféle hivatalos panasz nem érkezett hozzájuk.
A hivatal bejelentése azt jelenti, hogy legalább egy, ráadásul az egyetlen hivatalosan elismert ügyfél nem követi az Amazon útmutatásait, ami kifejezetten nyugtalanító.
A közeli jövőben bűnüldöző szervek ugyanis valószínűleg egyre gyakrabban élnek majd az arcfelismerő technológiák adta lehetőségekkel, viszont, ha a rendszereket nem szakszerűen, a fejlesztőcég útmutatásai szerint használják, egyrészt könnyebben vádolhatnak meg ártatlanokat, másrészt előítéleteken alapuló döntések is születhetnek.
