Az Egyesült Államok több mint száz városában, megyéjében használják a ShotSpotter cég azonos nevű, mesterségesintelligencia-alapú rendszerét. A rendszer hang alapján észleli a lövöldézést, majd háromszögeléssel azonosítják a helyszínt. A cég elemzéseire eddig 190 bűnügyben próbáltak támaszkodni.
Nagy felzúdulást keltett, amikor a Vice arról számolt be, hogy egyes esetekben megváltoztatták az eredményeket. Vagy az derült ki, hogy nem is lövöldöztek, vagy az, hogy nem ott történt, és a cégen belül módosítottak a helyszínen.
A ShotSpotter tavaly például petárdázást észlelt egy chicagói gyilkosság helyszínétől közel két kilométerre. Elemzői később megállapították, hogy nem petárda, hanem lövöldözés volt, a helyszínt pedig közelebb vitték a bűnügyéhez. Miután a védelem a rendszer törvényszéki értékének kivizsgálását kérte a bírótól, az ügyész visszavonta a ShotSpotter által szolgáltatott bizonyítékot.
2018-ban, szintén Chicagóban, rendőrök lelőttek egy személyt, és a rendszer csak két lövést, az övékét vette fel. A hatóságok az adatok manuális újravizsgálatát kérték a cégtől. Az elemzők ezúttal további öt lövést hallottak, valószínűleg a lelőtt személy lehetett.
Más esetben, miután a rendőrség megkereste őket, az algoritmus szerinti helikopterzajt lövöldözésre változtatták. A bíró a ShotSpotter bizonyítékának megbízhatatlanságára hivatkozva, nem fogadta el a vádlott fegyverhasználatát alátámasztó bizonyítékot.
A ShotSpotter cég szerint a Vice beszámolója hamis és félrevezető. A rendszer által szolgáltatott adatok megváltoztatását ugyan nem tagadták, viszont szerintük az újságíró összekevert két különböző szolgáltatást: a lövések valósidejű detektálását és a cég által végzett későbbi elemzést. Törvényszéki elemzésekhez a valósidejű figyelmeztetés mellé további információk kellenek. Nem változtattak a rendszeren azért, hogy segítsenek a rendőrségnek – állítják.
A MacArthur Igazságügyi Központ, egy közérdekű nonprofit jogi csoport megállapította, hogy a ShotSpotter figyelmeztetését követő rendőri akciók túlnyomó többségében nem tudták bizonyítani a bűntényt. Miután kiderült, hogy a rendszer azonosításainak kb. a fele pontatlan, több város felmondta a céggel kötött szerződést.
Semmi rossz nincs abban, ha emberek elemzik és időnként módosítják MI-rendszerek outputjait. Az ember nem véletlenül része ezeknek a rendszereknek. Viszont nagyon fontos, hogy átlátható, ellenőrizhető módon működjenek, és az esetleges változtatásoknak technikai okai legyenek. Ha nincs így, erodálódik a beléjük, és az őket használó intézményekbe, például a rendőrségbe vetett bizalom.
