Az NJSZT blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Rosszul használják a rendőrök az Amazon arcfelismerőjét

2019. február 05. - ferenck

Amikor az Amazon Rekognition arcfelismerő rendszere támadások tüzébe került, a tanulmányok kihangsúlyozták: a szoftver pontatlan, valamint elfogult nőkkel és színes bőrű személyekkel szemben. A mamutcég válaszában az állt, hogy a kutatók félreértelmezték a Rekognition bűnüldöző szervek általi használatát.

A nagymennyiségű képpel dolgozó szoftvercsomag speciális arcjegyek azonosításától, hasonlóságok összevetéséig változatos funkciókat tölt be. A felhasználók például bűnügyi nyilvántartásban szereplő fotót társíthatnak biztonsági kamerák által rögzített képekhez. Sokan viszont – nem alaptalanul – félnek a bűnüldözés automatizálásának következményeitől.

amazon_1.jpg

Most viszont büntetésvégrehajtó ügyfél nyilatkozta, hogy a szoftvert pontosan úgy használja, ahogy a kutatók leírták. Oregon állam Washington megyéjének seriff hivatala, az Amazon által hivatalosan elismert egyetlen büntetésvégrehajtó kliens fekete-fehéren közölte, hogy a Rekognitiont nem az Amazon által nemrég ajánlott módon használják.

Az Amazon javaslata: a rendőrség szabjon meg egy szigorú minimumszintet, amelyet az egyezéseknek el kell érniük. Például egy személy arca legalább 99 százalékban egyezzen meg az adatbázisban lévő képpel. Optimális esetben a rendszer csak és kizárólag ilyenkor kapcsolhatja össze a kettőt.

amazon0_1.jpg

Az oregoni rendőrök viszont megmondták, hogy nem használnak ilyen határértékeket. A korábbi dokumentumokban egyébként 96 százalékos küszöbérték szerepelt. A seriff hivatal elismerte: a Rekognition-nel kizárólag irányelveket dolgoznak ki, a többi bizonyítékot a nyomozók gyűjtik össze, és csak mindezek után emelnek vádat valaki ellen.

Az Amazon megismételte, hogy a rendszer telepítésében és üzembe helyezésében segédkeztek a seriff hivatalnak, és eddig semmiféle hivatalos panasz nem érkezett hozzájuk.

A hivatal bejelentése azt jelenti, hogy legalább egy, ráadásul az egyetlen hivatalosan elismert ügyfél nem követi az Amazon útmutatásait, ami kifejezetten nyugtalanító.

A közeli jövőben bűnüldöző szervek ugyanis valószínűleg egyre gyakrabban élnek majd az arcfelismerő technológiák adta lehetőségekkel, viszont, ha a rendszereket nem szakszerűen, a fejlesztőcég útmutatásai szerint használják, egyrészt könnyebben vádolhatnak meg ártatlanokat, másrészt előítéleteken alapuló döntések is születhetnek.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr3814604070

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Larry Silverstein 2019.02.06. 16:10:05

nana, elfogult a niggerek ellen

ho ho ho

steery 2019.02.06. 18:37:45

Ez egy általános tendencia, sőt kötelező érvényű alapigazság, hogy az emberiség szinte sosem használ semmit rendeltetésszerűen, hanem egyész máshogy, ötletszerűen ügyeskedik és barbárkodik mindennel.
Vannak az utcán szemeteskukák, de azért mellé dobáljuk a szemetet, meg máshol dobáljuk el, meg guberálunk benne.
Vannak külön téli gumik az autókhoz, de azért sokan télen is nyári gumikkal járnak, mert így olcsóbb és azt hiszik, megúszhatják baleset nélkül.
Be kéne tartani az antibiotikumok szedésének szabályait, de a kedves betegek szarnak az orvosi utasításokra és nem úgy szedik, nem akkor szedik, nem annyit szednek. Aztán kész a baj a multirezisztens mikrobák miatt.
A bonyolultabb készülékeknek, használati tárgyaknak van használati útmutatója, mégis a legtöbb ember ezeket nem olvassa el, nem tanulmányozza, illetve nem tartja be az üzemeltetési előírásokat, aztán csodálkozik, hogy hamar tönkremegy, baleset van belőle, stb.
Mindenki tudja, hogy el kell olvasni a banki szerződést, mielőtt belemész és aláírod, meg nem ártana átgondolni az egészet, az emberek mégis felelőtlenül vesznek fel hitelt, aztán eladósodnak, majd sivalkodnak és tömegesen tüntetnek az utcákon, hogy a bank átverte őket és az állam vigye el a balhét az ő hülyeségük miatt.
Mindenki tudja, hogy veszélyes dolog háziállatként tartani pitbullt, mérgeskígyót, krokodilt, skorpiót, meg egyéb szörnyeket, mégis sokan ezzel szórakoznak, aztán mikor baj van, tele van velük a kórház meg a temető.
Nyilvánvaló, hogy a számítógépek, az internet, a mesterséges intelligenciák, az önvezető autók és a különféle robotok használata terén is ugyanez történik - fog történni. És gyakorlatilag nem lehet olyan rendszert tervezni, építeni, üzemeltetni, ami képes lenne ellenállni az emberi felelőtlenségnek és nyilvánvaló hülyeségnek. Ami egészen addig nem baj, míg a Darwin-díjasok csak magukat csinálják ki. De amikor másokat is kicsinálnak, pláne hivatalból, na akkor már tényleg élesben isszuk meg a levét ennek az örök emberi tulajdonságnak.

midnightcoder2 2019.02.07. 07:20:48

@steery: Az antibiotikumokkal az a legnagyobb baj, hogy felfedezték õket vagy 200 éve, a dokik pedig azóta sem álltak elõ semmi mással. Valaki szólhatna már nekik, hogy 2019 van. 50 év alatt a szobányi, egy Commodore 64 számítási teljesítményével rendelkezõ primitív számítógépektõl eljutottunk az okostelefonokig, miközben a dokik kb. ugyanott tartanak mint 100 éve, annak ellenére hogy az iparágba ömlik a pénz. A másik dolog, hogy az antibiotikumokat a dokik is felírják sima megfázásra is, plusz a mezõgazdaság is használja õket és nem csak gyógyításra. A banki papírokat pedig eleve úgy tervezik, hogy az ügyfél ne tudja végigolvasni. Egy szerzõdéskötés elõtt senki nem fog átolvasni 15 oldal apróbetûs szöveget, ráadásul az átlagpolgár meg sem érti.

midnightcoder2 2019.02.07. 07:23:17

@Larry Silverstein: Mit csinál ilyenkor az MI ? Azt amit az ember. Általánosít. Ez az intelligencia mûködésének egyik alapvetõ mechanizmusa. E nélkül simán elcsapna az utcán az autó, mert nem feltételeznéd, hogy azért mert az egyik kamion erõsebb mint te vagy, a másik is az.

szepipiktor 2019.02.07. 08:37:05

Nincs itt semmi rendkívüli, az ember is ezt teszi, korábban is hasonlóan "működött" a rendőrségi nyilvántartás. Csupán az automatizálást növelik.
De miért kell a gép eredményeit tényként elfogadni?
Miért nincs ellenőrzés?
Mert a rendőr is ember, zsideri az előítélet nála, ráadásul ők a saját tapasztalataik miatt torz előítélettel gondolkodnak.
Ha nálunk ilyen lesz, vajon egy vidéki fatolvaj keresésekor a feldobott találatok közül nem a cigányokat tartja majd a rendőr alapból gyanusított nak?
Nem a cigányokhzo menenk ki alapból, hiszen nem zörög a haraszt...?
Ezért van az is, hogy a MI-t az átlag isteníti, hiszen fikciókat fogad el alapnak, ténynek.
Ugye az eredeti hírben is benne van: rosszul használják!
.
Az aktivisták tévedése is innen származik, nem a köztéri kamerák a problémák, az kell, a mi biztonságunkért, nem azokat kell támadmi.
Hanem kikövetelni a hiteles, pontos használatot. Nem csak politikai célból lehet valamit hibásan használni, hanem ez az emberi alap, ráadásul a rendőrök nem akadémikusok, így fokozott a téves diagnózis...

geegee · http://eszakonelunk.blog.hu 2019.02.07. 12:18:57

@steery: Száz pont a tízből, ehhez nem nagyon lehet mást hozzáfűzni...