Kormányok, vállalatok egymással összekapcsolódó, személyes információkat tartalmazó hatalmas adatsorokat képesek elemezni, például egészségbiztosítók személyre szabott árakat dolgozhatnak ki, bűnüldöző szervek gyanúsítottakat azonosíthatnak, bevásárlóközpontok célzott hirdetéseket készíthetnek így.
Személyes adatok egyénre kidolgozott szolgáltatásokhoz történő gyűjtése ártalmatlannak tűnik, csakhogy ezeket az adatsorokat általában „fekete doboz” algoritmusok elemzik, előrejelzéseik logikája és magyarázata sokszor egyáltalán nem evidens. „Súlyosbító” körülmény, hogy nem tudjuk, pontos vagy pontatlan, legálisan vagy illegálisan gyűjtött adatokon alapszik a döntés. Az adatok ráadásul megalapozatlan előfeltevéseket is sugallhatnak, elfogultak lehetnek.
Mi történik, ha a forgalmat rögzítő kamera pontatlanul állapít meg gyorshajtást, és miatta vonják be a jogosítványunkat? Hova vezet, ha egy megfigyelőrendszer drogüzletnek vél egy kézfogást? Milyen következményekkel jár, ha egy algoritmus összekever egy körözött bűnözővel, vagy ha tévesen megállapítja, hogy nem vagyunk jogosultak különféle juttatásokra?
Melbourne-i kutatók e szempontokat figyelembe véve fejlesztették Biometrikus Tükör nevű mesterséges intelligenciájukat. Az MI arcunkat elemzi, majd 14 karakterjegyet jelenít meg róla, köztük a kort, bőrszínt és a vonzóság „érzékelt” szintjét.
A rendszer tanítását önkéntesek bevonásával kezdték. Többezer azonos karakterjegyeket tartalmazó fényképet kellett elbírálniuk, és összeállt az MI által új arcok elemzéséhez használt referenciaanyag. Mivel az információk szubjektívek, a tükör outputjai is azok. Ha a megkérdezett szerint a szakállas férfiak kevésbé megbízhatóak, véleményük jelentősen befolyásolta az MI döntését.
A rendszer használatához csak pár másodpercig kell szemben ülni vele. Hamar leszkenneli az arcot, majd a képernyőn megjeleníti az érzékelt karakterjegyeket. Ezt követően megkérdezi, hogy mit gondolnánk, ha az infókat megosztaná másokkal.
„Munkánkkal a mesterséges intelligencia határait feszegető kérdéseket akarunk kiprovokálni. Bemutatjuk vele, hogy mennyire könnyű nem etikus, de legalábbis megkérdőjelezhető módon diszkrimináló, társadalmi következményekkel járó MI-t implementálni. A személyes szféráról és a tömeges megfigyelésről szóló vitákra bátorítva, reménykedünk, hogy hozzájárulunk az MI-rendszerek mögötti etika megértéséhez” – magyarázza a fejlesztést vezető Niels Wouters.
A Biometrikus Tükörhöz hasonló rendszerek az MI széleskörű elterjedésével, gépekre bízott egyre fontosabb döntésekkel válnak felelős társadalmi szereplővé. A közvéleménynek ismernie kell az elfogult MI-k potenciális következményeit.
Erre figyelmeztet a Melbourne-i Egyetem projektje.
