Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Mesterséges intelligencia mutatja ki, hogy értelmezünk félre fényképeket

2022. október 07. - ferenck

Számítógépes algoritmusok segíthetik az embert vizuális információk pontosabb megítélésében – derül ki a Cornell Egyetem és néhány partnerintézmény közös kutatásából.

Több mint 16 millió emberi véleményt értékeltek ki abban a témában, hogy mely környékek szavazhattak Bidenre, illetve Trumpra a 2020-as elnökválasztáson. A döntést minden esetben egyetlen Google Street View fénykép alapján kellett meghozniuk. Kiderült, hogy az emberek, ha csoportban döntöttek, jól teljesítettek, viszont egy algoritmus náluk is jobb eredményt ért el.

A tanulmány osztályozta az általános emberi tévedéseket is, majd azonosította a félrevezető tárgyakat. Például, ha a képen kisteherautó és amerikai zászló volt, általában trumpistának gondolták a környéket.

truck.jpg

A kutatók próbálták megérteni, hogy az algoritmus mikor eredményesebb, használható-e ez az emberi döntéshozás támogatásában, vagy egy ember-gép rendszer a legeredményesebb.

Mostanában sokan foglalkoznak algoritmusok részrehajlásával, amikor hibáikkal szisztematikusan nőket, színesbőrűeket és marginalizált kisebbségeket hoznak hátrányos helyzetbe. Sokféleképpen tévedhetnek, viszont az ember is lehet előítéletes és hajlamos hibázni. Az algoritmusok a mi tévedéseinkről szolgáltathatnak hasznos diagnózist.

A kutatók a New York Times anonimizált kvízét használták, amelyben a résztvevőknek tízezer helyszínről mutattak egy-egy képet, és meg kellett állapítaniuk, 2020-ban kire szavaztak az adott helyszínen. Egy gépitanulás-algoritmussal megtanították, hogy ugyanazok a képek alapján válaszolja meg ő is ugyanazt a kérdést.

Az algoritmus 74 százalékos teljesítményt ért el. Ha az emberek csapatban szavaztak, akkor 71-et, az egyéni szavazatok átlaga viszont csak 63 százalék volt.

A kutatók három csoportba (torzítás, szórás, zaj) sorolták az emberi hibákat. Ezeket a kategóriákat gépitanulás-algoritmusok hibáinak értékelésekor is sokszor használják. A torzítás a „tömeg bölcsességének” hibái, például a kisteherautó Trumphoz társítása. A szórás a téves egyéni ítéletekre vonatkozik: a tömeg általában jól lát valamit, egyes személyek viszont tévesen. A zaj arra vonatkozik, ha a kép nem szolgáltat hasznos infót, például egy Bidennel szimpatizáló környéken valamilyen Trumpra utaló jel látható.

Az emberi hibák csoportosítása segíthet döntéshozásunk javításában, és az emberi és a gépi döntéshozás összekombinálásával például képeket is pontosabban értelmezhetünk. Az ember valamilyen inputtal járul hozzá az egyébként automatizált folyamathoz.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr3317946518
süti beállítások módosítása