Az orvosi képek, röntgen-felvételek és CT-szkenek értelmezésére, diagnosztizálásra betanított algoritmusok felismerik a rajtuk lévő személyek bőrszínét – mutatták ki amerikai kutatók.

Három mélytanulás-alapú algoritmust gyakoroltattak kilenc, orvosi képeket tartalmazó adatsoron. A képeket például „ázsiai”, „fekete”, „fehér” címkével látták el. A teszteken a modellek általában jól felismerték a bőrszínt, teljesítményük azonban a szkentípus, az adatsorok jellege és más változók miatt nem volt egyenletes.

Előzetesen az ImageNeten gyakoroltak, majd a mellkasról, végtagokról és a gerincvelőről készült, általánosan elterjedt adatsorokon finomhangolták őket. A három típus közül a ResNet végezte a legpontosabb – 80-97 százalék közötti – munkát.

A szerzők megpróbálták kitalálni, hogy a modellek hogyan tanulták meg a bőrszíneket megkülönböztetni egymástól. A testsúly, a szövetsűrűség, az életkor és a nem minimális hatással volt rájuk ebben. Ráadásul a páciens bőrszínét még homályos felvételeken is felismerték.

A kutatás azért fontos, mert több mesterségesintelligencia-rendszertől megállapították, hogy a bőrszín alapján elfogult.

2019-ben kiderült, hogy egy, az egészségügyi szolgáltatók széles körében használt algoritmus fekete betegeknél feleannyiszor ajánlott különleges figyelmet, mint fehéreknél.

Több tanulmányban hangsúlyozták, hogy a bőrrák detektálására begyakoroltatott algoritmusok gyengébben teljesítenek sötétebb bőrszínű személyek esetében.

A legtöbb szemészeti adatsoron tanuló modellek a környéken alulreprezentált népcsoportoknál kevésbé hatékonyan ismernek fel szembetegségeket.

Elgondolkoztató, hogy a diagnosztikára használt algoritmusok felismerik a páciensek bőrszínét. Egyelőre nem tudjuk pontosan, hogyan, és ez a tény továbbnöveli az aggályokat, hogy a mesterséges intelligencia az egészségügyben is mélyíti a bőrszín szerinti társadalmi különbségeket. Ha rájövünk a mikéntre, a közeljövő rendszerei nem lesznek annyira elfogultak, mint egyik-másik mai „kollégájuk.”