Az amerikai egészségügyben dolgozó algoritmusok jelentős része nem eléggé súlyozott, a demográfiai viszonyoknak nem megfelelő, „részrehajló” adatokkal dolgozik. A gépi tanulás egyik általános problémájára néhány éve keresik a megoldást, és úgy tűnik, hogy egyes MI-kkel sikerül megtalálniuk, de legalábbis közelebb kerülnek hozzá.

Egy, a páciensek fájdalomszintjét meghatározni hivatott új rendszer eredményei jobban megfelelnek az afroamerikai betegek által átérzett kínok szintjének, mint az orvosok becslései. Korábban csont és ízületgyulladásoknál, vagy porcleválásoknál az afroamerikai betegek fájdalomszintjét ugyanis a valóságnál alacsonyabbra mérték, mint az ugyanazokkal a panaszokkal orvoshoz forduló fehérekét.

A különbség okának megértésére, a Microsoft, a Stanford Egyetem és más intézmények a térd röntgensugaras vizsgálati eredményein tanítottak be egy modellt. A modellnek a fájdalomszintet kell előrejeleznie.

A ResNet-18 afroamerikai pácienseknél jobb eredményt ért el, mint a radiológusok által eddig általánosan használt osztályozórendszer. ImageNet-es képeken trenírozták, majd finomhangolták. 2877 páciens 25049 röntgenképét és a képekhez kapcsolódó beteg-beszámolókat használták fel.

A röntgenképeket a modellel értékelték ki, és ezzel párhuzamosan a radiológusokat megkérték az ízületi fájdalomszint vizuális meghatározásához alkalmazott Kellgren-Lawrence osztályozórendszer használatára. A rendszer egy viszonylag kevés személlyel végzett, 1957-es felmérésen alapul. A felmérés alanyai között alig volt afroamerikai, és nyilván ez a tény is közrejátszik fájdalomszintjük alacsonyra mérésében.

Az új modell 43 százalékkal pontosabban dolgozott, az afroamerikai és a fehér páciensek között alig volt eltérés, viszont a kutatók eddig még nem jöttek rá, hogy miért, és milyen paraméterek, tulajdonságok befolyásolták leginkább az előrejelzéseit.

Többmillió amerikai panaszkodik térdízületi fájdalmakra, afroamerikai betegek viszont kisebb valószínűséggel jutnak el a testrészt helyettesítő műtétekig. A Kellgren-Lawrence osztályozó és a hasonló rendszerek az egyik ok, mert sokszor túlzott szerepet játszanak az orvosi döntésekben, hogy a specialista kit javasol sebészi beavatkozásra, és kit nem.

Mélytanulással (deep learning) csökkenthetők a különbségek, a technológiát az egészségügy más területein is sikeresen alkalmazhatják. Már ahol nem tették meg eddig.