Az egészségügyben egy jó műszer életet menthet, egy rossz viszont fatális is lehet. Az orvosoknak meg kell bízniuk bennük, ahhoz pedig tesztelt, bizonyított eszközök kellenek.

Az Egyesült Államok Élelmiszer- és Gyógyszerügyi Hivatala, az engedélyeket kiadó FDA által az MI-vel működő orvosi termékekre jelenleg alkalmazott módszerekkel nehéz eldönteni, hogy mi működik, mi nem, így pedig lassabban terjedhetnek el életmentő technológiák.

Orvosok és más egészségügyi szakemberek szerint az ügynökség olyan MI-termékeket is jóváhagyott, amelyről nem volt nyilatkozat, és nem is látták át őket. Összesen kb. hétszázat engedélyeztek.

A 2012 és 2020 között jóváhagyottakból csak 73-hoz csatoltak kimerítő dokumentációt tesztekről, és negyvennél is kevesebbnél írták le az MI esetében kulcsfontosságú gyakoroltatási módszert, gyakorlóadatokat.

2022-ben az FDA iránymutatást tett közzé, hogy melyik MI-rendszerhez kell jóváhagyás orvosi műszerként történő használathoz. A folyamatot az anyag azonban alig változtatta meg, így egyre többen követelik a változtatásokat.   

Az FDA egy 510(k) nevű programon keresztül hagyja jóvá az orvosi eszközöket és a diagnosztikai rendszereket. Szinte minden MI-s termék zöld fényt kap. Az 1976-ban bevezetett, azóta többször áramvonalasított programot a pacemakerekre és a röntgengépekre találták ki, a modern gépi tanuláshoz és adattudományhoz viszont nem frissítették.

A gyógyszerengedélyezéssel ellentétben ezekhez a műszerekhez csak akkor van szükség klinikai tesztekre, ha veszélyt jelenthetnek az emberi életre. A gyártónak bizonyítaniuk kell, hogy termékük ugyanolyan hatékony és biztonságos, mint a korábban jóváhagyottak. Több orvos szerint ez a gyakorlat rossz, mert például a nagy nyelvmodellek (LLM), mint a Google Med-PaLM 2-je közvetlenül egyáltalán nem hasonlítható össze korábbi egészségügyi referenciatermékekkel.

Az FDA nem várja el, hogy a gyártók fontos információkat csatoljanak az MI-ről, például, hogy hogyan hozták létre, hány személyen tesztelték stb. Így az egészségügyi szakemberek sem tudják, hogy adott esetben egy termék megfelelő, vagy sem.

Ha tényleg egyensúlyra törekednek, meg kell találni a helyes arányokat, amelyhez át kell írni a vonatkozó törvényeket, mert a jelenlegi keretek majdnem ötvenévesek.