A tudományos kutatások visszaélése a gépi tanulással komoly gondokat okoz, például reprodukálhatatlan, tehát hitelesíthetetlen eredmények születnek – mutatta ki a Princeton Egyetemen nemrég tartott workshop. A résztvevők kiemelték a rosszul tervezett modellek hatását a medicinában, biztonságban, szoftverfejlesztésben és más területeken is.

A reprodukálhatóságot megvalósíthatatlanná tevő gyakori buktatókra is rávilágítottak.

Egyikük az adatszivárgás, beleértve a tesztsor és a tesztsoron történő gyakorlás hiányát is. Ezeknek kellene biztosítaniuk, hogy milyen funkciókat használjunk később, a döntések pedig a teszteken mutatott teljesítményen alapulnak.

A nem elegendő adatokból történő téves következtetések levonása szintén a buktatók közé tartozik. Akárcsak az is, ha olyan területekre alkalmazzuk a gépi tanulást, amelyeken nem ez a legadekvátabb technológia, legcélravezetőbb módszer. Utóbbi jelenség az egy adott pillanatban divatos összes technikai megoldásra érvényes.

A workshop után a Princeton Egyetem kutatói metaelemzést végeztek, és 329 olyan tudományos publikációt azonosítottak, amelyekben a rosszul implementált gépi tanulás megkérdőjelezhető eredményhez vezetett.

Gyakorlott gépitanulás-szakértők tisztában vannak a workshopon kimutatott buktatókkal, más területeken dolgozó kutatók viszont nem biztos. Amikor a gépi tanulást kissé naivan alkalmazzák, hiteltelen eredményeket érhetnek el vele. Ezekkel az eredményekkel részben magát a gépi tanulást is hiteltelenítik. Sőt, rosszabb dolog is történik: lealacsonyítják a tudományt, és a szkeptikusabb szellemű vagy a mesterséges intelligenciát eleve elutasító tudósok így még kevésbé bíznak meg a tanulóalgoritmusok hatékonyságában.

E jelenségek miatt van szükség az olyan workshopokra, közös gondolkozásra, mint amilyet a Princeton Egyetemen tartottak. Mindaddig nagyon hasznosak lehetnek, amíg a gépi tanulás sokkal szélesebb körben el nem terjed, és a mainál nagyságrendekkel több tudós alkalmazza.

A járható utak egyike lehet, ha minél több az interdiszciplináris projekt, soraikban mesterségesintelligencia-szakértőkkel és más területek kutatóival is. Az MI-szakértők felhívhatják az utóbbiak figyelmét a gépi tanulás korlátaira.