A Davisi Kaliforniai Egyetem (UCD) egyik végzős hallgatóját a plágiumellenőrző Turnitin szoftver csalással gyanúsította. Az illetőnek magát kellett megvédenie, és bizonyítania, hogy nem használt mesterségesintelligencia-chatbotot dolgozata megírásához. Egyébként is stresszes állapotban még stresszesebbé vált, végső osztályzata gyengébb is lett a vártnál.

Később megtudta: nem volt egyedül, mert más diáktársairól is ugyanazt állította a szoftver, és a felsőoktatási intézmény elnézést sem kért tőlük. Bebizonyosodott az igazsága, a nyomozás viszont nyilvántartásban maradt, azaz egy szoftverhiba veszélyeztetheti további pályafutását.

A történet rávilágít a Turnitin és hasonló programok hibáira. A valódi csalások számának növekedésével párhuzamosan egyre több diákot vádolnak meg igazságtalanul MI segítségével elkövetett plágiummal.

Egy huszonegy éves politológia-hallgató elmondta, hogy az alaptalan vádaskodás elveszi a motivációt, csomó idő megy el feleslegesen, miközben hasznosabb dolgokkal foglalkozhatna, például tanulna.

Az UCD egyik történelem-szakos hallgatóját, miután az MI-detektor GPT-Zero csalással gyanúsította, tanára megbuktatta. Az illető és apja sikeresen végigjárták a kacskaringós felülvizsgálati folyamatot, majd segítettek a hasonló cipőben járó végzős hallgatónak.

A probléma legfőbb oka, hogy ezek a programok nem teljesítenek elég jól abban, amire fejlesztették őket. Független teszteken rengeteg hibát vétenek, de még az OpenAI saját csalásdetektáló alkalmazásának is meggyűlt a baja az ember és az MI által generált szövegek megkülönböztetésében.

Később az UCD közölte, hogy a Turnitin bétaváltozatát használták, mert „korai hozzáférést” kaptak. A fejlesztőcég honlapján közölte, hogy a szoftver a teszteken 98 százalékos pontossággal teljesített, de sajnos előfordulnak hamis pozitívok is. Az OpenAI szintén a honlapján jelentette be, hogy az MI-detektor nem mindig pontos, majd hozzáfűzték: egy dokumentum mesterséges intelligenciával történő generálásának eldöntésekor, a hibás döntést elfogadó bírálóknak mást is kellene használniuk, nem lenne szabad, hogy ezeknek a szoftvereknek a véleménye legyen az egyetlen bizonyíték.