Az utópikus álmok és a disztópikus horror közötti mesterségesintelligencia-narratívák gyakran elfeledtetik az árnyaltabb valóságot a technológia lehetőségeiről és gyengéiről. Egy tényleges probléma viszont egyre nyugtalanítóbb: részben az MI következményeként, olyan világban találhatjuk magunkat, ahol igaz és hamis megkülönböztethetetlenek egymástól.

A generatív és más MI-technológiák annyira demokratizálták a tartalomelőállítást, hogy átlagfelhasználók is bármikor készíthetnek valódinak látszó mélyhamisítványokat (deepfakes). Ha eltűnnek a különbségek, milyen változásokat hozhat a folyamat a hiteles tájékozódáson alapuló döntéshozásra támaszkodó demokratikus társadalmakban? – tette fel a kérdést legújabb írásában Bernard Marr jövőkutató.

A technológia ártalmatlan szórakozás, ha például koros hollywoodi színészeket fiatalítunk meg vele. Ha viszont választások előtt olyan általuk nyilvánosan soha nem mondott beszédet adunk politikusok szájába, a képanyag se nem ártatlan, se nem szórakoztatás, hanem a demokráciát veszélyeztető, kártékony manipuláció. Kamala Harrisről és Donald Trumpról egyaránt láthattunk ilyet, robothívásokon is hallhattunk már kamu politikusfigyelmeztetést. 

A jelenség természetesen nem korlátozódik az USA-ra. Csak az utóbbi tizenkét hónapban többek között Argentína, India, Tajvan, Banglades, Moldova belpolitikáját igyekeztek kamu infókkal, mozgóképanyagokkal befolyásolni.  

Az MI-vel végzett sok manipuláció sajnos az igazi információk valóságtartalmát is aláássa, elbizonytalanítja a felhasználót. Ha valamiről egyáltalán felmerülhet, hogy nem igaz, már a puszta felvetés aláássa a bizalmat.

Marr szerint nem korlátlan az MI technológiai kapacitása, és tüzetesebben, közelebbről átvizsgálva anyagokat, magunk is rájöhetünk trükkökre: nem életszerű megvilágítás, visszaverődések, mozgások, beszédminták, szokatlan modorosság stb.

Ha nem megy, speciális technológiák finomabb részlet-turpisságokat is kimutatnak: változatos forrásokból vagy a semmiből összegányolt anyagokat. A mélyhamisítványokat készítő és az azokat felderítő technológiák szimbiózisban fejlődnek.

A szabályozók is léphetnek, például a mélyhamisítványok határozott kriminalizálásával. A legjobb megoldás az oktatásból jön, ha a nyilvánosság kellően informált, ismeri a veszélyeket, kevésbé tévesztik meg kamuanyagok. És persze a józanész is, mert elég csak feltenni magunknak a kérdést: X vagy Y tényleg mondhatott ilyet?