A nem mindig rossz szándékból készülő kamuképek (deepfakes) annyira mainstreammé váltak, hogy ma már egy celebnek be sem kell tennie a lábát a stúdióba, és mégis szerepel reklámokban. A lehetőséggel azonban rengetegen visszaélnek.

Az MIT (Massachusetts Institute of Technology) Számítástudományi és Mesterséges Intelligencia Laborjában új módszert fejlesztettek ki a generatív ellenséges hálózatok (Generative Adversarial Networks, GAN) alkotta képek eredetiségének bizonyítására vagy megcáfolására.

Egy GAN két „ellenséges” ideghálója közösen próbál élethű képeket, hangokat stb. létrehozni. A generátor, megtanulja utánozni a képen szereplő arcot, a megkülönböztető, összehasonlítja az újat az eredetivel, majd visszajelez, a generátor korrigál, és az iterációk a hitelesnek tűnő végeredményig folytatódnak. Minél jobb egy GAN, annál hasznosabb, annál könnyebb jó vagy rossz célokra alkalmazni.    

Az MIT kutatók technikája árulkodó képrészleteket derít fel.

A GAN-ok képeinek főbb jellemzői jelentős mértékben variálódnak, textúráikban viszont jellemzően mindig találhatók rendellenességek. Egyes ideghálók különösen érzékenyek a textúrákra, ezért dogoznak hatékonyan, és ismerik fel a turpisságokat. A speciálisan erre betanítottak remek munkára képesek.

A kutatók osztályozó ideghálója képgenerátorok anyagait figyeli, elemzi. Nagy adatsorokkal dolgozik, architektúrákat alakítottak át, majd sokat gyakoroltatták. Méretesebb képek finomabb részleteit kellett vizsgálnia.

A képekről hőtérképet generált, kékkel jelölve a trükközött részeket, pirossal az eredetieket. E térképek alapján a kutatóknak sikerült rájönniük, hol hibázott egy-egy GAN: egyesek az arc bizonyos részeinél, mások különféle háttérelemeknél; mindegyiknek megvan a maga „specialitása.”

Az osztályozók változatos, összességében eredményes munkát végeztek. Az egyik GAN trükkjeit 100 százalékosan, de a többit is 90 százalék feletti pontossággal azonosították. Más modellek mindig gyengébb eredményeket produkáltak.

Amikor viszont az osztályozók átvágására gyakoroltattak be egy GAN-t, az osztályozók átlagosan 65 százalék körül, azaz igen haloványan teljesítettek. Kiderült az is, hogy a generátor munkáit felismerő megkülönböztető hálót könnyebb építeni, mint egy jó generátort. A GAN-fejlesztők viszont inkább gyengébb megkülönböztetőket dolgoznak ki, mert akkor a generátor könnyebben „átveri” őket.