Csak egy fotó és a sok rendelkezésre álló MI-app valamelyike elég ahhoz, hogy rosszindulatú személyek– az illető beleegyezése nélkül – bárkiről meztelen képeket csináljanak, majd terjesszenek az online térben. 2022 óta 15 millió ilyen anyagot töltöttek le a világhálóról, a meztelen mélyhamisítványokat (deepfakes) gyakran használják zaklatásra, zsarolásra.
A ritka ellenintézkedések (büntetőjogi eljárások, egyes alkalmazások letiltása) nem állítják meg a tendenciát. Egy friss oxfordi felmérés szerint a tizenhárom és tizenkilenc év közötti lányok negyede van kitéve a veszélynek. Férfiak is lehetnek célpontok, de kutatások alapján az áldozatok kilencvenkilenc százaléka nő.
A média tudósításaiból kiderül: a jelenség egyre nagyobb hatással van nők életére. Ezek a képek mindenhol megalázók lehetnek, karriereket befolyásolhatnak, egyes országokban viszont az áldozat számára büntetőjogi következményekkel, sőt súlyos erőszakkal is járhatnak. A jelenség másik sokkoló oldala, hogy szintén szaporodnak a valódi vagy „generált” gyerekek fényképeiből készült hasonló tartalmak.
A fake anyagok értékesítéséből bűnözők dollármilliós bevételekre tesznek szert. Több országban szigorúbb szabályozással próbálkoznak, de eddig nem mentek sokra. Az USA Take It Down törvénye online szolgáltatókat, köztük a közösségi médiát teszi felelőssé a nem-konszenzuális mélyhamisítványokért, egyes szövetségi államokban, például Kaliforniában és Minnesotában pedig már tilos szexuálisan explicit deepfake-ek terjesztése.
Az Egyesült Királyságban magukat a módosításokat végző appokat is betiltanák, viszont egyáltalán nem egyértelmű, miként definiálják ezeket, és hogyan különböztessék meg őket a törvényesen, kreatív célokra használtaktól. Kínában vízjelezni kell az MI-tartalmakat, amellyel eredetük elvileg könnyebben visszakereshető.
Problémát jelent az is, hogy a hatóságok „ez nem valódi” felkiáltással sokszor nem veszik annyira komolyan a mélyhamisítványokat, mint kellene. Erre az attitűdre reagálva, Ausztráliában az iskolákban az ilyen eseteket kiskorúak elleni bűntényként kell jelenteni. A Meta júliusban jelentette be, hogy bírósági eljárást indít a Facebook megszorításait megkerülő CrushAI app fejlesztői ellen.
A „lemeztelenítő” MI-alkalmazások figyelmeztetésként is felfoghatók: a mesterséges intelligencia és hasonló transzformatív technológiák a társadalmat nem kívánatos irányba is megváltoztathatják. Ám azt se felejtsük el, hogy „az igazság utáni világ” és „a személyes szféra vége” csak lehetséges, és nem biztos jövők.