Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

A mesterséges intelligencia a dezinformáció egyetlen ellenszere?

2022. augusztus 01. - ferenck

Szinte semmi nem veszélyezteti annyira a mai társadalmak stabilitását, mint a pandémia méretűvé vált dezinformáció. Az érzelmileg telített és drasztikus mennyiségű kamuhírek miatt személyek élete forog veszélyben. A hamis tartalmak észlelésünket manipulálják, valótlanságokkal mérgezik a társadalmi légkört, okozhatnak kaotikus állapotokat tőzsdéken, anarchiát a világban.

A dezinformáció-dömping motorjai a legfejlettebb csúcstechnológiák, például mesterségesintelligencia-alapú programok, alkalmazások. Az MI olyan szintet ért el tartalomgenerálásban, hogy nyílt forrású programokkal (FaceSwap, DeepFaceLab) lelkes amatőrök is létrehozhatnak virális kamukontentet.

Közben a felhasználó egyre kevésbé tudja, miben bízzon meg, miben nem. Egyetlen megmentőnk a jó célokra használt technológia, MI lehet, legalábbis úgy tűnik – viszont csak akkor, ha ember van mellette.

fakenews.jpg

Legkézenfekvőbb megoldás a tartalomelemzés. A szöveg lingvisztikai tanulmányozásával, szóminták és -elhelyezkedések, mondattani szerkezek és az olvashatóság vizsgálatával elvileg megkülönböztethető az igazi a kamutól, kimutathatók a gyűlöletbeszéd jelei. Sőt, az MI vissza is fejthet (reverse engineering) manipulált képeket, videókat, hogy rátaláljon deepfake-ekre, és figyelmeztető zászlócskákat tegyen melléjük.

Csakhogy a szemantikai jellegű szűrések a generatív ellenséges hálózatok (GAN) világában már kamuszövegek és kamu vizuális anyagok azonosításához sem elegendők. A poszt hangulata felmérhető, valóságtartalma kevésbé.

Ezen a ponton már szükséges az emberi beavatkozás.

fakenews0.jpg

Álhíreknek gyakran azonos a gyökere, az eredeti forrás. A Fandango projekt humán tényellenőrök által kamunak nyilvánított történeteket vizsgálva, közösségimédia-posztokban vagy honlapokon való hasonlóságokat keresett. Így nyílik lehetőség visszamenni a gyökerekig, és megakadályozni az álhír kontroll nélküli terjedését.

Egyes szolgáltatásoknál (Politifact, Snopes, FactCheck) húsvér szerkesztők végzik az adott anyag eredetiségét igazoló elsődleges kutatásokat. Miután kiderül róla, hogy kamu, MI-algoritmusok fürkészik a webet, hasonló tartalmak után kutatva. A Trust projekt hírügynökségek hitelességének felméréséhez olyan paraméterekkel dolgozik, mint források, hivatkozások, etikai normák és korrekciók.

A dezinformáció és a gyűlöletbeszéd burjánzásának (eredetükre vonatkozóan lásd 2. ábra) kezeléséhez azonban a tényellenőrök sem elegendők, ráadásul ők is emberek – „kamutényeket” könnyen azonosítanak, érzelmileg erősen töltött szövegek megítélésénél viszont már többet számít a szubjektum. Ilyenkor kell egy, a tartalom valódiságát, és nem az érzelmeket vizsgáló szűrőmódszer.

Az álhírek azonosításához segítséget nyújt, ha a közösségi médián történő terjedésüket összevetjük a valódi hírekével. Egy MIT (Massachusetts Institute of Technology) kutatás kimutatta: hatszor gyorsabban jutnak el 1500 Twitter-felhasználóhoz, és a valódiakat kevesebben propagálják. Az álhírek esetében az online botok is jelentős segítséget nyújtanak, általuk válnak virálissá.

Mindezek persze reakciók, holott a dezinformáció ellen hasznosabb lenne proaktív módon küzdeni, ami eredményes ember-MI együttműködés, és tömegek hatékony oktatása nélkül elképzelhetetlen. Az álhírek megítélése nem még több algoritmus kérdése, hanem hogy hogyan kezeljük az ismereteket. Informált felhasználók alkotta közösségek etikai monitoring tevékenységekhez járulhatnak hozzá, míg a hivatalos szervezetek együttműködés-alapú ismereteinek közösségi ötletbörzéje a nyers információ ellenőrzéséhez fontos.

A kritikus gondolkodók alkotta tájékozott társadalom felépítéséhez a dezinformáció elleni küzdelem humanizálása a csúcsprioritás. Ha nincsenek az összes érintett felet bevonó proaktív intézkedések, gyorsan elveszítjük a médiába és az intézményekbe vetett hitünket. Az MI-technológiák mindaddig a legfőbb szövetségeseink, amíg meg nem tanuljuk objektíven kiértékelni az online tartalmakat.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr7717894289
süti beállítások módosítása