A mai infokommunikációs technológiákkal egyre könnyebb és olcsóbb hamis információt létrehozni és terjeszteni. Az interneten rengeteg kamuhírbe belefutunk, viszont a mesterségesintelligencia-technikák mind inkább segítenek a hamis tartalmak kiszűrésében.

Mivel a humán elemzők egyre nehezebben kezelik a folyamatosan ránk zúduló információ- és dezinformációáradatot, MI nélkül ma már kezelhetetlen a probléma.

A dezinformációt észlelő technikák nemcsak a nemzetbiztonságnak, hanem például a katasztrófavédelemnek, a közegészségügynek és általában a demokratikus folyamatoknak is komoly segítséget nyújtanak.

Az amerikai hadsereg (többek között) természetesnyelv-feldolgozó (natural language processing, NLP) technikákkal is igyekszik küzdeni az egyre súlyosabb méreteket öltő dezinformáció ellen.

A San Franciscói Primer startup a híreket, közösségi médiát, kutatásokat és beszámolókat propagandaszövegek kiszűrése céljából átnéző, a tervek szerint 2021 júniusában munkába álló rendszert fejleszt. A cég NLP modellekre, például több dokumentumot összegző megoldásokra specializálódott.

A dezinformáció-detektáló módosított XLNet nyelvi modellel csoportosítja cikkekben személyek, helyek, szervezetek stb. nevét. A modellt több nyelven megadott entitásokra jelölő neveket tartalmazó adatsoron gyakoroltatták, majd védelmi, pénzügyi, hírekből és tudományos dokumentumokból álló korpuszon finomhangolták.

Nem meglepő módon angolul, oroszul és kínaiul olvas.

A rendszer ismeretgráfon csoportosított neveket indexel, hogy aztán más, speciálisabb modellek elemezzék azokat. Ezt követően jönnek a humán elemzők, akik a modellek outputjában próbálnak mintázatokat találni.

„Nem igazságdetektoron dolgozunk. Olyan szenzortömböt építünk, amellyel az elemzőknek a mintákat nagyobb léptékben kell látniuk, mint amit az ember fel tud fogni” – jelentette ki John Bohannon, a Primer tudományos igazgatója.

Egy bemutatón a rendszer 3 ezernél több hírt elemzett az örmény-azeri konfliktusról. Megállapította, hogy orosz médiumok az azeriakat támogató Törökország, Moszkva egyik geopolitika riválisának a felelősségéről akarták meggyőzni a nyilvánosságot. A rendszer csak orosz oldalaknál tapasztalta, hogy ennyire érintettek az ellentétben.