A mesterséges intelligencia által létrehozott dezinformáció, főként képek, videók és hanganyagok száma folyamatosan nő, 2023 végén már a számítógéppel manipulált médiatartalmak több mint harminc százalékáért MI volt a felelős.

A realisztikus anyagokat generáló MI-modellek széleskörű elérhetőségével nagy az esély a politikai dezinformáció mainál is masszívabb, az idei „választási” évben különösen veszélyes térnyerésére. Jó hír, hogy propagandisták ugyan egyre sűrűbben nyúlnak az OpenAI modelljeihez, a vállalat viszont növekvő hatékonysággal lehetetleníti el őket.

Oroszországból, Kínából, Iránból és Izraelből induló, modelljeiket használó, azokkal létrehozó és/vagy átalakító, a nemzetközi politikai hangulatot befolyásolni hivatott anyagokat, műveleteket fedeztek fel. A tartalmak szerencsére nem jutottak el tömegekhez, a fiókokat letiltották.

Legtöbbjük a nyelvmodellekkel hamis közösségimédia-tartalmakat, kommenteket generált megkérdőjelezhető okok népszerűségét, tömeges támogatását keltő kamuoldalakhoz. Egyes csoportok kódokat fejtettek meg, és politikai képregény-szerű anyagokat is készítettek. Az azonosított öt csoportból négyet már ismertek a dezinformáció-kutatók.

Egy korábban ismeretlen orosz gárda oroszul és angolul hozott létre, majd a Telegramon terjesztett nagymennyiségű oroszbarát és ukránellenes kommentet, gyakori helyesírási hibákkal, vagy olyan bennfelejtett szövegekkel, mint „MI-modellként, én…”

A Doppelganger néven ismert orosz csoport angolul, franciául és németül generált orosz anyagokat, fordított orosz propagandát. Harmadik fél API-ját használva igyekeztek megkerülni az OpenAI Oroszországra vonatkozó korlátozásait.

A beszédes nevű Spamouflage (a camouflage „álcázás” és a spam szavak összevonása) művelet a kínai kormányt támogató kínai nyelvű kommentekhez, a kormány ellenzékét bíráló weboldalra szánt kódok fejtéséhez is OpenAI-technológiát használtak.

A helyi kormány szócsöveként elkönyvelt IUVM (International Union of Virtual Media) iráni szervezet angol és francia nyelvű cikkeket, főcímeket és más szövegeket készített saját honlapjára.

Az izraeli STOIC politikai és közösségimédia-kampányokat vezényelt le, cikkeket és kommenteket generált, kamu profilokhoz (lásd kép) talált ki fiktív életrajzokat, más MI-kkel generált képekkel.