Milyen szerepet kellene játszania a mesterséges intelligenciának a napi sokmillió közösségimédia-poszt, komment, üzenet moderálásában? – teszi fel a kérdést Andrew Ng, a gépi tanulás egyik legismertebb szakértője.

Annyi a poszt, üzenet, hogy mennyiségük automatizálás nélkül kezelhetetlen, ugyanakkor különbséget kell tenni a mérsékletes moderálás és az elfogadhatatlan cenzúra között.

Az MI egyrészt hasznos segédeszköz a moderálási politika bővítésében, másrészt viszont nem kezeli a lényeget: mi megengedhető, és mi nem? Ezt a kérdést mesterséges intelligenciának és embernek egyaránt nehéz megválaszolnia.

Például azért, mert maga a nyelv is többértelmű, ellentmondásokkal teli. Ha azt mondjuk, hogy „ne hagyjuk, hogy ezt is megússzák”, az ugyanúgy lehet erőszakra való felszólítás, mint az igazság vágya. Vagy „az oltásnak vannak veszélyes mellékhatásai” ugyanúgy lehet tudományos tény, mint félretájékoztatás.

A szavak jelentése, értelmezésük személyről személyre változik. Egyiket-másikat csak egy szűk csoport érti, például tudományos csapatok mások számára ismeretlen rövidítéseket használnak, de gyűlöletcsoportok és bűnözők is kódolt szövegekkel álcázzák tevékenységüket.

Ha emberek másként értelmezik ugyanazokat a szavakat, akkor hogyan gyakoroltassuk az MI-t, hogy észrevegye a különbségeket? Ha egy szöveg jelentése nem egyértelmű, akkor az értelmezésére sincs magától adódó gépi stratégia. Vagy mutassuk meg A-nak, B-nek viszont nem? Esetleg a „szerző” szándéka alapján moderáljuk ki?

Egyik megoldás sem kielégítő.

Mindezek után, az MI-rendszer felépítéséhez szükséges adatok kiválasztása is problémás, mert maga a válogató is többféleképpen értelmezheti azokat. Ahány közösség, annyiféle értelmezési opció, és ez így sajnos teljes mértékben követhetetlen.

De még ha a jelentés egyértelmű is, attól a helyes döntés meghozása változatlanul nehéz.

Szerencsére a közösségimédia-platformok aszerint válogathatnak opciók között, hogy az üzenet mennyire kirívó, milyen szintű bizalmatlanság után problémás.

Az MI úgy dönthet, hogy kisebb nyilvánosságnak mutatja meg, figyelmeztető címkét tesz melléje, vagy előbb ideiglenesen, utóbb végleg felfüggeszti a posztolót. A potenciális következmények megteremthetik a felhasználók – és a társadalom, hangsúlyozza Ng – elhallgattatása és védelme közötti egyensúlyt.

Mindezen hiányosságok ellenére, az MI jobbá teszi a közösségi médiát. Képzeljük el, mekkora káosz lenne, ha e-mailjeinket nem szűrnék a levélszemétre szakosodott mesterséges intelligenciák. Ehhez hasonlóan, a leginkább spam és toxikus közösségimédia-tartalmak kiszűrésében is kulcsszerepet játszanak.

Azonban a moderáció okozta kihívás nagysága egyelőre meghaladja az MI képességeit. A kihívás nagy, nyílt vitákkal juthatunk el a megoldásig, és addig, hogy nincs tökéletes megoldás.

A közösségi média előnyeinek maximalizálása a lényeg – összegez Ng.