A közösségi ötletbörzén (crowdsourcing) alapuló online streaming-szolgáltatás, a Twitch gépi tanulással igyekszik a trollokat azonosítani, és természetesen kitiltani őket a platformról.

A főként a videojátékok szerelmesei által használt Twitch bemutatta a Gyanús Felhasználó Detektáló rendszerét, amely figyelmeztetést ad le, ha egy letiltott user új néven próbál bejelentkezni.

A felhasználók csatornán keresztül szolgáltatják a tartalmat, amelyen nézhetjük, hallgathatjuk az anyagokat, és chatelhetünk is. Ha valaki megsért, letilthatjuk a csatornáinkról. Viszont az agresszor ettől még új néven nyithat új fiókot, és folytathatja a molesztálást.

Az új rendszer agresszióra utaló jeleket keresve, végigfürkészi a platformot. Ha talál ilyet (vagy ilyeneket), összehasonlítja a támadóra vonatkozó különféle infókat – hogyan viselkedik chat közben, a támadó fiókjának részleteit – és a letiltott fiókok adatait.

A támadókat lehetséges vagy valószínű letiltás-kijátszókként kategorizálja. Utóbbiakat a streamelők és a moderátorok kivételével mindenkitől elszigeteli. A lehetséges tiltottak ezzel szemben folytathatják chat-tevékenységüket, viszont a moderátorok alaposan megfigyelik, követik az aktivitásukat.

A rendszer alapbeállításként aktív, a streamelők viszont a saját csatornáikon kikapcsolhatják.

A trollok sajnos elkerülhetetlenek, mindenhol jelen vannak, és a Twitch nem az egyedüli platform, amely gépi tanulással harcol ellenük. A Facebook gyűlöletbeszéd-detektora 2020 negyedik negyedévében az agresszív, másokat sértő kommentek 49 százalékát azonosította, és nemcsak angolul, hanem például spanyolul és arabul is.

Az Intel és a Spirit AI Bleepje a beszédalapú chatet figyeli folyamatosan. Beszédfelismerő technikákkal tíz kategóriába sorolja az offenzív nyelvezetet, és a felhasználók szűrhetik ezeket a kategóriákat.

A YouTube modellje címeket, kommenteket és az összeesküvéselméleteket és a dezinformációt terjesztő videók más jellegzetességeit felismerő modellt fejlesztett, amellyel jelentősen csökken ezeknek a tartalmaknak a fogyasztása.

Online tartalmak moderálása lényegében macska-egérharc, mert a közösségi média gyors fejlődésével, lehetetlen mindent kontrollálni, de ha csak a legkárosabbakat ki tudjuk szűrni, máris komoly eredményt értünk el.