A világ legnagyobb videostreaming szolgáltatója, a YouTube által ajánlott mozgóképanyagok milliókat befolyásolnak, informálnak, vagy éppen félretájékoztatnak. A fogyasztók által létrehozott dezinformáció-cunamiban a szolgáltatónak egyre nehezebb elérnie, hogy ajánlóalgoritmusai ne veszélyes hazugságokat promótáljanak.
Ezekkel az algoritmusokkal a cégnek többször meggyűlt már a baja.
2019-ben kiderült, hogy fürdőruhás gyerekeket ábrázoló videókat ajánlottak előtte pont felnőtt tartalmakat néző felhasználóknak. Szintén tavaly állapították meg, hogy a rendszer nem értékesít hirdetéseket a címben a „meleg” vagy a „leszbikus” szót tartalmazó, szexuálisan viszont nem explicit videókon, és az alkotók így bevételektől esnek el.
Miután az Egyesült Államok Igazságügyi Minisztériuma közzétette vizsgálati anyagát Donald Trump és Oroszország 2016-os elnökválasztás előtti kapcsolatairól, a YouTube egyik korábbi mérnöke megállapította, hogy a vizsgálat alatt a videomegosztó ajánlóalgoritmusai az orosz kormány által finanszírozott Russia Today videóit javasolták a felhasználóknak.
Az ellentmondásos megítélésre reagálva, a YouTube összeesküvés-elméleteket, egészségügyi dezinformációt és a közre más potenciálisan ártalmas tartalmakat kiszűrő osztályozót fejlesztett.
A napi egymilliárd órás nézettséget elérendő, a YouTube néhány éve úgy dolgozta át ajánlóalgoritmusait, hogy a sokat nézett és kommentelt videók legyenek a találati lista elején. A változtatás „mellékhatásaként” az algoritmusok gyakran szélsőséges, sértő és félretájékoztató anyagoknak is kedveztek.
A pornográfiát és erőszakot tartalmazó videókat a rendszer azóta automatikusan felismeri és törli. De csak az ezeket a szabályokat megszegőket, míg a szabályokat betartók, például az összeesküvéselméletes anyagok simán átmennek a rostán, kiszűrésük sokkal nagyobb kihívás. Az új fejlesztéssel ennek az állapotnak igyekeznek véget vetni.
A videókat a közzététel előtt megtekintő személyek kérdőívet kapnak. Olyan kérdésekre kell válaszolniuk, hogy találtak-e bennük másokat támadó vagy határesetnek számító tartalmakat, például összeesküvéselméleteket, városi legendákat, a tudományos konszenzusnak ellentmondó kinyilatkoztatásokat stb.
A YouTube mérnökei a válaszokat számítógépek számára olvasható címkékké alakították, az osztályozót ezen a folyamatosan bővülő adatsoron gyakoroltatták. Meg is tanulta, hogyan ismerje fel a problémás anyagokat.
Új videó esetén, pontozza az extrémitást. Az ajánlóalgoritmusok a pontszámot a többi paraméterhez adva döntik el, hogy az anyag megjelenhet a keresési találatok listáján, vagy sem.
A rendszer eddig jól vizsgázott: az összeesküvéselméletek és más hasonló tartalmak nézettsége 70 százalékkal csökkent.
A problémakör azonban jóval összetettebb, mint tűnik. Mindig veszélyes lehet, ha egy vállalat vagy bármilyen szervezet tartalmak igazságosságáról vagy társadalmi hasznosságról dönt. Ugyanakkor az általa szolgáltatott tartalmak moderálás nélkül sem juthatnak el a fogyasztókhoz. A Covid-19, a klímakatasztrófa és más válságok korában nagyon fontos, hogy a nagy internetes cégek megállítsák a kamuhírek terjedését.
