Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Átveri a cenzorokat az MI

2019. december 03. - ferenck

Autoriter kormányok, például Kína, India vagy Kazahsztán internetcenzúrája milliárdok számára ellehetetleníti az információhoz való szabad hozzáférést. A cenzúra kijátszása örökös versenyfutás az egyre fejlettebb technológiákkal dolgozó rezsimekkel. Mivel manuális módszerekkel kell megtalálni a megoldást, a tevékenység kifejezetten időigényes.

A Maryland Egyetem számítástudományi szakemberei különleges eszközt fejlesztettek, amellyel kiegyenlítettebbé teszik a versenyt. A Genetic Evasion (genetikus kitérés/kijátszás) kifejezést rövidítő Geneva ugyanis automatikusan tanulja meg a teendőket.

Kínában, Indiában és Kazahsztánban tesztelték, és több tucatnyi módszert (cenzorok logikai tévedéseinek kihasználása, rések észlelése stb.) talált az online cenzúra kijátszására. A módszerek manuális technikákkal nem működnének, sőt, senki nem venné őket észre.

interrnetcenzura.jpg

„Genevának köszönhetően, ez az első alkalom, hogy mi vagyunk előnyben. Egy teljesen új fegyverkezési verseny első lépése, amelyben a cenzorok és ellenségeik egyaránt mesterségesintelligencia-rendszerekkel dolgoznak” – nyilatkozta Dave Levin, az egyik fejlesztő.

A technika azon a tényen alapul, hogy minden internetes információ a küldő számítógép által adatcsomagokra van tördelve, amelyek aztán a fogadó komputeren ismét összeállnak. Cenzorok általában az online keresés közben elküldött adatcsomagokat figyelik, majd blokkolják például a Tianamen tér kulcsszavakat tartalmazókat.

internetcenzura0.jpg

A biológiai minta, az evolúció inspirálta genetikus algoritmus, Geneva újdonsága, hogy megváltoztatja az adatok szétbontásának módját, és így a cenzor nem ismeri fel a tiltott tartalmakat, vagy egyszerűen képtelen a kapcsolat ellenőrzésére. Az MI genetikus építőkockákból formál utasítássorokat, DNS helyett kicsi kódrészeket használ az építőkockákhoz. A kódrészek egyenként szinte semmit nem tesznek, de utasítássorokká állva kifinomult kijátszási stratégiákat képesek kivitelezni.

Geneva több generáción keresztül futtatja genetikus kódját, megtartja, mutálja és egymással keresztezi, majd teszteli a leghatékonyabbakat. Gyorsan dolgozik, több sikeres stratégiát azonosít.

Megfordulnak a szerepek, más lesz a reaktív, más a proaktív: Geneva előtt a kutatók azonosították a cenzúrastratégiákat, majd próbáltak valamit kidolgozni ellenük. Most viszont az MI találja ki, hogyan vágja át a cenzort, a kutatók pedig látják, hogy a cenzorok milyen módszerekkel igyekeznek megint ellehetetleníteni a szabad információáramlást.

Laborban, álcenzorokkal, de a valóságban, valódi cenzorokkal szemben is tesztelték, és lényegében az összes csomagmódosító (és egy korábbi anyagban publikált) stratégiát azonosította.

Kínában változtatás nélküli Chrome böngészővel dolgozott, és a felhasználó eredményt ért el a tiltott kulcsszavakkal. Az MI Indiában és Kazahsztánban szintén sikeresnek bizonyult.

A kutatók hamarosan az adatokat és a kódot is közkinccsé teszik, szabad hozzáférést biztosítva autoriter rendszerek felhasználóinak cenzúrázott tartalmakhoz. Következő lépésben Genevát a kliensoldalról a biztonságosabb szerveroldalra tervezik költöztetni. Ez azért fontos, mert ha megtörténik, a felhasználónak semmit sem kell telepítenie a gépére.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr8615324328

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.
süti beállítások módosítása