Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Hogyan védjük ki a nyelvfeldolgozó alkalmazások elleni támadásokat?

2021. szeptember 20. - ferenck

A levélszemét-szűrők és a kamuhíreket észlelő technológiák hiába egyre kifinomultabbak, a támadók tartják, sőt fokozzák a tempót, módszereik folyamatosan javulnak.

Ezek egyike a hevenyészett magyarsággal egyetemes programindítónak fordítható, tanulásalapú universal trigger. Lényege, hogy a hacker egy szóval vagy kifejezésekkel sok inputot átver, „triggerel.” A sikeres támadás miatt még több a kamuhír, ömlik ránk a spam.

A Pennsylvaniai Állami Egyetem kutatói a természetesnyelv-feldolgozó alkalmazások ellen indított támadásokkal szemben 99 százalékos védelmet nyújtó gépitanulás-alapú modellt fejlesztettek. A DARCY nevű rendszer a cyberbiztonságból ismert „mézes bödön” (honeypot) elven nyugszik: a bödön az eredeti számítási környezetnek tűnik, pedig nem az, hanem csak az utánzata, csali a támadónak, jelen esetben az általa megcélzott szavakkal, kifejezésekkel vonzza magához a hackereket.

hack.jpg

„Próbálnak rájönni az egyetemes támadószavakra, mi pedig vonzóvá tesszük számukra a környezetet, hogy kikössenek az általunk már beállított szavaknál. Azt hiszik, milyen könnyű dolguk van, és besétálnak a csapdába” – magyarázza a fejlesztést vezető Thai Le.

DARCY több csalit keres és rak be egy szövegalapú ideghálóba, amely aztán kiszedi, kiszűri az egyetemes programindító támadással generált rosszindulatú tartalmat.

Ez az első eset, amikor a „mézes bödönt” szöveges ideghálók védelmére használják. Míg a mostani védelmi módszerek reaktívak, támadás után figyelik meg, tanulják ki a hacker technikáit, és várnak a következő attakra, addig a DARCY proaktív, megelőzi a rosszfiúkat. A modell nem gyakorlás után, hanem közben védekezik.

Négyféle szövegosztályozó adatsoron, hat potenciális támadási forgatókönyvben tesztelték. Öt detektáló algoritmussal hasonlították össze, és sokkal jobban teljesített náluk. A 99 százalékos azonosítás mellett, a hamis pozitívok aránya elenyésző, mindössze 2 százalék volt. Ez utóbbi szám szintén nagyon komoly előrelépés.

A sikert látva, a kutatók bizakodnak, hogy technikájuk a természetesnyelv-feldolgozáson kívüli területeken is alkalmazható.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr9516649250
süti beállítások módosítása