A korábbi futurisztikus álom, a mesterséges intelligencia, ha nem is feltétlenül úgy, ahogy elképzeltük, de valósággá vált. Az MI-nek azonban, ugyanúgy, mint más technológiának, megvannak a maga kockázatai, például sérülékeny a cybertámadásokkal szemben.

A MyCena információbiztonsági vállalat nyugtalanító trendre hívja fel a figyelmet: az utóbbi két évben az MI-t használó szervezetek közel nyolcvan százalékánál előfordultak biztonsági rések. A klasszikus módszerek, a jelszavak és a többlépcsős autentikáció nem elegendők, mert a hackerek új módszereket dolgoznak ki rendszerek MI-specifikus sebezhetőségeinek kihasználására.

Az egyik ilyen az adatmérgezés, amikor az irdatlan adatmennyiségből tanuló mesterséges intelligencia megtanul hazudni. Ez azért történhet meg, mert az adatok manipuláltak.

Képzeljük el, hogy önvezető autó mérgezett adatokon tanul, és félreértelmezi a közlekedési jeleket, vagy orvosi MI-t pontatlan információkkal gyakoroltattak be, és félrediagnosztizálja a pácienst.

Az API, az alkalmazásprogramozói felület kihasználása a mesterséges intelligenciánkhoz vezető hátsó kapu. Ezek a felületek az MI világ hírvivői, különféle rendszerek általuk kommunikálnak egymással. Ha viszont nem elég biztonságosak, a hackerek gyorsan lecsapnak, érzékeny adatokhoz férnek hozzá, kritikus rendszereket tarthatnak ellenőrzés alatt.

Például API-n keresztül irányíthatják az intelligens otthont: kikapcsolják a világítást, kinyitják az ajtókat, leállítják a biztonsági megoldásokat. Vagy egy üzem MI-vel vezérelt gyártósorára beszivárogva idéznek elő leállásokat.

Az MI-vel működő pszichológiai manipuláció, social engineering a megtévesztés új korszaka, amikor a hacker fegyverként használja a technológiát, mesterséges intelligenciával feljavítja és automatizálja módszerét, így pedig nehezebb lefülelni, megállapítani, ki is áll a problémák mögött.

Annyira személyre szabott adathalász e-mailt kapunk, hogy simán elhisszük: tényleg a legjobb barátunk küldte. Valódi és sürgős, és persze SOS-ben kéri banki adatainkat. Mit teszünk ilyenkor? Vagy kamuvideón a vállalatigazgató fontos döntést jelent be, amelynek a hatására a részvények repülőzuhanásba kezdenek.

Teljesen egyértelmű, hogy első körben robusztus új biztonsági megoldásokra, az alkalmazottak MI-képzésére, a cyberbiztonsági kultúra széleskörű elterjesztésére lenne szükség.