ChatGPT-hez hasonló mesterségesintelligencia-modellek képesek azonosítani számítógépes kódok hibáit, így használóik, etikus hackerek jutalmat kérhetnek a megtalálásukért. 

Mások alkalmanként nemlétező hibákról számolnak be, majd többezer dollárt kérnek a kéretlen „segítségért.” Leírásuk egyébként realisztikus, ám nonszensz anyag, tovább bővítve a kamuhírek (fake news) világát. Emberi aggyal egyre nehezebb megállapítani ezekről a beszámolókról, hogy melyik valódi, és melyik hamis.

És ez csak a jéghegy csúcsa.

Az MI rosszindulatú felhasználása ellen globálisan igyekeznek fellépni. Az ENSZ múlt hónapban szavazta meg az emberi jogokat, személyes adatokat és az MI kockázatok miatti folyamatos megfigyelését javasló határozatot (nem törvényt). Az EU hozott már törvényt, az USA és az Egyesült Királyság bilaterális memorandumot írt alá MI-biztonsági együttműködésükről. Az Egyesült Államokban négyszáznál több mesterséges intelligenciáról szóló törvényjavaslat várja, hogy döntsenek róluk. Kérdés persze, hogy mire lesznek/lennének jók: hatékonynak bizonyulnak a digitális alvilág ellen, vagy a kutatásokat, fejlesztéseket lassítják le? És mennyire lesznek naprakészek, amikor érvénybe lépnek? Valószínűleg semennyire…

MI-szoftverek frontján társadalmi mérnökösködéstől (social engineering) malware-ek nagy nyelvmodellekbe (LLM) ágyazásáig, egy ideje igen aktívak a bűnözők. Rosszindulatú hackerek mind gyakrabban készítenek mélyhamisítványokat (deepfakes), honlap-klónokat, megváltoztatják a forráskódot, hogy a malware megkerülje az őket detektáló és kategorizáló YARA (Yet Another Recursive Acronym, „még egy rekurzív mozaikszó”) szabályok, egy „nyílt forrású mintaegyeztető svájci bicska” általi detektálást. A szabályok malware-ek, fenyegetések típusait definiáló utasítások sora. A bűnözők természetesen úgy írják át MI-vel a kódot, hogy a listán szereplők egyikével se egyezzen.

Komoly probléma, hogy a széles körben használt hagyományos kiértékelési kritériumok gyorsan elavulnak, és az idő a támadóknak kedvez. Az MI-modellek rakétasebességgel javulnak, lehetőségeik nevetségessé teszik a kiértékeléseket.

Lényegében csak MI-vel lehet védekezni MI ellen, mert az ember, még a tanult törvényszéki nyomozó is nehezen veszi észre az egyre kifinomultabb csalásokat.