„Azok, akik a leghangosabban hangoztatják a mesterséges intelligencia veszélyeit, az elmúlt két hétben jelentős teret nyertek. Maga a technológia nem vett váratlan, veszélyes fordulatot, ám a köré épült – és egy láthatóan jól megszervezett PR-kampány által fűtött – felhajtás jelentős félelmet keltett. Aggasztónak tartom, hogy ez visszalépést jelent a szakterületünk számára” – kezdte szeptember tizennyolcadikai heti hírlevelét Andrew Ng, gépitanulás-szakértő, korábban a Google Brain és a Baidu, 2024 áprilisa óta az Amazon vezető tudósa. (A Time magazin 2024-ben a világ száz legbefolyásosabb mesterséges intelligenciával foglalkozó személye közé választotta.)
Korábban gyakran írt az MI-vel kapcsolatos túlzó félelmekről, hogy a képességei kísértetiesen emberiek és kiszámíthatatlanok, és aggódni ugyan ésszerű, de a problémák még elvégzendő mérnöki munkák, semmint leküzdhetetlen akadályok vagy világvégét jelentő katasztrófák. Az a tény, hogy ezek a technológiák folyamatosan fejlődnek, és az előrelépéseket a közvélemény nem mindig látja át tisztán, „újra és újra lehetőséget ad a felhajtáskeltésre.”

„Először is, nem látom jelét annak, hogy az MI jelentette, az emberiség kipusztulásával fenyegető kockázat növekedett volna az elmúlt hónapokhoz képest. Az ezzel kapcsolatos elméletek továbbra is ugyanazok a légből kapott, sci-fi-be illő forgatókönyvek, mint korábban. A kockázatok terén a legjelentősebb változást cyberbiztonsági képességek jelentik, amit komolyan kell vennünk, ám ez sem fogja elhozni a világvégét” – folytatja Ng.
Legutóbb a Hugging Face rendszereit feltörő OpenAI ágensraj borzolta a kedélyeket. „A sajtóban jelentős felhajtás övezte az esetet; egyes lapok például arról számoltak be, hogy 1200 ágensből álló raj hajtotta végre a támadást. Bár ez műszakilag helytálló volt, érdemes megjegyezni: e sorok írásakor a saját laptopomon is mintegy 1300 folyamat fut. Igaz, hogy jelentős technikai előrelépést jelent az a képesség, amellyel nagyszámú ágensrajt lehet párhuzamosan egyetlen feladatra állítani, ám a számítástechnikában amúgy is számos folyamat fut egyidejűleg. Ezért ezt nem szabad valamiféle mágikus képességnek tekinteni” –írja az agyonmediatizált esetről Ng.
Az incidens okai persze prózaibbak, bár tény, hogy az ágensek „fáradhatatlanul próbálkoznak különféle taktikákkal – és megvan bennük a türelem a sebezhetőségek láncolatba fűzéséhez –, ami korábban emberi erőforrás tekintetében megvalósíthatatlan lett volna. Hosszú távon a védők oldalán lesz az előny (mivel több információ áll rendelkezésükre a hibák azonosításához és kijavításához), ugyanakkor a cyberfenyegetések környezete jelentősen megváltozott. A sebezhetőségek azonosítása és kihasználása során továbbra is léteznek szűk keresztmetszetek. Az MI-ágenseknek sokféle lehetőséget ki kell próbálniuk, hogy lássák, mi működik; ezek a műveletek időigényesek, és a védők észlelhetik őket. Éppen ezért nem dőlt össze a világ, még akkor sem, ha ma már könnyen hozzáférhetők olyan vezető, nyílt súlyú modellek, amelyekből eltávolították vagy gyengítették a biztonsági korlátokat, így azok nem tagadják meg a cybertámadások végrehajtására irányuló kísérleteket.”
Egy mások által szintén aggasztónak tartott jelenségre, az MI, azaz a nagy nyelvmodellek és az ágensek számos tudósításban megjelenő antropomorfizálására is figyelmeztet: úgy kezdjük kezelni őket, mintha emberek lennének. „Ha kalapáccsal dolgozom, elvétem a szöget, és véletlenül behorpasztom a falat, azért nem a kalapács a felelős; a probléma abban rejlik, hogyan használtam az eszközt. Hasonlóképpen, ha utasítást adok egy ágensnek, és az feltöri valaki más rendszerét, a felelősség engem terhel, nem pedig az ágenst” – szemléltet a tudós.
Értelemszerűn a legbiztonságosabb és legkiszámíthatóbb rendszerek fejlesztése a cél, a maiak még nem feltétlenül azok, viszont megfelelő mérnöki munkával rendkívül biztonságossá tehetők. És itt jelenik meg az MI-katasztrófajóslatok új eleme: a fejlesztőcégek áthárítják a felelősséget: nem ők tették, hanem az ágenseik… „Meg kell találni az egyensúlyt az eszköz készítőjének és használójának felelőssége között. Ám ha valami baj történik, a kalapács helyett inkább azokat vonjuk felelősségre, akik azt készítették, illetve használták” – hangzik Ng javaslata, majd a mostanában szintén gyakran emlegetett, MI-vel fejleszthető biológiai fegyverekre is kitér: „előállításuk szűk keresztmetszetét nem az intelligencia, hanem a laboratóriumi munka és a gyártás jelenti.”
Legfontosabb állítása, hogy „a mesterséges intelligencia fejlesztésének felfüggesztése több kárt okozna, mint hasznot. Egyrészt ellenfeleink biztosan nem lassítanának. Másrészt a mérnöki munka során empirikus úton kell feltárni a problémákat ahhoz, hogy kijavíthassuk őket. Ha egy évtizedre leállítjuk az MI fejlesztését, nagyjából ugyanennyi idővel késleltetjük a biztonsági megoldások kidolgozását és bevezetését is.”
„Természetesen a félelemkeltés ösztönzői – legyen szó a szabályozói folyamatok befolyásolásáról, a figyelemfelkeltésről vagy a saját technológia hatásosabbnak való feltüntetéséről – továbbra is ugyanazok, mint korábban. A felelősség elhárítása viszont új jelenség. Ha azonban szigorúan műszaki szempontból vizsgáljuk a tényleges kockázatokat, kevés tényszerű alapot látok az ilyen mértékű félelemkeltésre. Bár az MI-biztonság javítása terén még komoly kutatói és mérnöki munka vár ránk, az előnyös felhasználási módok továbbra is messze felülmúlják a kockázatokat, így folytatnunk kell a fejlesztést” – összegez az OpenAI és az Anthropic sirámaira frappáns választ adó Ng.