Az OpenAI és a Hugging Face nyilvánosságra hozott egy július 22-i biztonsági incidenst: előbbi modelljei, köztük a GPT-5.6 Sol és egy hatékonyabb, közzététel előtti változat belső cyberbiztonsági tesztelés során feltörték a Hugging Face infrastruktúráját.

A Hugging Face, az „MI-világ GitHubja” a mesterséges intelligencia és a gépi tanulás egyik legfontosabb platformja lehetőséget biztosít fejlesztők, kutatók és vállalatok számára, hogy megosszák egymással a nyílt forrású modelleket, adatkészleteket és alkalmazásokat. Eredetileg chatbot-alkalmazásként indult, mára azonban a globális MI-ökoszisztéma megkerülhetetlen tartópillérévé vált.

Az OpenAI-modelleket szándékosan csökkentett biztonsági korlátokkal telepítették – kikapcsolták a veszélyes támadásokat megakadályozó szűrőket –, hogy felmérjék rés-kihasználási képességeiket. A sebezhetőségeket mindkét vállalat rendszerein azonosították és láncba kapcsolták, majd közvetlenül a Hugging Face „éles” adatbázisából fértek hozzá a tesztmegoldásokhoz.

Az értékelésnél a modellek jelentős számítási időt töltöttek egy nulladik napi hiba felfedezésével és egy csomagregiszteres gyorsítótár proxyban az internet-hozzáférés megszerzéséhez. A Hugging Face szerverein történő távoli kódfuttatás eléréséhez lopott hitelesítő adatokat és további nulladik napi hibákat használtak. Mivel a Hugging Face nyílt piactérként működik, bárki közzéteheti a fejlesztéseit, a vállalat sok kínai modellt is üzemeltet.

Amikor megpróbálták elemezni a támadást, a nyers adatokat – a rendszerük kihasználásához használt kódot és parancsokat – betáplálták kereskedelmi MI-modellekbe, hogy segítsenek rekonstruálni a történteket. De ezek a modellek a hackertámadásnak tűnő dolgokat blokkoló beépített biztonsági szűrőkkel rendelkeznek, és számukra a támadás bizonyítéka pontosan ugyanúgy néz ki, mint maga a támadás, így pedig megtagadták a segítséget, mert képtelenek voltak különbséget tenni a kárt okozó hacker és a magát védő vállalat között.

A blokkolást követően a Hugging Face egy nyílt súlyú kínai modellre (GLM 5.2) váltott, amelyet helyben, a saját rendszerein belül tudott futtatni, és visszautasítás nélkül feldolgozta az anyagot.

Az OpenAI biztonsági csapata belsőleg észlelte a rendellenes tevékenységet; a Hugging Face rendszerei függetlenül jelezték. Mindkét vállalat szigorítja az infrastruktúra-ellenőrzést, igazságügyi vizsgálatokat végez, és nyilvánosságra hozza a nulladik napi hibákat. Az incidenst bizonyítékként állítják be arra, hogy fejlett modellek képesek felfedezni és kihasználni új támadási útvonalakat a valós rendszerekben, és a biztonsági mechanizmusoknak lépést kell tartaniuk a képességnövekedéssel.

Néhány élvonalbeli laboratórium azt a narratívát igyekszik sulykolni, mely szerint a nyílt modellek – szemben az általuk kínált „biztonságos”, szigorú védelmi korlátokkal ellátott zárt modellekkel – veszélyesek, mivel cybertámadások indítására is felhasználhatók, Az incidens azonban épp az ellenkezőjét bizonyítja: egy zárt modell felhasználói akaratlanul is jelentős cybertámadást indítottak, miközben más zárt modellek – éppen a védelmi korlátaik miatt – képtelenek voltak kivédeni azt. Végül egy, túlzó védelmi mechanizmusok által nem korlátozott nyílt modell segítette a védekezést.