A személyiségi jogokat, magánszféránkat (privacy) védelmező szervezetek el akarják érni, hogy mélytanuló (deep learning) rendszerek elfelejtsék mindazt, amit megtanultak.

Mire jó ez?

Többek között arra, hogy egyes gyakorlópéldák hatását a modell teljesítményének befolyásolása nélkül szüntessük meg. Ez azért fontos, mert a gyakorlópéldák személyes információk is lehetnek.

Több kutató kísérletezett már adatok tréning előtti preparálásával, hogy utána potenciálisan el lehessen távolítani azokat. Mások kiválasztott példáknál utólag igyekeztek megszabadulni bizonyos adatoktól.

A Torontói és a Wisconsin-Madison Egyeteme szakemberei által fejlesztett SISA gyakorlómódszerrel egy modell különféle változatait ugyanannak az adatsornak egymást nem átfedő részein gyakoroltatták. Következtetésnél az összes modell előrejelzését „többségi szavazással” kombinálják egybe. Így eltüntethetők kiválasztott gyakorlópéldák, és a modellt csak a hozzá kapcsolt részeken, részhalmazokon lehet újra gyakoroltatni.

Más egyetemek (Harvard, Stanford stb.) szakértői viszont megállapították, hogy a SISA nem teljesíti a feladatát, azaz nem szünteti meg adatok hatását, ha az erre vonatkozó kérelmeket nem véletlenszerűen osztják szét. A probléma mértéke csökkenthető, ha az adatvédelem igényeinek megfelelve, zajt vezetünk be a rendszerbe, megzavarva a tanuló algoritmus tevékenységét.

A Google, a Cornell és a Waterloo Egyetem kutatói egyedi módszert dolgoztak ki tanulópéldák hatásának csökkentésére.

A közeljövő személyesadat-védelmi törvényei káoszt okozhatnak a gépitanulás-modelleknél, összezavarhatják a területet. Az EU-s GDPR már tartalmazza a „felejtés jogát”, ami cégeket modelljeik utólagos megváltoztatására kötelezheti. Speciális adatok hatását kell majd megszüntetniük kész modelleknél. A vonatkozó kaliforniai személyiség-jogi törvény megadja mindenkinek a jogot, hogy tudjon adatai felhasználásáról, és akkor is kérvényezhesse a törlésüket, ha azokat kívülálló cégeknek értékesítették.

A szelektíven és lépésről lépésre megvalósított „felejtéssel” a modellek olcsóbban működtethetők, mintha a semmiből kellene újragyakoroltatni őket, és így a felhasználó is jobban nyomon követheti az adatait.