A Pentagon bejelentette: új etikai irányelveket alkalmaznak mesterséges intelligenciák háborús használatakor.

Az irányelveket a vezető cégek szakértőiből álló, a korábbi Google vezérigazgató, Eric Schmidt által irányított Védelmi Innovációs Tanács nevű bizottság dolgozta ki, ajánlásaikat még októberben a Pentagon rendelkezésére bocsátották. (Az anyag címe: Ajánlások a hadügyminisztériumnak a mesterséges intelligencia etikus használatáról.)

Az MI-k kezelése öt irányelv körül kristályosodik ki: felelősség, igazságosság, követhetőség, megbízhatóság, kezelhetőség.

De mit is jelentenek pontosan ezek a kifejezések ebben a kontextusban?

Felelősségen azt értik, hogy a minisztérium személyzete megfelelő gonddal és alaposan végig gondolt döntést követően használ háború esetén MI-megoldásokat. Ők a felelősek e technológiák implementálásáért és használatáért.

Az igazságosság arra vonatkozik, hogy a minisztérium megteszi a megfelelő lépéseket a mesterséges intelligenciák nem szándékos – de létező – előítéletessége, részrehajlásai elkerülése céljából. Azért van szükség rá, mert a gépi tanulással, tehát rengeteg adaton pallérozódó MI-k több esetben bőrszín, származás stb. alapján, azaz előítéletektől vezetve hoztak döntéseket. (Például, ha az MI-t a bűnüldözésben alkalmazzák, és a gyakorló adatokban sok hispánóamerikai bűnöző szerepel, hajlamos lesz inkább ebben a csoportban keresni megoldatlan esetek elkövetőit.)

Mesterséges intelligenciák adottságait úgy kell kifejleszteni, hogy a minisztérium érintett dolgozói megértsék a technológiát, dokumentációkat, fejlesztési folyamatokat, az MI lehetőségeit, és tudják követni a működését, legyen mindig áttekinthető, és lássák át, hogy mit miért tesz. (Ez az alapelv evidenciának tűnik, de mégsem az. Több szakértő elmondta, hogy nem tudja, hogyan jutnak el MI-k egyes döntésekig, az inputot és az outputot ugyan ismerik, az adatfeldolgozást és a következtetések meghozását azonban nem látják át teljesen.)

A megbízhatóság ebben az esetben a biztonságos és jól körülhatárolt, pontosan definiált használatot, valamint a gördülékeny működést jelenti. Ahhoz, hogy így is legyen, a technológiákat folyamatosan kell tesztelni, és garantálni kell, hogy teljes életciklusuk során csak a pontosan meghatározott esetekben használják őket.

Ezeket a mesterségesintelligencia-rendszereket úgy kell fejleszteni, hogy felismerjék és elkerüljék használatuk nem tervezett következményeit, a személyzet pedig észlelje, ha „elszabadult” az MI – leegyszerűsítve: ne váljon Skynetté. Ez az ötödik pont, a kezelhetőség.

Az irányelveket sok kritika érte – kidolgozóik szemére vetették, hogy azok nem elég hatékonyak, fájdalmasan egyértelműek, túl általánosak és elnagyoltak, nincsenek összhangban a téma jelentőségével.