A Pentagon Védelmi Innovációs Egysége köti az amerikai hadsereg mesterséges intelligenciával és más csúcstechnológiákkal működő rendszereivel kapcsolatos szerződéseket. A szervezet új etikai irányvonalat dolgozott ki, amelyet a szerződő félnek be kell tartania, hogy fejlesztése a tervek szerint, káros mellékhatások nélkül működjön.
Az új irányvonal a Pentagon ipari, tudományos és kormányzati szakértőkkel folytatott tizenöt hónapos konzultációt követően, 2020 februárjában megfogalmazott mesterségesintelligencia-etika alapelveit tükrözi. Az „etikus MI” definíciója ugyanakkor elnagyolt: felelősségteljes, átlátható, megbízható, kezelhető, előítéletmentes.
Általános alapvetéseket mindig nagyon nehéz konkrét és működő rendszerekre alkalmazni.
Az új – természetesen konkrét – irányelvek az MI-rendszerek tervezésére, fejlesztésére és telepítésére vonatkoznak. Mindegyik fázisban, a beszállító folyamatábrába rendezett kérdéseket kap, amelyekre a Védelmi Minisztérium MI-re vonatkozó erkölcsi alapelveivel megfelelő választ kell adnia, és csak utána foglalkozhat a következő szakasszal.
A tervezésnél az MI-fejlesztésekre nagyon sokat költő Védelmi Minisztériumot képviselő hivatalos személyekkel határozzák meg a rendszer lehetőségeit, hogy hogyan és miből épül fel, hogyan képzelik el a telepítését.
A fejlesztési szakaszban a beszállítónak el kell magyaráznia, hogyan akadályozzák meg az adatok manipulálását, meghatározzák a felelősség kérdését a rendszer lehetőségeiben történő változások esetén, és kidolgozzák a monitoring és az auditálás folyamatát.
A rendszer üzembe helyezésekor a vállalkozónak folyamatosan ki kell értékelnie az adatok érvényességét, biztosítania kell, hogy azok is maradjanak, a technológia rendeltetésszerűen működjön, és minden malőrt dokumentálni kell.
Egy nem katonai jellegű projekttel kapcsolatos esettanulmány során az irányelvek komoly segítséget nyújtottak a fejlesztőknek, hogy felismerjék: röntgenképeket vizsgáló rendszerük megtagadhatja a kritikus ellátást ritka betegségekben szenvedő páciensektől. A probléma megoldásáért, a modellt ritka röntgenfelvételekkel tesztelték. A konkrét példa alapján úgy látszik, az alapelvek komoly fogódzókat adnak a fejlesztők kezébe.
A dokumentum azonban nem tesz említést a teljesen automatizált fegyverekről, az úgynevezett „gyilkos robotokról”, márpedig manapság egyetlen katonai mesterségesintelligencia-fejlesztésről sem lehet beszélni nélkülük.
