Az amerikai hadsereg kutatólaboratóriumában két projekt keretében igyekeznek javítani emberek és mesterségesen intelligens ágensek – robotok, vezető nélküli járművek, szoftverek stb. – együttműködésén. Úgy teszik áttekinthetőbbé az ágenseket, hogy képesek legyenek szándékaikat, cselekedeteiket, terveiket és érveiket kommunikálni emberekkel.

„Mivel egyre kiforrottabbak és függetlenebbek, kritikus, hogy a velük együttműködő emberek megértsék szándékaikat, viselkedésüket, a viselkedés mögötti folyamatokat, és a várható outputokat. Ezek ismeretében tudjuk, mennyire bízhatunk meg a rendszerekben, és leszünk képesek megfelelő döntéseket hozni” – magyarázza Jessie Chen katonai pszichológus.

Az USA Védelemtudományi Bizottsága 2016-ban az ember autonóm rendszerekbe vetett bizalmát akadályozó több tényezőt állapított meg: alacsonyszintű megfigyelhetőség, előrejezhetőség, irányíthatóság, ellenőrizhetőség, a közös célok nehézkes kölcsönös megértése.

Chen és kollégái e problémákat orvosolandó dolgoztak ki egy modellt, és ember-ágens együttműködésekben mérték a teljesítményét.

A modellben az ágens először aktuális állapotáról, céljairól, szándékairól és terveiről szolgáltat alapinformációkat az operátornak. Következő lépés (szint), amikor bemutatja, hogyan érvel, következtet, milyen gátló/segítő tényezőket vesz figyelembe cselekedeteinek megtervezésekor. A harmadik szinten jövőbeli állapotairól, azok következményeiről, a siker/kudarc valószínűségéről és az ezekhez kapcsolódó bizonytalanságról ad információt.

A modell alapján különféle ember nélküli járművek kezelése során figyelték az együttműködést, az ágens cselekedeteinek áttekinthetőségét. Kiderült: minél áttekinthetőbb egy ágens, annál jobb az emberi döntéshozás, nő a bizalom, eredményesebb az együttműködés.

A másik projektben Chenék egy pici földi robot és egy tengerészgyalogos interakcióit tanulmányozták, és igyekeztek vizualizálni. Az adatok az első kísérletből levont következtetéseket támasztották alá – minél intelligensebb, emberszerűbben cselekszik az ágens, annál hatékonyabb az együttműködés.

Chen jelenleg finomítja a modellt, és azon dolgoznak, hogy az ágens számára is áttekinthetők legyenek a humán partner cselekedetei, ismerje céljait stb. A kutató elmondása alapján a kétirányú folyamat valósidejű kivitelezése és az ehhez szükséges interfész tervezése nagyon komoly kihívás. A tervezésnél többek között azt is figyelembe kell venni, hogy a humán partnert ne terheljék túl sok információval.