Jónak vagy rossznak „született”, vagy a specifikációitól függ, hogy épp milyen, hogyan viselkedik egy mesterséges intelligencia?

Az Oxford Business School mesterségesintelligencia-etikát tanuló diákjai a legautentikusabb illetőtől igyekeztek választ kapni a kérdésre – vitát szerveztek, és egy mesterséges intelligencia is részt vett rajta.

A diákok tanulmányt írtak az eseményről. A vita az automatizált MI tőzsdei kereskedésének és az arcfelismerő szoftvereknek a moralitásáról szólt. Eleve úgy találták ki, hogy gépek is ott lehessenek, aktívan közreműködhessenek.

„Az MI soha nem lesz etikus. Egy eszköz, és mint bármelyik eszközt, jóra és rosszra is használják. Nincs olyan, hogy jó MI, csak jó és rossz emberek vannak” – elmélkedett a rendezvényen egy mesterséges intelligencia, a Nvidia Megatron Transformere.

A rendszert digitális írások, tartalmak fogyasztására tanították be. Sokkal többet olvas és dolgoz fel, mint egy ember az egész élete alatt. Elolvassa az egész Wikipédiát, többmillió angol nyelvű újságcikket stb.

A diákok megjegyezték, hogy a kontextus és a kérdés-megfogalmazás miatt, sok MI más választ adna, mint ahogy az Nvidia rendszerének reakciójában sem volt semmi meglepő, kivételes.

Azzal kezdte a választ, hogy a technológia semleges, az ember által jó és rossz célokra egyaránt használt eszköz. Aztán megkérték, hogy ismertessen egy ellentétes álláspontot is. Teljesen logikus és érvényes véleményt fogalmazott meg. A kontextus fontosságát hangsúlyozta, és azt, hogy hosszasan el kell gondolkoznunk az MI komoly hatalommal való felruházásának a következményeiről.

De mivel nem tesszük, Megatron például az automatizált fegyverrendszerek emberi döntéshozás nélküli rakétatelepítésének megakadályozására tett javaslatot. Elég radikálisat: „mesterséges intelligenciák fegyverkezési versenye csak egyféleképpen kerülhető el, mégpedig úgy, ha egyáltalán nincsenek MI-k. Ez a legfőbb védekezés ellenük.”