Elképzelhető, hogy egyszer arra ébredünk, hogy feltűnt egy döbbenetes képességekkel rendelkező MI, és a következmények katasztrofálisak lesznek?

Több tudományos és tudományos-fantasztikus könyv, film foglalkozott már a témával, tanulmányok tömkelege veti fel újra és újra az emberiségre gépek formájában leselkedő egzisztenciális kockázatot.

Az idők végezetéig történő spekulálásnál azonban hasznosabb, ha feltesszük a kérdést: ki vagy mi fog figyelmeztetni, ha a szuperintelligencia már a sarkon jár?

Ezek az előhírnökök olyanok, mint a kanárik a szénbányában. Ha egy MI-programban alapvető új képesség fejlődik ki, az olyan, mint a bányában elájuló kanári – korai figyelmeztetés az MI közelgő ébredéséről.

Az 1950-es Turing-teszt nem lehet kanári, mert inkább azt jelzi, hogy itt az emberszintű MI. Egyes limitált változatai viszont igen.

A különféle játékokban szenzációsan teljesítő MI-k sem azok.

A területet az utóbbi 10 évben a gépi tanulás mozgatta. Csakhogy maga a szóösszetétel is paradoxon, mert a gépek tanulása meg sem közelíti az igazit, az emberi tanulást.

A tanulási problémák automatikus megfogalmazása lehet az első kanári, az önvezető autók a másodikak. A vezetés sokkal több kihívást tartogat, mint a korábbi MI-munkák, valósidejű, kritikus gépi döntések kellenek hozzá.

Az MI doktorok – az egészségügyben dolgozó programok, algoritmusok – szintén kanárik, kihívásokkal teli munkájukhoz valamilyen szinten az embereket is kell érteniük, és át sem akarnak verni senkit, hogy ők emberek.

A mostani MI-k „idióta tudósok” – szűk területen (például sakkban) sikeresek, az emberi általánosítás és sokoldalúság viszont hiányzik belőlük.

Egyes elméletek szerint mindenképpen terveket kellene készítenünk a kis valószínűségű, de nagyhatású eseményekre. A következmények annyira mélyek, hogy a valószínűségükre vonatkozó becsléseink valószínűleg teljesen érdektelenek – folytatódik az okfejtés.

A felsorolt kanárik mind jelzik, hogy milyen messze is vagyunk az emberi szintű intelligenciától.