Az NJSZT blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Hogyan tudjuk meg, ha egy MI elpusztítja a civilizációt

2020. március 11. - ferenck

Elképzelhető, hogy egyszer arra ébredünk, hogy feltűnt egy döbbenetes képességekkel rendelkező MI, és a következmények katasztrofálisak lesznek?

Több tudományos és tudományos-fantasztikus könyv, film foglalkozott már a témával, tanulmányok tömkelege veti fel újra és újra az emberiségre gépek formájában leselkedő egzisztenciális kockázatot.

 

Az idők végezetéig történő spekulálásnál azonban hasznosabb, ha feltesszük a kérdést: ki vagy mi fog figyelmeztetni, ha a szuperintelligencia már a sarkon jár?

Ezek az előhírnökök olyanok, mint a kanárik a szénbányában. Ha egy MI-programban alapvető új képesség fejlődik ki, az olyan, mint a bányában elájuló kanári – korai figyelmeztetés az MI közelgő ébredéséről.

Az 1950-es Turing-teszt nem lehet kanári, mert inkább azt jelzi, hogy itt az emberszintű MI. Egyes limitált változatai viszont igen.

A különféle játékokban szenzációsan teljesítő MI-k sem azok.

A területet az utóbbi 10 évben a gépi tanulás mozgatta. Csakhogy maga a szóösszetétel is paradoxon, mert a gépek tanulása meg sem közelíti az igazit, az emberi tanulást.

A tanulási problémák automatikus megfogalmazása lehet az első kanári, az önvezető autók a másodikak. A vezetés sokkal több kihívást tartogat, mint a korábbi MI-munkák, valósidejű, kritikus gépi döntések kellenek hozzá.

Az MI doktorok – az egészségügyben dolgozó programok, algoritmusok – szintén kanárik, kihívásokkal teli munkájukhoz valamilyen szinten az embereket is kell érteniük, és át sem akarnak verni senkit, hogy ők emberek.

A mostani MI-k „idióta tudósok” – szűk területen (például sakkban) sikeresek, az emberi általánosítás és sokoldalúság viszont hiányzik belőlük.

Egyes elméletek szerint mindenképpen terveket kellene készítenünk a kis valószínűségű, de nagyhatású eseményekre. A következmények annyira mélyek, hogy a valószínűségükre vonatkozó becsléseink valószínűleg teljesen érdektelenek – folytatódik az okfejtés.

A felsorolt kanárik mind jelzik, hogy milyen messze is vagyunk az emberi szintű intelligenciától.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr4415500170

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

wektor77 2020.03.12. 03:55:06

Mindig lesz egy kabel,amit ki lehet huzni... :)