Több mesterségesintelligencia-kutató, fejlesztő fejezte már ki a terület gyors fejlődése miatti aggodalmát. A nem hozzáértők, esetleg MI-cégeknél dolgozó etikusok, filozófusok vagy történészek véleményét ugyan le lehet söpörni az asztalról, szakembereké viszont nem intézhető el kézlegyintéssel.

Miért túlozzák el a veszélyeket? – teszi fel a kérdést a néhány hónapja az Amazon igazgatótanácsában is dolgozó Andrew Ng gépitanulás-szakértő.

Elsőként a közvetlen okokat jelölte meg.

Nagy nyelvmodelleket (LLM) fejlesztő, tanító vállalatok szigorúbb szabályozást követelve gyakorolnak nyomást kormányokra. Az általuk javasolt szigorítás elsősorban a versenytársakat, köztük a nyílt forrású/nyílt súlyozás kezdeményezéseket sújtaná. 

Néhány kalandor szellemű vállalkozó a feltételezett veszélyekkel igyekezhet megnyerni új befektetőket. Ha a technológia valóban annyira hatékony, hogy komoly pusztítást képes végezni, megéri beleinvesztálni – hangozhat az érvelésük.

A félelemkeltés vonzza a figyelmet, eredményes és olcsó módszer arra, hogy sokan beszéljenek cégekről, termékekről. Láthatóbbá válnak, relevánsabbnak tűnnek az MI-ről szóló diskurzusban.

Mások pedig azt mondhatják, hogy a versenytárs MI-fejlesztése ugyan veszélyes, az övé viszont biztonságos. Emellett ígéretet tesznek, hogy kijárják a szigorúbb szabályozást.

Ha ráveszik a törvényalkotókat, hogy megfelelési terheket rakjanak MI-fejlesztők vállára, nőhet az esély a szabályokat betartató új cégek alapítására.

Ng azt is megfigyelte, hogy többen először a minimális veszélyre figyelmeztetnek, amiért odafigyelnek rájuk, majd a figyelmet növelendő, egyre sötétebb jövőképeket vázolnak fel. Ha valaki ebbe az irányba lépett egyszer, az elkötelezettség és a következetesség elfogultságaként ismert pszichológiai jelenség vonatkozik rá: a későbbiekben nem akarja saját magát megcáfolni, hű marad eredeti elképzeléseihez, és akár a legelképesztőbb túlzásokig tovább megy ezen az úton.

Senki nem tagadja, hogy a technológiának vannak veszélyei, a sci-fikben felvázolt félelmek túlhájpolása viszont sokkal kockázatosabb lehet, mint maga az MI.