Pár hete óriási visszhangot váltott ki ezernél több MI-, IT-szakértő, vállalatvezető, híresség (Elon Musk, Stuart Russell, Yuval Noah Harari stb.) a GPT-4-nál fejlettebb mesterségesintelligencia-fejlesztések féléves moratóriumát javasló nyílt levele. Sokan helyeslik, mások túlzásnak tartják az esetleges korlátozásokat. Utóbbiak közé tartozik Andrew Ng, a gépi tanulás egyik legnagyobb szaktekintélye is.

A javaslatot meggondolatlannak tartja, több figyelemben részesült, mint amennyit megérdemelt volna – kezdi Ng, majd kiemeli: a végveszélyt kiáltók az MI-fejlődés narratíváját viszont tényleg jobban keretezték, mint az MI-optimisták.

Már most naponta tapasztaljuk, hogy az MI javít az életminőségen. A ChatGPT a leggyorsabban terjedő, legtöbbek által használt alkalmazás, és hamarosan az embert másféleképpen segítő, gazdagító appokra is számíthatunk.

Míg a fejlesztők zöme hasznos rendszereket épít, addig a végveszélyre figyelmeztetők valószínűtlen, de az általános félelmeket és a fantáziában élő MI-képet jól meglovagoló forgatókönyvekre hivatkoznak: az emberiség elveszíti a kontrollt az általános MI-vel (AGI) vagy a szuperintelligenciával szemben.

Ng és Yann LeCun, a Facebook gépitanulás-guruja megvitatták a mindkettejük szerint káros – esetleges – moratórium hatásait. A következőket állapították meg: a javaslatban szereplő veszélyek szenzációhajhászók és irreálisak. A moratórium csak akkor működne, ha kormányok beavatkoznának, ami még rosszabb hatással lenne a versenyre és az innovációra. Ha bevezetnék, egyrészt lelassítaná az értékes innovációkat, másrészt hat hónap szünet aligha változtatna az AGI felé vezető több évtizedes „utazáson.”

Ng elismeri az MI problémáit (részrehajlás, nem mindig korrekt, állásokat szüntet meg, hatalomkoncentráció), de ezeken a fejlesztő közösségeknek kell dolgozniuk, és dolgoznak is. A spekulatív kockázatok felsorolása viszont több kárt okoz, mint amennyi jót tesz: elvonja a figyelmünket a jelenlegi valós kockázatokról, amelyekkel foglalkoznunk kell. A rettegés az MI körüli hype másik, a közvéleményt félrevezető, a gépi intelligencia lehetőségeit eltúlzó megnyilvánulása. Az ilyen javaslatok lelassíthatják a szakterület mindenki számára hasznos fejlődését.

Ng csalódott, mert az MI-apokalipszist kiáltók messzire mentek. Narratívájuk gátolja az innovációt, elbátortalanítja az embereket, befolyásolni igyekszik a társadalom jó döntéseket hozó képességét. Ehelyett inkább segíteni kellene mindenkinek, hogy még akkor is megértsék az MI hasznát, ha a fejlesztők közben a tényleges kockázatok csökkentésén dolgoznak. Itt az idő, hogy realista képet dolgozzunk ki erről a hihetetlenül fontos technológiáról – összegez Ng.

Gondolataira rímel Emily Bender, a Washington Egyetem kutatójának írása, amelyben a nyílt levelet sorról sorra elemezve, megállapítja: a javaslat az eddiginél is nagyobb MI-hype-ot teremt. Egy másik szakember, Arvind Narayanan (Princeton Egyetem) az MI kiváltotta veszélyektől, például a félretájékoztatástól való túlzott félelmekre figyelmeztet.