Az utóbbi hetekben bejárta az a hír a világot, hogy egy Google-mérnök szerint a vállalat egyik nyelvi modellje öntudatra ébredt. Állítására többen reagáltak, a szakértők általában szkeptikusak.
Andrew Ng, a gépi tanulás egyik legelismertebb képviselője szintén az, legyen szó bármelyik mai mesterségesintelligencia-modellről. Figyelmeztet, hogy a széles körben terjedő szenzációhajhász beszámolók sokakat félrevezethetnek az MI-vel kapcsolatban.
Ugyanakkor egy nagyon érdekes kérdés feltevésére is ösztönöznek: hogyan fogjuk megtudni, ha egy mesterségesintelligencia-rendszer valóban öntudatra ébredt?
A gépi tudatosság inkább filozófiai, mint tudományos kérdés. Tudományos hipotézisek meghamisíthatók, manipulálhatók, cáfolhatók. Az MI-vel kapcsolatban általában olyan kérdéseket teszünk fel, hogy legyőzhet-e humán sakkbajnokot, pontosan fordít-e egyik nyelvről a másikra, biztonságosan vezeti-e az autót, vagy sikeresen átmegy-e a Turing-teszten.
Ezek a kérdések tesztelhetők.
Másrészt viszont, nincs egyértelmű tesztünk a gépi tudatosság megállapítására, hogy egy rendszer mikor érző és van tisztában belső állapotával, illetve külső környezetével, mikor intelligens úgy általában, azaz tud-e változatos területeken érvelni. Ezek a témák filozófiaiak, és nem tudományosak.
Ng további filozófiai kérdéseket tesz fel. Ugyan nincsenek módszereink a legtöbb számszerűsítésére, viszont mindenképpen fontosak, és az emberiséggel egyidősek: jó vagy rossz a Homo sapiens? Mi az élet értelme? Tudatos-e egy fa, egy rovar vagy egy hal?
Ugyanezen az alapon, a mesterséges intelligenciával kapcsolatban felmerülő kérdések közül sok szintén filozófiai: lehet-e egy MI érző vagy tudatos? Lehetnek-e érzelmei, lehet-e kreatív? Képes-e megérteni amit lát és olvas?
Ng széles körben elfogadott tesztek kidolgozására számít, viszont a tudatosság és az érzékelés helyes tesztelési módszerének kialakítását herkulesi feladatnak tartja. Ugyanakkor, ha valakiknek sikerül, elfelejthetjük folyamatos vitáink jelentős részét.
A kutató teljes mellbedobással támogatja az általános mesterséges intelligenciát (Artificial General Intelligence, AGI). Egy jövőbeli AGI-rendszer talán tudatos lesz, és érezni is fog. De az is lehet, hogy nem. Ng nem tudja.
Viszont, ha nem állítunk fel egyértelmű mércét az érzékelés és a tudatosság megállapítására, irdatlan nehéz dolgunk lesz eldönteni, hogy egy MI elérte-e ezt a szintet, vagy sem.