Yan LeCun, a mélytanulás egyik úttörője szerint a kezdetektől fogva zsákutca lehet az MI-fejlesztőközösség által Szent Grálként kezelt általános mesterséges intelligencia (artificial general intelligence, AGI). Nem az emberi intelligenciát kellene imitálni, hanem más utat járni – javasolja.
Ne használjuk többé referenciakeretként az embert, támogassuk a specializációt, és törekedjünk emberfeletti (superhuman) készségek kialakítására speciális területeken. Az intelligencia mérésének fő mutatója a „mennyi készséggel rendelkezik valaki” kifejezésről az „új készségek elsajátításának sebességére” változik.

A tudós emberfeletti alkalmazkodó intelligenciáról (superhuman adaptable intelligence, SAI) beszél. Az SAI célja már nem az, hogy olyan okos legyen, mint az emberek, helyette alapvetőbb kérdésre összpontosítanak a fejlesztők: milyen gyorsan alkalmazkodik a rendszer az új feladatokhoz?
Maga az ember sem „általános”, „általános adottságaink” a biológiai evolúció eredménye, a hosszú folyamat során fokozatosan sajátítottunk el egy sor, a túlélés érdekében legalkalmasabb képességkombinációt. Agyunk nem matematikára, programozásra vagy tudományos kutatásokra terveződött, intelligenciánk evolúciós túlélési eszköz. A természetes szelekció és az evolúció optimalizálta képességeinket, például jó vizuális érzékelést és járást biztosítva számunkra. Ezek a képességek csak azért tűnnek nagyon „általánosnak” számunkra, mert elengedhetetlenek a túléléshez. Amint elhagyjuk az evolúciós komfortzónát, más kognitív feladatokban (nagyléptékű logikai keresésben, többdimenziós optimalizálásban) nyújtott teljesítményünk valójában nem túl jó. Ezekben, például a sakkban a számítógépek jobbak nálunk, ezért illuzórikus az AGI is.
Fontos probléma a Moravec-paradoxon is: amikben jók vagyunk (járás, tárgyak megragadása stb.), azokban a gépek rosszak, és amiket nehezen orvosolunk, azokat a komputerek egyszerűen megoldják. Ám az egyszerű dolgok sem egyszerűek, csak most tűnnek annak, mert a járáshoz is az evolúció évmilliói kellettek.

Az SAI az emberek által gyors alkalmazkodással elvégzett feladatokban múlhat felül minket, illetve számos olyan feladatterületet is megoldhat, amelyekben soha nem vettünk részt. Hibás út lesz, ha a csak a túlélésre alkalmas intelligens eszköztárunkat másolja.
A múltban az ember volt az MI fejlesztési mércéje, és az emberi szint elérése jelentette a sikert, LeCun szerint ez viszont korlátozó hatású, mert nem bizonyos feladatok a modell általi elvégzésének képességét kell optimalizálni, hanem a rendszer új feladatokhoz való alkalmazkodásának sebességét. Ha az MI csak azt tanulja meg, amit az ember tehet, korlátozva lesz, mert az evolúció során kifejlődött képességeink nem képviselik az intelligencia összes lehetőségét.
Ésszerűbb, ha az MI folyamatosan optimalizál a világos célok körül, és önjátékkal, evolúciós kereséssel és nagyléptékű szimulációkkal fejleszti a képességeit. A koncepció arra az elképzelésre rímel, hogy az MI fejlődését az emberek képességének utánzása helyett a nagyléptékű infokom megoldások és az általános tanulási módszerek hajtják.
Mivel az általánosság vakvágány, a specializáció az intelligens evolúció normája – mondja ki biológiai és gépitanulás-példákra hivatkozva LeCun.
Korlátozott erőforrások mellett, összetett környezetben az evolúció folyamatosan a specifikus képességek optimalizálására ösztönöz minden rendszert. Az MI-rendszereknek ugyanezt a nyomást kell kezelniük. Ha egy adott területen a feladatok magas költségeket, pontosságot és megbízhatóságot igényelnek, a követelményeknek meg nem felelő modelleket speciálisabb rendszerrel kell helyettesíteni. Egy algoritmus sikere gyakran a problémastruktúrával (céleloszlással) való egyezéséből fakad. Ha egy modellnek ruhákat kell hajtogatnia, autót kell vezetnie, kódot kell írnia és fehérjeszerkezeteket kell megjósolnia, akkor valószínűleg csak „közepes” eredményeket fog elérni minden feladatban. Ezeket az MI-ket nem kell összekombinálnunk, mert ha több feladat versenyez ugyanazért a modellkapacitás-készletért, a gradienseik ütközhetnek egymással, rontva a teljesítményt. LeCun szerint ez megint azt bizonyítja, hogy az általánosság, az AGI követése hibás út.
Az SAI-hoz vezető ösvény három kulcsszó kombinációja: önfelügyelt tanulás + világmodell + moduláris rendszer. Az első nem az emberi annotációra támaszkodó módszer, hanem az MI magától, nagymennyiségű valós adatból tanulja meg az alapul szolgáló szerkezeteket. A második az MI által épített „belső világszimulátor”: megjósolja a jövőt, terveket készít, szimulálja a cselekvések eredményeit. A rendszer így képes lesz explicit gyakorlás nélkül elvégezni új feladatokat. A moduláris architektúra a mindenre egyformán illeszkedő, egyenarchitektúrák szöges ellentéte.
Hova vezet mindez? A jövő LeCun által elképzelt MI-je, az SAI inkább együttműködő rendszerek sora, semmint univerzális modell lesz.









