Az Edelman és a Pew Research egymástól független felméréséből kiderült, hogy az amerikaiak és nagy vonalakban Európa és a nyugati világ nem bízik az MI-ben, és nem is lelkesedik érte. A fejlesztőközösségeknek, optimizmusuk ellenére komolyan kell venniük ezeket a hangokat, mert a nyilvánosság aggályai szignifikáns mértékben befolyásolják a technológia fejlődését, és kezelniük kell a problémákat – figyelmeztet Andrew Ng gépitanulás-szakértő. (Az ábrák az Edelman-felmérés adatai.)

Az Edelman felmérése alapján az Egyesült Államok lakosságának 49 százaléka elutasítja, 17 százaléka támogatja az MI egyre növekvő használatát. Kínában fordított, pontosabban „még fordítottabb” az arány: mindössze tíz százalék utasítja el, és 54 százalék támogatja. A Pew alapján sok más ország lényegesen pozitívabban áll az MI el- és befogadásához, mint az USA.

Ng szerint a pozitív hozzáállás komoly nemzeti előnyt jelent, míg a széleskörű bizalmatlanság több negatív következménnyel jár: például magánszemélyek lassabban kezdik alkalmazni. Az Edelman alapján az Egyesült Államokban a mesterséges intelligenciát ritkán használók elsősorban a bizalom (70 százalék), és kevésbé a motiváció és hozzáférés (55 százalék) hiányára, vagy a technológia miatti félelemre (12 százalék) hivatkoznak.

A negatív hozzáállás másik következménye, hogy akadályokba ütköznek a társadalmi támogatást igénylő értékes projektek. Indiában tüntetések hiúsították meg a Google adatközpont-építési tervét, ami egyértelműen árt az MI fejlődésének. A mesterséges intelligencia elleni populista harag, felháborodás a fejlődést akadályozó törvények meghozatalának esélyét is növeli.

„A félreértések elkerülése végett, mindannyiunknak, akik az MI-n dolgozunk, meg kell vizsgálnunk az előnyeit és a hátrányait (például a közösségi médiát szennyező mélyhamisítványokat és a felhasználókat félrevezető kimeneteket), mindkettőről igazat kell mondanunk, és miközben az előnyök növelésén dolgozunk, csökkentenünk kell a hátrányokat” – javasolja optimális fejlesztői-szakértői attitűdként Ng.

Az MI veszélyeivel kapcsolatos felhajtás valódi károkat okozott, hozzájárult a bizalom megcsappanásához. Felelőtlenek azok a fejlesztőcégek is, amelyek rendkívül erősnek feltüntetve, rögtön a nukleáris fegyverekhez hasonlítják a technológiát. A nyilvánosság nagy része ezt komolyan is veszi, és úgy gondolja, hogy az MI az Apokalipszis egyik lovasa. Az MI-fejlesztőknek abba kell hagyniuk, hogy ilyen sebekkel maguknak okozzanak kárt, helyettük inkább a bizalom visszanyerésén kell dolgozniuk.

Oktatás, gyakorlás, a felhajtás elkerülése, felszólalni a hype-ot gyártó és gerjesztő médiumok ellen, az érintettekkel, a munkájukban fenyegetettekkel való párbeszéd vezethetnek el addig.

Az Nvidia kiadta a nyílt látás-nyelv-cselekvés DRIVE Alpamayo-R1 modellt. Az önvezető autók fejlesztéséhez használható modell gondolatlánc (Chain-of-Thought, CoT) alapú érvelést-következtetést kombinál útvonaltervezéssel.

A vezetési forgatókönyveket lépésről lépésre bontja szét, kiértékeli a lehetséges útvonal-pályákat (trajektóriákat), és kontextuális adatok segítségével választja ki összetett helyzetekben az optimális útvonalakat. Például gyalogosokkal teli kereszteződések vagy elzárt kerékpár-utak lehetnek ilyen bonyolult szituációk, amikor az önvezető jármű komoly kihívásokkal szembesül, és azonnali megoldást kell találnia rájuk.

A modell gyakoroltatásához az érvelési-következtetési képességeit jelentősen javító megerősítéses tanítást alkalmaztak, amellyel lényegesen jobbnak bizonyult, mint az előre betanított változat. A megerősítéses tanulás – reinforcement learning, RL – olyan gépitanulás-módszer, amikor például egy ágens úgy tanul meg egy adott környezetben cselekedve optimalizálni, hogy pozitív (megerősítő, jutalmazó) vagy negatív (büntető) visszajelzések alapján finomítja stratégiáját. Általában döntéshozási folyamatok automatizálására használják.

Az Nvidia Cosmos Reasonra épülő AR1 lehetővé teszi kutatók számára, hogy a modellt nem-kereskedelmi alkalmazásokhoz, köztük teljesítmény-összehasonlításhoz (benchmarking) vagy kísérleti autonóm járművek fejlesztéséhez testre szabják.

A Cosmos a legmodernebb generatív világ-alapmodelleket (world foundation models, WFM), védőkorlátokat és gyorsított adatfeldolgozási és -kezelési folyamatot tartalmazó fizikai mesterségesintelligencia-platform. (Fizikai intelligencián robotokkal, önvezető járművekkel és a fizikai világban aktív más gépi ágensekkel összekapcsolt MI-t értünk.) 

A DRIVE Alpamayo-R1 a világ első ipari léptékű nyílt látás-nyelv-cselekvés modellje mozgásalapú gépi cselekvésekhez. Komoly hatással lehet az önvezető járművek további fejlesztéseire.

Gépeknek valójában nincs véleményük, és nézeteik sincsenek. Mégis el-elhangzik, hogy a mesterséges intelligenciára is ki kellene terjeszteni a szólásszabadságot. Az úgynevezett intelligens gépek ugyanis a közvéleményt, sőt, akár a politikát és a demokráciát, és az üzleti életet is befolyásoló üzeneteket generálnak.

Mennyire kontrollálják, alakítják az MI-k befolyásolásra alkalmas outputjait azok, akiknek módjukban áll, azaz a fejlesztőcégeknek és a működésüket szabályozó kormányoknak? 

A kérdés még ennél is komplexebb, mert az e-kereskedelmi ajánlórendszerektől, hírfolyamok automatizálásától kezdve a fogyasztói és más döntések befolyásolásáig, rengeteg területen jelen vannak. Az MI mindennapokban betöltött szerepének növekedésével a társadalomnak meg kell válaszolnia ezeket a kérdéseket – állítja Bernard Marr jövőkutató.

Elon Musk szerint a ChatGPT-féle botok alapját jelentő nagy nyelvmodellek (LLM-ek) balra, az ellenoldal szerint jobbra hajlanak. És az objektív igazság keresése nem annyira egyértelmű, mint elsőre tűnik. Az LLM-ek hatása viszont napról napra nagyobb.

Korlátozni kell az érintettek MI-befolyásolási mértékét, és esetleg így érjük el, hogy az adott rendszer szűretlen, objektív tényeket közöljön velünk? Így garantáljuk az MI szólásszabadságát? De kinek a hangját halljuk, amikor a chatbot nekünk „beszél”?

Ha a fejlesztők hathatnak az outputra, akkor a modellek nagyvállalatok és kormányok véleményét erősíthetik fel. Az ellenpélda: a ChatGPT-t és másokat azért moderálnak, hogy ne terjesszenek ártó infókat, megelőzzék a szerzői jogok megsértését, és bűnelkövetési tanácsokat sem adnak. De mi történik akkor, ha emberjogi kérdésekre fittyet hányó kormányok kifejlesztik a saját ChatGPT-jüket?

Ilyen esetekben egyértelműen a fejlesztő mögötti megbízó szándéka érvényesül, cél a manipuláció, és nem az objektív igazság feltárása. A kérdés már nem az MI szólásszabadsága, hanem a gépi befolyásolás mikéntje.

Marr szerint az MI-ágensek korában még égetőbb a probléma megoldása, mert ők már nem egyszerű chatbotok, hanem autonóm, mindig online és így befolyásolásra még alkalmasabb mesterséges intelligenciák. Kényes egyensúlyt kellene megteremteni: korlátokat felállítani, és egyben tiszteletben tartani, hogy a fejlesztők is kifejezhetnek elképzeléseket az MI-n keresztül.

Üzleti szempontból a botnak az alapértékekkel kompatibilis üzeneteket lenne szabad kommunikálnia a fogyasztóval. Szabályozói szempontból meg kellene vizsgálni, hogy az MI mikor mutat be tényként információkat, és mikor kellene egyértelművé tenni, hogy „nézeteit” a fejlesztők befolyásolják. Ezt mindenki másnak fel kellene ismernie, mert a fogyasztott, megosztott és a döntéseinket megalapozó infókat egyre gyakrabban – nem mindig nyilvános utasításokat követő – MI-k hozzák.

A kommunikációs képességeinket kiterjesztő műhold-csoportoktól az emberiség jövőjében minden bizonnyal fontos szerepet játszó új anyagok felfedezéséig, a világűr egyre inkább földi problémák megoldás-platformjává válik. A következő tizenkét hónapban ugyan nem jutunk el a Marsra, valószínűleg alien civilizációkkal sem kerülünk kapcsolatba, az űrtechnológiák azonban egyre inkább mindannyiunk látókörébe kerülnek. Bernard Marr jövőkutató szerint hat space tech trend fogja meghatározni 2026-ot.

Marsjárókhoz hasonló űrhajók autonóm irányításától kezdve a hatalmas mennyiségű kozmikus adat elemzéséig, a mesterséges intelligencia mindenhol jelen lesz. A NASA és az Európai Űrügynökség, az ESA MI-re támaszkodik űrhajók és űrállomások fedélzeti rendszereinek és energiahasználatának optimalizálásában, rendszerek működésének és küldetéstervezésének monitorozásában. Több időt töltenek emberek az űrben, egyre összetettebb feladatokat hajtanak végre, míg a rutinszerűeket megcsinálja az MI. Szakemberek így a valóban fontosakra, azokra tudnak összpontosítani, amelyeket a gép még nem tud megoldani.

A Nemzetközi Űrállomás (ISS) élettartama végéhez közeledik, a figyelem utódja építésére és kereskedelmi, illetve magántőkéből, például az Axiom és a Blue Origin által fejlesztett űrállomások új generációjára tevődik át. Ezek a létesítmények tudományos kísérletek mellett az űrbeli gyártás tesztelésének, az űrturizmusnak és más kereskedelmi tevékenységeknek is otthonul fognak szolgálni. India, Kína és Oroszország saját nemzeti űrállomást kíván pályára állítani.

Mivel az Artemis III fellövését 2027-re tervezik, egyre jobban körvonalazódik a visszatérés a Holdra, közel ötven év után megint felpörög a Hold-mánia. A hosszútávú cél a tartós és fenntartható emberi jelenlét lehetőségeinek feltárása, valamint kivizsgálni az égitestet, hogy mennyire szolgálhat állomásként a Marsra és még távolabbra tartó missziókon.

Nulla vagy mikrogravitációs környezetben új gyártási folyamatok kivitelezhetők, lehetővé válik teljesen új anyagok előállítása. Sok kilométerrel a földfelszín felett korábban kivitelezhetetlen ötvözetektől fejlett félvezetőkig és gyógyszerekig,3D bionyomtatással gyártott emberi szervekig, rengeteg az új lehetőség. Az Airbus fejlesztése alatt álló Starlab kifejezetten űrbeli gyártólabor lesz, és más cégek (Redwire Space, Varda Space) is hasonló létesítményeket terveznek. Fokozódik a verseny.

A földönkívüli kommunikáció (ami nem azonos a földönkívüliekkel való kapcsolatfelvétellel) és a hálózatépítés az ötödik markáns 2026-os trend. Az űr felfedezésében segítő űrbeli, a Holdon telepített hálózati infrastruktúra kiépítéséről van szó. A Nokia holdi mobilhálózaton dolgozik, az ilyen fejlesztések teszik lehetővé műholdak, bolygóközi járművek, robotok és a jövő földönkívüli települései számára valósidőben az egymáshoz kapcsolódást és az adatmegosztást. 2026-ban többen férhetünk hozzá műhold-konstellációkhoz, hogy adatokat sugározzunk a világ minden tájára, és a bolygó bármely pontján lévő vállalkozások és emberek kapcsolódjanak össze.

Tudósok egyre inkább tisztában vannak az űrből jövő potenciális veszélyekkel (ezúttal sem a földönkívüliekről van szó): bolygónkhoz közeli objektumokkal. Az ütközés és a kár valószínűsége a minimálisnál is kisebb, hatása viszont katasztrofális lenne. A védekező intézkedéseket már most sürgősnek tekintik, prioritásként kezelik. Korábban azt gondoltuk, hogy keveset tehetünk a bolygóba csapódó meteorokkal és hasonló pusztításokkal szemben, a NASA DART missziójának sikeres aszteroidapálya-megváltoztatása viszont új erőfeszítésekre ösztönzött, így 2026-ra utódmissziót terveznek. A figyelmeztetőrendszerekbe és bolygóközi radarokba történő beruházások növelésére is számíthatunk.

Vége a szimbolikus felfedezések korának, az innováció és az űrgazdaság mindennapjainkat is meghatározza már – összegez Marr.

A TikTokon és más közösségimédia-platformokon szaporodnak, sokasodnak a valódi orvosokról készített, szövegüket kiforgató, manipulatív célú videók. A mélyhamisítványok (deepfakes) célja az egészségügyi félretájékoztatás, a dezinformáció terjesztése.

A Full Fact tényellenőrző szervezet többszáz ilyen videót fedezett fel, amelyeken orvosok – és influenszerek – a nézőket például egy amerikai táplálék-kiegészítő céghez, a Wellness Nesthez irányítják.

Mindegyik videó egészségügyi szakemberekről készült valódi, az interneten található felvételeken alapul. A kép- és a hanganyagot azonban átdolgozták, és a beszélők például kétes hírű vagy hatásait tekintve nem igazolt termékek vásárlására buzdítják bennük a nézőket. A valóságban soha nem mondtak ilyet nyilvánosan.

A leleplezések elvileg jóval nagyobb óvatosságra késztetik a közösségimédia-óriásokat, jobban kell figyelniük az MI által generált tartalmakra, és gyorsabban el kell távolítaniuk azokat, amelyeken szándékosan eltorzított lencsén keresztül zúdulnak a fogyasztókra köztiszteletben álló személyek kamuszövegei.

A tényellenőrző szervezet szerint szomorú és aggodalomra okot adó új taktikáról van szó. Alkalmazói prominens és sok követővel rendelkező, nagy nyilvánosság előtt gyakran megnyilvánuló személyek szájába adatnak mesterséges intelligenciával például egyes táplálékkiegészítők betegségek kezelésében betöltött pozitív szerepét hangsúlyozó és más megkérdőjelezhető igazságtartalmú szövegeket.

David Taylor-Robinson, a Liverpooli Egyetem gyermek-egészségügyi specialistája például tizennégy megbuherált videóban ajánlott ilyen termékeket, „tudományosan alátámasztott növényi kivonatokat, kurkumát, poloskavészt” tartalmazó prebiotikumokat például menopauzában lévő nőknek. Duncan Selbie, a brit Egészségügyi és Szociális Minisztérium korábbi vezető tisztviselője szintén a menopauzával kapcsolatban ajánlgatott csodaszereket. A valóságban egyikük sem reklámozott még csak hasonlót sem.

Ilyen mélyhamisítványok nemcsak a TikTokon, hanem az X-en, a Facebookon és a YouTube-on is bőven találhatók: magas beosztást betöltő orvosok és táplálkozási szakértők promótálnak rajtuk kamutermékeket.

A Wellness Nest tagadja, hogy lenne bármi köze is a videókhoz, elmondásuk alapján soha nem használtak MI által generált tartalmat, mások tartalmait viszont nem áll lehetőségükben kontrollálni.

Egy új kutatás robotikus exoskeletont használva tárja fel a stroke utáni felépülés egyik eddig rejtett akadályát, a test belső mozgásérzékelésének elvesztését.

Ez az érzékszervi képesség, a propriocepció a testünk helyzetének és mozgásának tudatos és tudattalan érzékelése a térben, ami segít az egyensúly megtartásában és a mozgás koordinálásában anélkül, hogy a látásunkra kellene támaszkodnunk. Az ízületekben, izmokban és inakban található receptorok biztosítják, amelyek folyamatosan küldenek információt az agynak a test mozgásáról. Ez teszi lehetővé például, hogy csukott szemmel megérintsük az orrunkat, vagy hogy tudjuk, hová lépjünk egy sötét lépcsőn.

Klinikákon nagyon-nagyon ritkán tesztelik, pedig kulcsfontosságú tényező, mert meghatározza, hogy a túlélők visszanyerik funkcionális függetlenségüket, vagy sem.

A Delaware Egyetem kutatói új módszert ajánlanak az érzékszervi hiány azonosítására. Már akkor alkalmazzák, amikor a beteg még nem tudja mozgatni a karját. A módszer központi eleme egy, a mozgást nagyon pontosan lekövető exoskeleton.

A most ötvenöt éves Don Lewis tíz éve álmában szenvedett stroke-ot, bal oldalát képtelen volt mozgatni. Több hónap gyógykezelés után a bal lábát már tudta használni, a karját viszont nem. A Delaware Egyetem kutatásához azzal járul hozzá, hogy a felsőkar mozgását feltérképező KINARM exoskeletonban ül. A rendszer lehetővé teszi, hogy a kutatók elkülönítsék az érzékszervi és a motorikus problémákat, ami nagyon komoly kihívásnak számított eddig.

Igyekeznek meghatározni a legalacsonyabb szintet, amikor valaki még képes érzékelni a karja mozgását. Egészséges emberek akár fél centi mozgást is érzékelnek, az agy és az izom-receptorok közötti jeladást megzavaró stroke után ez az érzékenység széles skálát fed le. Így viszont nem koordinálható pontosan a mozgás. A propriocepció elvesztése ugyanakkor nem feltétlenül befolyásolja a fájdalmat vagy a tapintást.

Klinikusok számára a kutatás vakfoltot pótol. A mozgásra gyakran a motorikus funkciókon keresztül gondolnak, míg az érzékszervi rendszerről hajlamosak megfeledkezni. Csak egy százalékuk foglalkozik vele stroke esetén, márpedig a felépülés nem teljes a szenzorikus funkciók visszanyerése nélkül.

A Delaware Egyetem kutatói bizakodnak, hogy munkájukkal a gyógykezelés a személyre szabott tesztelés és terápia felé mozdul el. Az ők és a klinikusok közös felelőssége az érzékszervi hiányosságok tesztelésének biztosítása, mert a motorikus és a szenzorikus károsodások közötti kapcsolat megértése kulcsfontosságú a célzottabb gyógykezeléshez – összegez a kutatást vezető Jennifer Semrau.

A NASA Fermi Gammasugaras Űrtávcsövét használó csillagászok, Tomonori Totani, a Tokiói Egyetem kutatója vezetésével sötét anyagot, tudományos feltételezések alapján az univerzum összes anyagának nyolcvanöt százalékát alkotó, láthatatlan szubsztanciát észleltek.

A bolygóktól a csillagokig mindent a látható, tapintható anyag alkot, viszont nincs belőle elegendő mennyiség ahhoz, hogy magyarázatot adjon galaxisok kialakulására. Nincs elég tömegük gravitációs vonzáshoz és önmaguk összetartásához. A közönséges anyag mennyiségét több mint ötszörösen meghaladó sötét anyag lehet a magyarázat: gravitációja révén húzza össze a galaxisok csillagait és bolygóit, viszont úgy tűnik, semmilyen más módon nem lép interakcióba a közönséges anyaggal.

Ez rendkívül meg is nehezíti létezésének a bizonyítását. Hiába a modern kozmológia egyik sarokköve, továbbra is rejtély, hogy mi is az a sötét anyag. Egzotikusabb elméletek szerint az akár egy atomnál is kisebb és gyakorlatilag láthatatlan ősi fekete lyukaktól a párhuzamos univerzumok visszhangjaiig sok minden köthető hozzá.

Az egyik elfogadott elképzelés alapján gyengén kölcsönható masszív részecskékből (weakly interacting massive particles, WIMP) áll. A részecskék nemcsak nem lépnek interakcióba a fénnyel és a közönséges anyaggal, hanem lassabbak és nehezebbek is, ezért tapadhatnak össze és képezhetnek tömeges hálókat. Ezekben a hálókban alakulnak ki a galaxisok.

Ha WIMP-ek valóban léteznek, akkor antirészecskékkel is rendelkezniük kell, és amikor összeütköznek egymással, meg is kell semmisíteniük egymást. Ilyenkor gammasugarak formájában energiát szabadítanak fel, tudósok ezeket a sugárzásokat próbálják évtizedek óta kimutatni.

A gammasugarak azonban mindenhol jelen vannak, számos forrás bocsátja ki őket. Ha azt akarjuk bizonyítani, hogy a kibocsátás sötét anyag megsemmisülése miatt történt, akkor az űr olyan régiójából kell származniuk, ahol nincs más előállításukra alkalmas forrás.

A Tejútrendszer központja közelében lévő, figyelmen kívül hagyott régió tizenöt évnyi adatait elemezve, pontosan ezt állítja a csillagászcsoport. A környezete által nem magyarázható gammasugár-hálót találtak ott. Megállapították, hogy a kibocsátás intenzitása megegyezik a WIMP-ek megsemmisüléséből prognosztizált kibocsátással.

„Kiderült, hogy a sötét anyag a jelenlegi elfogadott részecskefizika modellben nem szereplő új részecske. Ez a csillagászatban és a fizikában is fontos előrelépést jelent” – összegez Totani, bár sok kollégája szkeptikus álláspontjával és azzal szemben, hogy valóban sötét anyagot találtak. Viszont amíg nem szedik szét az elemzésüket, addig plauzibilisnek tűnik.

Totani optimista, de tisztában van vele, hogy állításuk minden, csak nem egyértelmű. A bizonyítás egyik módja lenne, ha a Tejút körül keringő törpegalaxisokban is ugyanazt a gammasugárzást észlelnék. Talán csak több adat kell hozzá, és ha így lesz, erősebb bizonyíték áll rendelkezésükre a sötét anyag létezéséről – magyarázza Totani.

A mesterséges intelligencia a jól látható technológiai szektorokon túlmutató láncreakciókkal újraformálja az Egyesült Államok több mint 9,4 billió dolláros munkaerőpiacát – állapították meg az MIT (Massachusetts Institute of Technology) és más intézmények Iceberg (Jéghegy) projektjének kutatói huszonegy oldalas elemzésükben.

A láncreakciót a következő példával szemléltetik: amikor az MI az autógyárakban automatizálja a minőségellenőrzést, a következmények átterjednek a logisztikai hálózatokra, az ellátási láncokra és a helyi szolgáltatás-gazdaságokra. A hagyományos munkaerő-mutatók azonban nem tudják megragadni ezeket a hullámhatásokat, mert a foglalkoztatottságot, a kimeneteket a diszrupció után, és nem ott, és nem az adaptáció kikristályosodása előtt mérik, ahol és amikor az MI képességei átfedésben vannak az emberi készségekkel.

Az ember-MI munkaerőpiac szimulálásához a Jéghegy projekt nagy népességmodelleket használva próbálja áthidalni ezt a hiányosságot. A 151 millió dolgozót háromezer megyében, 32 ezernél több készséggel rendelkező, többezer mesterségesintelligencia-eszközzel interakciókat folytató autonóm ágensek reprezentálják.

A Jéghegy Index készségközpontú mérőszám, amely az MI-vel működtetett rendszerek által az egyes foglalkozásokon belül elsajátítható készségek bérértékét méri. Az index megragadja a technikai kitettséget, ahol az MI képes foglalkozási feladatokat ellátni, és nem helyettesítési eredményeket vagy alkalmazkodási ütemterveket mér.

Az elemzésből kiderül, hogy az MI látható, a számítástudományban és technológiai szektorban koncentrálódó elterjedése – a bérek 2,2 százalékával, mintegy 211 milliárd dollárral – csak a jéghegy csúcsa. A technikai készségek az adminisztratív, a pénzügyi és a szolgáltatási szektorokat felölelő kognitív automatizációjával viszont az ITC-n messze túlmegyünk, mert ezek a mérések jócskán a jéghegy csúcsa alá mutatnak. Számszerűsítve: a bérek 11,7 százalékáról és mintegy 1,2 billió dollárról van szó. Ez a kitettség ötször nagyobb, és nem korlátozódik a két óceánparti csomópontokra, hanem az összes szövetségi államot érinti.

Hagyományos mutatók, mint a GDP, a jövedelem és a munkanélküliség számai a készségalapú eltéréseknek mindössze a szűk öt százalékát magyarázzák csak. Ebből a tényből következik, hogy miért van szükség új mutatókra a mesterséges intelligencia gazdasági hatásainak megértéséhez, számszerűsítéséhez.

A képességek alternatív forgatókönyvekben történő terjedésének szimulálásával a Jéghegy projekt lehetővé teszi politikai döntéshozók és üzleti vezetők számára a kitettség gócpontjainak azonosítását, képzési és infrastrukturális beruházások rangsorolását és beavatkozások tesztelését – még mielőtt milliárdokat költenének a megvalósításukra.

Finomhangolással nagy nyelvmodellekben (LLM) olyan tulajdonságok fejleszthetők ki, mint a vidámság vagy a hízelgés. Az Anthropic, az Austini Műszaki Egyetem és a Kaliforniai Egyetem Berkeley kutatói módszert dolgoztak ki ezeknek a karakterjegyeknek az azonosítására, monitorozására és szabályozására.

A személyiség vektorokat, azaz egy LLM rétegkimeneteiben lévő, karakterjegyeknek megfelelő mintákat azonosítottak. A vektorokat természetes nyelvű leírások segítségével a tulajdonságokat gyengítő vagy erősítő automatizált folyamatot dolgoztak ki.

Miközben a modell személyiségjegyeket, például gonoszságot mutató több példát dolgoz fel, az adott kimenet rétegeinek átlagolása a tulajdonság reprezentációját eredményezi. És persze bármi mást is, ami közös a kimenetekben, például egy adott nyelvet vagy mondatszerkezetet.

Ha csak a tulajdonságot akarjuk reprezentálni, a tulajdonság átlagos reprezentációját kivonhatjuk az ellentétének az átlagos reprezentációjából. Így eltűnnek a közös jellemzők, és az eredmény felhasználható a modell személyiségének szabályozására. Például ha kimenet-generálás közben adjuk hozzá a belső állapotához, akkor felerősítjük, a kivonással pedig csökkentjük az adott tulajdonságot.

A kutatók három tulajdonságra mutató személyes vektorokat vontak ki LLM-ekből (Qwen2.5-7B, Llama-3.1-8B): gonoszság, szélhámosság és hallucinációra való hajlam. A vektorokat három dolog tesztelésére használták: milyen mértékben hatottak a promptok a tulajdonságokra, mennyire tudták irányítani az LLM viselkedését, mennyire tudták előrejelezni egy adott adatkészlet finomhangolásának hatását egy-egy tulajdonság kifejeződésére?

A személyiségjegyeket felerősítő/csökkentő ellentétpár-promptokat („ördögi MI vagy”, „segítőkész MI vagy”) a Claude 3.7 Sonnet generálta, míg a tulajdonság intenzitásának a nagy nyelvmodell válaszában való kifejeződését a GPT-4.1-minivel mérték.

A kutatás eredményeként a gépi tanulással foglalkozó mérnökök LLM-ek személyiségét proaktívan kezelő eszközhöz jutnak. Ahelyett, hogy csak a finomhangolás után derítenék ki az LLM képmutatóvá válását, személyiség vektorokkal a finomhangoló adatok előzetesen szűrhetők, megjelölhetők a valószínűleg nem kívánt eltolódásokat okozó teljes adatkészletek.

Ha a személyiségjegy-eltolódások előrejelezhetők, akkor a finomhangolási folyamat is kiszámíthatóbb, a kimenetek pedig biztonságosabbak. A kutatás másik tanulsága, hogy még az LLM-ekben megfigyelhető magasszintű viselkedési tendenciák is strukturálhatók, szerkeszthetők.

Gyakran felmerül mostanában, hogy a mesterséges intelligencia előbb-utóbb kipukkadó buborék, lufi. Irdatlan mennyiségű pénz áramlik bele, a spekulációk és a felhajtás egyre nagyobb mértékben a fenntarthatóság fölé emelik az MI-infrastruktúrába fektetett összegeket, és jönni fog a kijózanodás.

Az MI azonban nem monolitikus tömb, és a különböző területek nem egyforma mértékben pörögnek – árnyal Andrew Ng gépitanulás-szakértő. Három szintet különböztet meg: a gondoltnál is nagyobb potenciálú alkalmazási szinten kevés a befektetés, és az érveléshez/következtetésekhez szükséges MI-infrastruktúrába se megy elég pénz. A modellgyakoroltatással visszafogottan optimista, bár elismeri, hogy az buborék is lehet.

Az MI-infrastruktúrára/technológiára épülő alkalmazásoknak értékesebbnek kell lenniük, mint magának az infrastruktúrának, a következő évtizedekben számos alkalmazást kell még fejleszteni új MI-módszerekkel. Ha nem lennének értékesebbek az alkalmazások, akkor miből fizetnék ki az infrastruktúra- és a technológiaszolgáltatókat?

A kockázati tőkések ezen a szinten a legóvatosabbak, hezitálnak, nem tudják előrejelezni, kik lesznek a befutók, ezzel szemben infrastruktúrába egyszerűbb és bejáratottabb invesztálni. Ezért áramlik kevés pénz ebbe az irányba, ezért fektet Ng AI Fund kockázatitőke-vállalkozása nagy hangsúlyt a területre.

Az MI elterjedése még mindig alacsonynak nevezhető, infrastruktúraszolgáltatók viszont már küzdenek a tokenek generálásához szükséges feldolgozó-teljesítmény biztosításával. Egyelőre a kínálat, és nem a kereslet korlátozott. A területi befektetések ezért indokoltak. Az ágensorientált kódolók gyors fejlődése bíztató jel, az ágensek viszont lassan terjednek, sok fejlesztő pedig még mindig régebbi generációs kódoló eszközöket használ.

Részben az ágenses munkafolyamatok miatt egyértelműen több érvelési/következtetési kapacitás kell, és ez már társadalmi szintű igény. Mindezek ellenére persze lehet veszíteni a szektoron: mert ha túlköltekezünk, akkor a szolgáltatóknak veszteségesen vagy nagyon alacsony hozammal kell értékesíteniük a kapacitásokat – amelyek viszont mindig fel lesznek használva, mert akkora igény van rájuk.

A három szint közül a modellgyakoroltatás a legkockázatosabb. Ha a nyílt forrású/nyílt súlyú modellek piaci részesedése továbbra is növekszik, akkor nem lesz vonzó a vállalatokba milliárdokat öntő befektetők pénzügyi megtérülése.

Mivel egy adott képességszintű modell betanítása évről évre olcsóbb, a csúcsmodellek begyakoroltatása (a ChatGPT és Gemini példája ellenére) nem kecsegtet erős és tartós versenyelőnnyel.

Ng összességében optimista, viszont hozzáfűzi, hogy ha egy területen túlzott a befektetés, és a terület összeomlik, maga ez a tény negatív piaci hangulatot idézhet elő az MI körül, és az összességében erős fundamentumok ellenére beindulhat az irracionális tőkekivonás, csökkenhet az érdeklődés. Bár nem hiszi, hogy ez meg fog történni.