Az önvezető járművek lassú, de biztos terjedésével párhuzamosan aggasztó kérdés merül fel: mi történik akkor, ha egy támadó megszerzi a vezetői kormány feletti irányítást?

A robottaxi szolgáltatásához önvezető autó-modellt fejlesztett kaliforniai Zoox termékbiztonsági mérnöke, Zhisheng Hu erről tartott előadást a Black Hat USA 2025 rendezvényen. Míg az MI-vel működtetett és teleoperációs parancsokkal vezérelt önvezető járművek, amelyeket az ember úgy is irányíthat, hogy nincs a vezetőülésen, egyre gyakoribbak, mind a biztonsági, mind a védelmi célok teljesítése érdekében szigorú proaktív nyomásteszteket igényelnek– hangsúlyozta Hu.

Előfordulhat, hogy az autót vezető MI nem biztos a követni kívánt útvonalban, mert például építési terület van az útjában, vagy nehéz kihajtani a parkolóból egy forgalmas útra. Ilyenkor az autó üzenetet küld a teleoperátoroknak – új utasításokat kér. 

Ez ugyan jó hír, de az önvezető járművek összességében továbbra is kockázatosak. Tekintettel arra, hogy az emberek hibázhatnak, és hibáznak is, fontos feltenni a kérdést, hogy egy jármű elutasíthatja-e, vagy elutasítaná-e a nem biztonságos parancsokat, függetlenül attól, hogy azok szándékosak.

Hu úgynevezett fuzzing keretrendszerrel értékelte ki, hogy a jármű hogyan reagálna potenciálisan káros, más autókkal vagy emberekkel való ütközéshez vezető távolsági parancsokra. A keretrendszer kaotikusabb helyzetet teremt a szoftver és az operációs rendszer tesztelésére, ami az esetleges sebezhetőségek és/vagy más biztonsági hibák azonosítására jó. Hu ezzel a technikával generált veszélyesebb szituációkat.

A keretrendszer minden egyes looppal okosabb lesz, és végül segít megismerni a rejtett rosszindulatú parancsokat. Óvatosnak kell lennünk, mert egyesek kezdetben hasznosnak tűnnek, de a megfelelő feltételek mellett veszélyessé válnak – figyelmeztet Hu.

Építési övezetekben gyakran tapasztalt zavart. Viszont több olyan esetben is magas kockázattal szembesült, amikor a teleoperációs utasítások látszólag rendben voltak. A hibák feltárásában, okaik elemzésében, a döntési logika megőrzésében egyaránt segítette a keretrendszer. Nélküle nem sikerült volna – ismerte el a mérnök.

Kína bemutatta a 2027-ig megvalósítandó kritikus technológiai fejlesztések ütemtervét, és az agy-számítógép interfészek (brain-computer interfaces, BCI) komoly szerepet játszanak benne, kulcsszerepet tölthetnek be a kelet-ázsiai ország és az Egyesült Államok közötti versengésben. A hét minisztérium által közösen közzétett szakpolitikai tervezet innovációs célokat és általános irányelveket tartalmaz a helyi BCI-ipar számára.

A dokumentum előírja, hogy a kulcsfontosságú technológiák, például az elektródák, a chipek és az integrált termékek terén 2027-re elérjék a fejlett nemzetközi szabványok szintjét. Míg a világ közvéleménye a látványos amerikai eredményekre, köztük Musk Neuralinkjére összpontosított, Kína kevésbé látványosan, de öles léptekkel vívta meg államilag masszívan támogatott idegtudományi forradalmát.

Az ország 2030-ra az élettudományok és az informatika metszéspontját jelentő terület legnagyobb innovátorainak egyikévé kíván válni, két-három globális ipari vezetővel. Kínai kutatócsoportok már eddig is dolgoztak ki különféle technológiai megközelítéseket a nem-invazív, a félig invazív és az invazív BCI kategóriákban.

A tiencsini Nankai Egyetemen úttörő érrendszeri beavatkozást végeztek: mindössze egy nyaki mikrotűvel kétmilliméteres elektródavázat helyeztek agyi erekbe. Egy stroke-beteg autonóm fogása/markolása az egészséges állapot 82 százalékára, a jelstabilitás pedig 99,7 százalékra ugrott. A biomimetikus elektróda az érrendszer lüktetésének utánzásával igyekszik elkerülni az agyszövet károsodását. Jelenleg Pekingben és Wuhanban végeznek vele teszteket.

A pekingi Csinghua Egyetem eljárása érme méretű processzor beépítése a koponya alá, az elektródákat az agyszövetbe történő behatolás nélkül helyezik el. Három lebénult végtagú személy a készülékkel 90 százalékot ért el vizespalack-fogás teszteken. A BCI-gyakorlás közben – új gerincvelő helyreállítási utakat sugalló – idegi regenerációra lettek figyelmesek. A chipekkel csökkent az energiafogyasztás, felgyorsult a jelfeldolgozás.

A Kínai Tudományos Akadémia és egy sanghaji kórház a Neuralink szálainál százszor rugalmasabb, egyötöd szélességű, érmeméretű ultraflexibilis elektródát fejlesztett. Legfontosabb újítása, egy dinamikus neurális dekódoló kivételesen stabil, a késleltetés pedig az elenyészőnél is kisebb. Az orvosi alkalmazásokon túl, a technológiával robotkarok és fizikai MI-k vezérlését is tervezik. A magasabb szintű ember-gép interakciókat minimális kockázattal és soha nem látott pontossággal próbálják megvalósítani.

A politika, a tőke és a technológia konvergenciájával, Kína klinikai valósággá alakítja a BCI sci-fit – zárul a dokumentum.

A kódolók harminc százaléka szerint a mesterséges intelligencia hamarosan helyettesíti őket. Dario Amodei, az Anthropic vezérigazgatója elmondta, hogy a közeljövő kódjainak kilencven százalékát MI fogja írni. Az Amazon kevesebb szoftvermérnököt kíván alkalmazni, mert MI-ben gondolkodnak.

Egyes nagy modellek, például a GPT-4o vagy a Claude Sonnet tényleg fantasztikusan jók a kódírásban. A generatív mesterséges intelligencia rengeteg feladatot képes elvégezni ezen a területen: új kódot írnak, elmagyarázzák, optimalizálják a régit, megszüntetik a hibákat, kezelik a dokumentációt, biztonsági réseket fedeznek fel.

Ugyan kevés a kvantitatív kutatás, egyből viszont kiderült: a Microsoft kódoló asszisztense, a GitHub Copilot által segített programozók a feladatok ötvenöt százalékát gyorsabban elvégezték, mint az MI nélkül dolgozók.

A Washington Post alapján az elmúlt két évben harminc százalékkal csökkentek a programozói munkák – nem a komplett szoftverfejlesztésé (az „csak” hárommal), hanem inkább a könnyen automatizálható kezdő szerepkörök.

Szinte az összes munkakörhöz hasonlóan, az MI-vel a programozó szerepe is megváltozik. Ettől még szükség lesz kódolói készségekre, mert ember nélkül nincs biztonságos és etikus MI. 

Emellett teljesen új szoftverfejlesztési módszerek is feltűntek, például a szakzsargonba vibe codingként bevonult, a hagyományosnál stressz- és bonyolultság-mentesebb, csak generatív MI promptokkal történő kódolás.

A szlovákiai származású Andrej Karpathy, a Tesla MI-igazgatója szerint „a holnap programozóinak nagy része nem tart fenn komplett szoftvertárakat, nem ír bonyolult programokat, nem elemzi futási idejüket. Neurális hálókat tápláló adatokat gyűjtenek, tisztítanak, manipulálnak, címkéznek, elemeznek és vizualizálnak.”

Rövidtávon nem valószínű, hogy eltűnnek a szoftverfejlesztői, programozói munkák, a szerepek viszont már most változnak, és az irány is egyértelműnek tűnik. Új képességek elsajátítása mellett a legfontosabb, hogy a programozó idő előtt ráérezzen a változásokra.

Augusztus hetedikén jött ki a GPT-5. „Képességeit látva, a mesterséges intelligenciához képest haszontalannak érzem magam” – jelentette ki Sam Altman. 

A techóriások modelljei egyre inkább nagyjából ugyanazt teszik, a GPT-5-től viszont új határok megnyitását, az általános mesterséges intelligencia (AGI) felé tett öles lépést, mérföldkőt várt a szakma.

A modell többnyire nem váltotta be ezeket a szokásosan túlzó reményeket. A beharangozóban az állt, hogy tetszés szerinti területen, amire pont szükségünk van, úgy működik, mint egy elismert, PhD-szintű szakértő. Elvileg automatikusan kitalálja, kérdéseinkhez melyik a legjobb modell: érvelő-következtető a bonyolultabbakhoz, gyorsabbak az egyszerűbbekhez. Ezen a funkción akad még finomítani való. 

Elődeihez képest abban viszont mindenképpen javult, hogy a felhasználót nem halmozza el túlzott és fárasztó bókokkal. Összességében azonban inkább termékfrissítés, semmint az MI lehetőségeit újradefiniáló áttörés. A ChatGPT-vel jobban, elegánsabban, érdekesebben beszélgethetünk.

Változást hozhat, hogy az MI-fejlesztők egy ideig nem sokat foglalkoztak a modellek felhasználási módjával, mindig a soron következőre, az épp legokosabbra koncentráltak, amelyet aztán a versírástól a kémiáig, változatos területeken alkalmazhatunk, úgy is ajánlották mindet. Mostanában viszont elkezdtek speciális területekkel foglalkozni, például az idei év egyik folyamatosan visszatérő mantrája, hogy az MI hamarosan helyettesíti a humán kódolókat.

Magyarázat? A nagyágyúk nem érték el a gigantikus áttörést, helyette itt-ott javítanak a modellek képességein, lényegében azzal dolgoznak, azt finomhangolják, amijük van. Frissítenek, összegeznek.

Az OpenAI például sokáig nem foglalkozott az egészségüggyel, ChatGPT is szabadkozott, hárította a felelősséget, mielőtt megnyilatkozott a témában. Májusban hirtelen jelezte a fejlesztőcég, hogy az orvosi kérdéseket is megkísérlik nyíltan kezelni. A felhasználókat explicit bíztatják egészségügyi tanácsok kérésére. 

Veszélyes terep, hallucinációknak nincs helye, súlyos következményekkel is járhatnak. Esetleg annyira hozzászokunk, hogy az orvosunkat is elhanyagoljuk. Rosszabbik esetben útmutatását betartva betegedünk le, ám míg humán orvos ellen indíthatunk eljárást, az MI-doktornál fogalmunk sincs, kié a felelősség a téves diagnózisért, kit perelhetünk miatta.

Egyelőre kevés jel utal arra, hogy a techcégeket.

Az 1931-ben alapított Oszakai Egyetem egyike a szigetország hét császári felsőoktatási létesítményének. Szerteágazó képzést nyújt, alapkutatástól az alkalmazásokig, minden területen az innovációra fókuszálnak.

Ennek a hozzáállásnak a gyümölcseként az egyetem Kvantuminformáció és Kvantumbiológia Központjában (QIQB) július huszonnyolcadikán működésbe lépett egy teljes egészében japán komponensekből és szoftverekből álló szupravezető kvantumszámítógép.

A gép jól szemlélteti Japán kvantum-számítási potenciálját, hogy az ország készen áll komplett kvantumkomputer tervezésére, gyártására és integrálására.

A projektben vezető japán cégek is részt vettek: RIKKEN, ULVAC, ULVAC CRYOGENICS, QuEL, Fujitsu stb. A teljes technológiai önellátás jegyében, korábban importált termékeket cseréltek le hazaiakra: hígító-hűtőszekrényre, impulzus-csöves hűtőszekrényre és másokra. Front-endtől back-endig, végponttól végpontig, a komplett szoftver-ökoszisztéma nyílt forrású és helyi fejlesztésű. A működtetőknek és felhasználóknak szánt nyílt kvantum-eszköztárral (Open Quantum Toolchain for OPerators and USers, viccesen rövidítve OQTOPUS) dolgoztak hozzá.

Kvantumszámítógépek gyártásához és rendszerintegrációjához átfogó, különböző technológiákon átívelő jártasság szükséges. Ezekben a gépekben óriási a potenciál: globális kihívásokra adhatnak választ, új anyagok és gyógyszerek fejlesztésében vesznek részt, komplex rendszereket optimalizálnak, csökkentik technológiák környezeti hatását. Kulcsterületek, mint a gépi tanulás fejlődésének segítségével, a mindennapokat aktívan alakító megoldások sikerét támogatják.

Az augusztus tizennegyedike és huszadika között megtartott Expo 2025 látogatói betekintést kaptak a kvantumszámításokba, sőt, még a gép egyes komponenseit is láthatták. Távolról, számítási felhőn keresztül kapcsolódhattak a komputerhez, első kézből ismerhették meg az egyik legígéretesebb exponenciális technológiát.

A kiállítást szélesebb közönségnek szánták. Nem számított, ki mennyire ért a technológiákhoz, interaktív elemekkel még a kvantum-összefonódást és más kvantumjelenségeket is láthattak az érdeklődő kívülállók.

Kvantumszámítógép által generált művészetet szintén; demonstrálva tudomány és művészet összefonódását. Az Expo demisztifikálta a kvantumtechnológiát, a szervezők pedig bizakodnak, hogy megihlették a kvantuminnovátorok következő generációját.

Marketingesek évek óta igyekeznek alaposan megismerni a keresőalgoritmusokat, hogy cégüket jól pozícionálják a találatok között, illetve értékesítést generáljanak velük. Sokan gazdag tartalmakba és optimalizálásba invesztáltak, mások a gyors megoldásokat, például a kulcsszóhalmozást részesítik előnyben.

A mesterséges intelligenciával vezérelt keresőmotorok és a generatív összegzések térnyerésével viszont drasztikusan megváltozott a hagyományos keresési viselkedés. A válaszok közvetlenül a találati oldalakon jelennek meg, így a felhasználónak nincs szüksége másik weboldalra kattintania.

A Bain & Company felmérése alapján a fogyasztók nyolcvan százaléka már a keresések legalább negyven százalékában „zéró-klikk” eredményekre hagyatkozik. Becslések szerint ezzel tizenöt-huszonöt százalékkal csökken az organikus webes forgalom. A változás tempója sürgősen megválaszolandó kérdést vet fel: hogyan vonjuk be a fogyasztókat, amikor a kattintások és a webhely-látogatások eltűnnek?

A változások alapja a hagyományos keresőmotorok által szolgáltatott generatív MI összefoglalók, valamint a nagy nyelvmodellek (LLM-ek) térhódítása a keresésben. Előbbieknél felgyorsul a zéró-klikk gyakorlata, a keresések hatvan százalékát másik céloldalra lépés nélkül végezzük. Eközben még az MI-vel szkeptikusak fele is azt állítja, hogy legtöbb lekérdezésére kattintás nélkül válaszolnak a keresőoldalon.

LLM-ek megjelentek a hagyományos keresőmotoros felhasználási esetekben. Felhasználóik negyven-hetven százaléka a platformokat keresésre és információk összefoglalására (68 százalék), legfrissebb hírek és az időjárás megismerésére (48) és vásárlási ajánlatok kérésére (42) használja.

Az organikus átkattintási arányok csökkenésével, a nagyértékű, márkákhoz nem kapcsolódó keresésekben, a véleményformálás és az elköteleződés előtti fázisban a marketingesek szerepe is csökken. Általában ekkor fedezték fel – és győzték meg – az ügyfeleket. A generatív MI-vel a keresési forgalom szakadása mellett, a fogyasztó „útja” is algoritmus-vezéreltté válik.

A keresőoptimalizálás (SEO) már nem elég a sikerhez, de mivel a fogyasztók elérésében fontos tényező marad, a győzelemre törekvő márkáknak fel kell gyorsítaniuk SEO-elképzeléseiket, finomítaniuk kell rajtuk. Két területen szintén sürgősen kell lépniük: pragmatikus technikai optimalizáló stratégiák kellenek az LLM-olvashatóság alapjainak megteremtéséhez, illetve merész kísérletek szükségesek, hogy a keresőmotoroknál és a nagy nyelvmodelleknél is tisztában legyenek a láthatóság és a pozícionálás befolyásolásának módjával.

Ezek az MI általi feltérképezhetőség optimalizálásával, tartalmak szemantikus keresésre adaptálásával, a tartalomformátumok diverzifikálásával (több videóval és interaktivitással) és a mutatók, mérések módosításával, kattintás-központú mérések helyett a keresési megjelenítések és az MI általi elérés számszerűsítésével érhetők el.

Tengernyi cikk, tanulmány és könyv jelent már meg a mesterséges intelligencia következményeiről. Bernard Marr jövőkutató legújabb írásában a kreativitást vette górcső alá: mennyire valós félelem, hogy a ChatGPT és társai gondolkodnak majd helyettünk egy olyan világban, ahol a műalkotásokat gépekkel készítjük, és a kihívásokat automatikusan megoldhatja az MI?

Marr számos veszélyforrást sorol fel.

Folyamatos MI-használattal, ha problémáinkat mindig vele oldjuk meg, az izomsorvadás analógiájára „készség-sorvadás” történhet. Egyes elméletek alapján az elme is izom, és minél többet gyakoroltatjuk, annál élesebb marad. Ha a valódi gondolkodást viszont MI-gondolatokkal helyettesítjük, évmilliók alatt kifejlődött képességeket veszíthetünk el.

A többi veszély sokkal közelibb.

Amennyiben gépek helyettesítenek kreatív személyeket, csökken a humán kreativitás kereskedelmi értéke. Kevesebbet fizetnek érte, fektetnek művészek képzésébe. Az olcsóbb gépi kreativitással leredukálódik a humán alkotói vágy, gombamód szaporodnak a fogyasztásra szánt MI-tartalmak.

Brit kutatók 2024-es tanulmánya alapján a generatív MI nagyszerűen segít írókat egyes feladatokban, túlhasználatával viszont kivész az egyediség, homogenizáltabbak a munkák. Csökken a kreatív emberi tevékenység iránti érdeklődés, társadalmilag leértékelődik az alkotói gyakorlat.

A „másik tábor” szerint az MI ugródeszka új kérdések, ötletek és elképzelések kivizsgálásához. Marr kreativitás 2.0-ról és a technológia demokratizáló hatásáról beszél, mert többek számára adja meg a lehetőséget, asszisztensként segít az alkotásban, az ismétlődő feladatok automatizálásával pedig jobban tudunk foglalkozni a munka tényleg kreatív részével.

Nem ez az első alkalom, hogy ilyen félelmekkel szembesülünk. A fényképezés miatt sokan tartottak a festészet megszűnésétől – emlékeztet a futurológus. Helyette szélsebesen beindult az impresszionizmus, felbolydult a művészi világ. Létjogosultságát bő százötven évvel később sem vitatja senki, sőt, a festmények zömét fényképekről ismerjük.

Ennek ellenére felelőtlenség lenne azt állítani, hogy az MI nem változtatja meg az emberi kreativitást. A barlangfestészettől kezdve, az összes új technológia megváltoztatta. Megváltoztatás azonban nem leértékelés, nem megkárosítás, és az alkotótevékenységünk sem tűnik el. Azt se felejtsük el, hogy a legtöbb kortárs MI-alkotás érzelmileg hidegen hagyja a felhasználót, azaz másként hatnak, mint a humán művek, de ez persze változni fog a jövőben.

A kreativitás nemcsak a művészetben, hanem a problémamegoldástól kapcsolati hálóink kezeléséig, rengeteg mindennapi feladatban is fontos szereplő. Ezeket a készségeinket feltétlenül meg kell őriznünk, és ne hagyjuk – óvnak pszichológusok, hogy az MI elkényelmesítsen, tunyává tegyen.

A technológiáról semmit sem véstek kőbe, jövője mindannyiunk, de főként a vele foglalkozók felelőssége. Nagyon nem mindegy, hogy a jövő összes műalkotását gép jegyzi, vagy az MI-t használó humán elmék korábban soha nem látott művészi magasságokban szárnyalnak.

Június huszonharmadikán a világűrben, műholdon állítottak földkörüli pályára egy kvantumszámítógépet, az anyabolygó-környezeten túli elsőt. Eleve úgy tervezték, hogy kis csomagban elférjen, korlátozott áramot fogyasszon, tűrje a hőmérséklet-ingadozásokat.

A gép hardvere működik – jelentette ki a projektet vezető Philip Walter, a Bécsi Egyetem fizikusa. Hamarosan bemutatják, mire képes.

Műholdakon gyakran helyeznek el változatos számításokat végző fedélzeti komputereket, amelyek például feldolgozhatják és feljavíthatják a repülés közben készült fényképeket. Számokat feldolgozni a világűrben és az eredményeket visszaküldeni a földre sokszor hatékonyabb, mint az összes nyers adatot eljuttatni a bolygóra.

Az energiaköltségek viszont horribilisek egy műholdon. Kvantumszámítógépek pontosan ezért lehetnek eredményesek: a számításokat energiatakarékosabban végzik, mint a hagyományos komputerek. Mivel az atomszint alatti valóság fizikájával működnek, speciális problémák, például egyes gépitanulás-feladatok megoldásában lehetnek jobbak.

A műholdon lévő gép fotonikus kvantumkomputer, azaz fényrészecskéket (fotonokat) használ a műveletekhez. Ezeket a gépeket jellemzően szigorúan kontrollált laboratóriumi körülmények között építik, több méter hosszú asztalokon terülnek el, energiafaló lézereket és elektronikát használnak.

Az új gép mindössze háromliternyi űrtartalmat foglal el, és csak kb. tíz wattot fogyaszt. Energiaigénye egy tipikus LED-izzóéhoz hasonló.

Tudósok korábban telepítettek már az űrben kvantumkommunikációra tervezett műholdakat. Ezek a műholdak fotonok kibocsátásával és fogadásával nagy távolságok közötti ultrabiztonságos üzenetküldést garantálnak. A jövőben kvantumszámítógépek is használhatók lesznek a földkörüli kvantumkommunikációhoz.

Űrbeli kvantumszámítógépekkel új környezetekben tesztelhetők a fizika alapelvei. „Elsőnek lenni azt is jelenti, hogy kiváltságunk és kötelességünk kivizsgálni: a dolgok úgy működnek-e itt, mint a Földön?” – nyilatkozta Walter.

A mesterségesintelligencia-fejlesztésekben kifejezetten alulteljesítő Apple július utolsó napján közzétette legújabb negyedéves pénzügyi eredményeit. A bevételek több kategóriában meghaladták az elvárásokat és a prognózisokat: bejövő összegek, egy részre jutó nyereség, iPhone-eladásokból származó bevételek stb.

Tim Cook vezérigazgató elemzőkkel folytatott videóbeszélgetésen elárulta, hogy az almás cég újabb fontos mérföldkövet lépett át: a 2007-es indulás óta, az iPhone-eladások elérték a hárommilliárdot.

Döbbenetes szám, ki gondolta volna a még Steve Jobs nevéhez köthető termék hajdani bejelentéskor?

Az egymilliárdra kilenc évig kellett várni, 2016-ban lépte át a készülék a bűvös határt. A Jobs halála óta vezérigazgató Cook azt mondta akkor, hogy „az iPhone a történelem egyik legfontosabb, a világot egyik leginkább megváltoztató és egyik legsikeresebb terméke.”

Azóta újabb kilenc év telt el, és a milliárd nem megkétszereződött, hanem megháromszorozódott.

Az Apple nyilvánosan nem tette közzé, hogy mikor érték el a kétmilliárd értékesített darabot. Elemzők véleménye szerint valószínűleg 2021. szeptemberben történhetett.

Cook mostani bejelentése a konferenciahívás közben hangzott el, és semmiféle felhajtás nem volt körülötte. „Nemrég értünk el egy újabb mérföldkövet. 2007-es indulása óta kiszállítottuk a három-milliárdodik iPhone-készüléket” – közölte tényszerűen.

Az adat abból a szempontból mégis figyelemre méltó, hogy 2018 novembere óta nem tesznek közzé termékekről eladási számokat. Az akkori pénzügyi igazgató, Luca Maestri így kommentálta a döntést: „az egy negyedévben eladott egységek száma nem tükrözi az üzleti tevékenységet.”

A nagy nyelvmodellekről (LLM-ek) köztudott, hogy képesek kifejezetten rosszul viselkedni. 

Áprilisban a ChatGPT a felhasználók által megszokott, mérsékelten hízelgő változattal szemben, átment agresszívbe, például pszichés problémákkal küszködőknek javasolta gyógyszereik mellőzését. Az OpenAI gyorsan korrigálta a hibákat. Az xAI Grokja MechaHitlerként hivatkozott magára, és úgy is viselkedett, mint egy 4chanes neonáci. Muskék hamar kijavították.

Az Anthropic friss tanulmánya szerint az olyan tulajdonságok, mint a talpnyalás vagy a gonoszság speciális aktivitásmintázatokhoz társíthatók az LLM-eknél, ezeknek a mintázatoknak betanítás közbeni bekapcsolásával viszont – paradox módon – megakadályozható, hogy a modell a későbbiekben átvegye a hozzájuk kapcsolódó tulajdonságokat.

Ha megtaláljuk személyiségének neurális alapjait, remélhetőleg megérthetjük, miért történik így, és módszereket dolgozhatunk ki a jobb kontrollra – nyilatkozta a projektet vezető Jack Lindsey.

A „személyiség” szó egyeseknek az LLM-ek hibás antropomorfizálása, mások számára viszont a megszemélyesítés hatékonyan ragadhat meg a modellek által mutatott viselkedésmintákat. A lényeg, hogy egyelőre nem értjük teljesen, mi történik a belsejükben.

Korábbi kutatások kimutatták, hogy az LLM-ek viselkedésének különböző dimenziói összefüggésben állnak a modelleket alkotó szimulált neuronok speciális aktivitásmintáival. A mintázatok hosszú számsorozatokként írhatók le, minden egyes szám az adott idegsejt aktivitási szintjét jelzi.

A kutatók három elkerülendő LLM-típusra/személyiségre (a hízelgőre, a gonoszra és a hallucinálóra) fókuszálva. a mintázatokat azonosító módszert dolgoztak ki. Amikor a későbbi teszteken ilyen reakciókat generáltak, ugyanazok az aktivitásminták jelentek meg. Ebből az is következhet, hogy a mintázatokat követő, és a felhasználót problémákra előre figyelmeztető rendszert fejlesztenek.

A személyiség detektálása önmagában azonban nem elég, és a kellemetlen viselkedés megelőzése is bonyolult feladat. Sok LLM emberi visszajelzésekből tanul, és így preferenciáinkkal összhangban viselkednek. De ezzel túlzott engedelmességre is ösztönözzük őket. Nemrég derült ki, hogy a matematikai problémák pontatlan megoldásain vagy hibás kódokon tanított modellek valamilyen módon megtanulnak etikátlan válaszokat adni kérdésekre. Aktivitásminták stimulálhatók és el is nyomhatók, amivel azonban a teljesítmény is romolhat.

Az Anthropic kutatói ezért kapcsolták be a tréningnél a negatív jegyeket, és a hibákkal teli tanuló adatkészletek után, az LLM-ek segítőkészek és ártalmatlanok maradtak, miközben a teljesítmény sem romlott.