Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Kvantumszámítógépet mutat be a Honeywell

2020. március 20. - ferenck

A kvantummechanika elvein alapuló kvantumszámítógépek a lehetőségek szinte végtelen tárházát képesek kezelni, és kb. azonnal elő tudnak állni hasznos megoldások sokaságával.

Egyelőre azonban még nem építettek kereskedelmi célokra is használható kvantumkomputert. Úgy tűnik, most fog változni a helyzet.

A Honeywell ipari konglomerátum ugyanis három hónapon belül ma még kezdeti állapotban lévő, de kereskedelmi alkalmazásokra kísérleti szinten akkorra alkalmas kvantumszámítógépet tervez bemutatni. Az első nyilvános felhasználó a JPMorgan Chase lesz.

A cég egyik vezetőségi tagja, Tony Utterly elmondta, hogy a várt legalább 64 kvantummennyiség alapján rendszerük a világ legmasszívabb kvantumkomputere lesz. Óriási teljesítmény, hiszen a versenyben olyan markáns szereplők is érintettek, mint például az IBM, a Google (Alphabet), vagy a Microsoft.

honeywell.jpg

A kvantummennyiség az ezekre a rendszerekre alkalmazott mérték, meghatározza, hogy mennyire erős az adott gép. Kiszámításakor figyelembe veszik, hogy milyen komplexitású algoritmusokkal kell dolgoznia ahhoz, hogy az eredményeket ne zavarja meg a hőmérséklet változása, a „zaj”, frekvenciák és a pontosságot befolyásoló más tényezők.

A Honeywell gép jelenleg 16-nál jár, az IBM januárban 32-nél tartott.

Az érdeklődő cégek számítások szignifikáns felgyorsítására, új anyagok tervezésére, kereskedelmi szolgáltatásokhoz alkalmazandó új stratégiák kidolgozására, portfoliók optimalizálására használják majd a gépet. A Honeywell már fejleszt technológiákat ezeknek a szektoroknak.

Marco Pistoia, a JPMorgan Chase egyik vezetője nyilatkozatában megemlítette, hogy a géppel Monte Carlo szimulációkat is fognak végezni. A Monte Carlo szimuláció bevett módszer egy-egy opció elméleti értékének kiszámítására.

Utterly meggyőződése, hogy a kvantumszámítások nagyon mély hatást gyakorolnak rengeteg iparágra.

A cég nemrég kezdett el meg nem nevezett összeggel kvantum-szoftverfejlesztőket, például a cambridge-i Quantum Computing Ltd.-t (Egyesült Királyság) és a Zapata Computing Inc-et (Boston) támogatni.

A Gartner előrejelzése alapján 2023-ban minden ötödik szervezet, köztük vállalatok és kormányzati szervek költségvetésében szerepelnek majd kvantumszámítási projektek. Összehasonlításként, 2018-ban kevesebb, mint 1 százalékuk szánt éves büdzséjéből valamennyi összeget ilyen kezdeményezésekre.

Denevérektől tanulnak a drónok

A gyorsan fejlődő dróntechnológia újabb, mégpedig az élővilág egyik legkülönösebb lényétől ellesett lépéssel került közelebb az önnavigációhoz, azaz a járművek emberi segítség nélküli tájékozódásához.

A Purdue Egyetem kutatói ugyanis – egy, a denevéreket bemutató könyv alapján – a gépekhez környezetük visszhang alapján történő tájékozódáson nyugvó feltérképezését biztosító szerkezetet fejlesztettek.

denever.jpg

A drónt hangszóróval és négy mikrofonból álló felülettel szerelték fel, majd hagyták, hogy itt-ott, különféle helyiségekben „vesszen el.”

Az eddigi önmaguk navigálására hivatott drónok ugyan ügyeskék (de igazából nem túl ügyesek), de az új szerkezettel még jobban fognak teljesíteni.

denever0.jpg

A fejlesztést más területeken is alkalmazhatják, például hatékonyabban működő tartalék autókamerákat eredményezhet, illetve fogyatékkal élő személyeknek segíthet a tájékozódásban.

A visszhang alapján történő tájékozódás általában arra vonatkozik, hogy valaki kiabál egyet, aztán detektálják a hanghullámok visszafelé tartó útját, hogy megzavarta-e őket valami, vagy sem. Ha igen, a denevérek például rögtön tudják, hogy élelem vagy akadály van a közelben.

A Purdue Egyetem új drónja is nagyjából így működik. A hanghullámok visszaverődési (visszhang) és minden egyes mikrofonba való „visszatérési” idejének mérésével, a gép képes volt nagyjából pontos térképet készíteni környezetéről, hogy aztán hogyan hagyja el a szobát (falaival együtt), és közben az ütközéseket is kerülje el.

A mikrofonok „olvasatainak” összevetésével, a gép sikeresen kihagyta az összes „hamis pozitívot” – képzeletbeli falakat –, és pontosan navigált, repült az igaziak körül.

A négy mikrofonból álló rendszer jó eszköz helyiségek feltérképezéséhez. A következő lépés a mikrofonrendszer kisebb akadályok detektálására alkalmas átméretezése lenne. Mivel egy autó nem tudja körberepülni a szobát ahhoz, hogy lássa, mi van mögötte, optimális esetben mozgáskényszer nélkül kellene feltérképeznie a környezetét.

Tempó, a személyi tréner szoftver

Úgy tűnik, vége a hanyag, nemtörődöm edzéseknek, mert egy mesterséges intelligencia kijavítja a hibáinkat.

Az internetre kapcsolódó fitnesz-kerékpár, a Peloton évekkel ezelőtt robbant be a hétköznapokba, kultikussá vált, és iskolát teremtett, jöttek az online világba lépő bokszzsákok, gyaloglógépek és az edzést segítő egyéb eszközök. Bőséges a paletta.

Mindegyikhez tartozik valamilyen streamelhető, az eszközről nézhető fitneszlecke. Csak éppen egyvalami, valószínűleg a legfontosabb hiányzik eddig belőlük – egyik sem rendelkezik azzal a képességgel, hogy megmondja: úgy végezzük az adott gyakorlatot, ahogy kell, vagy sem.

tempo.jpg

Ennek lehet most vége.

A változást hozó szerkezet neve Tempó, egy 1,80 magas állvány, hatalmas monitorral (42 inches HD érintőképernyő), 1995 dollárért. Mozgáskövetője a Microsoft Azure Kinectje köré épült.

Mélységet érzékelő kamerái infravörös fényt bocsátanak ki, a gép pedig közvetett módon méri a fotonok mozgását a kamerától az emberi testig, és vissza stb. Ezzel a tevékenységgel folyamatosan változó, pontos 3D képet generálnak.

tempo0.jpg

Természetesen (a szekrényméretű Tempó is) kapcsolódik a netre, élőben vagy kívánság szerint (on-demand) streamel fitneszleckéket.

Az Azure Kinect fejlesztői csomag MI szoftvere követi a test mozgását. Tempó fejlesztői nem árulták el, hogy termékük ezt a modellt használja, vagy egy másikat. Az viszont biztos, hogy ideghálók közreműködésével elemzi a mozdulatokat, s mondja el, hogy jók, vagy sem.

Azért képes rá, mert úgy trenírozták változatos gyakorlatokon, hogy tudjon ítélkezni. Ha például a térdünk nincs a megfelelő helyen, azonnal jelzi.

Az élő fitneszedzések előnye, hogy edzőnk jobban látja, milyen formában vagyunk, és szól is, ha nem a kívánt úton járunk.

A jól végzett testedzés hatékony, és ha formában vagyunk, szervezetünk is jobban „megbirkózik” a kihívásokkal.

Ebben (is) segíti az embert az MI.  

Mesterséges intelligencia figyel a futószalag mellett

A mesterséges intelligencia nem biztos, hogy elveszi a munkánkat, viszont jó eséllyel megmondja a főnöknek, hogy mikor lóg a dolgozó.

A kaliforniai Palo Altoban és a dél-indiai infokommunikációs központ Bengaluruban működő Drishti startup MI-je ipari munkások termelékenységét követi nyomon. Tevékenységüket high-tech megoldásokkal azonosítja.

Az autóipari óriás Denso arra használja a Drishti technológiáját, hogy Battle Creek-i üzemében (Michigan állam) megszüntesse az üresjáratokat, azaz a munka a lehető leghatékonyabb legyen.

ai_watch.jpg

A Drishti rendszerét úgy gyakoroltatják, hogy az ügyfél ipari folyamataiban felismerje a szabvány cselekvéseket. A gyakorlóadatok több személyről készült, különböző kameraszögekből rögzített videofelvételeket is tartalmaznak. A szoftver a látottak alapján csoportosítja a cselekvéseket, teljesen figyelmen kívül hagyva a cselekvő személyét.

Az autóalkatrészeket összeszerelő alkalmazottakat kamerák figyelik. A rendszer megállapítja, mennyi ideig tart egy-egy feladat kivitelezése. Ha az átlagtól jelentős eltérést tapasztal, értesíti a vezetőséget.

ai_watch0.jpg

A dolgozók teljesítménymérő kijelzőjén élőben látják, milyen tempóban tevékenykednek. Ha a kijelző mosolygós fejet mutat, minden rendben van, ha viszont szigorú tekintet mered rájuk, akkor lassabbak a kelleténél, az elvártnál.

A Denso vezetősége elmondta a Forbesnak, hogy a rendszerrel a termelékenység több indikátorában kétszámjegyű növekedést értek el.

A Drishti egyik alapítója, Prasad Akella vezeti a General Motors együttműködő robotjainak fejlesztését. Az alapítók közé tartozik még a Googlenál, az Adobe-nál és a Flipkartnál is csoportokat vezető gépilátás-szakértő, Krishnendu Chadbury.

A fejlesztés fontossága egyértelmű. A gyártás 14 trillió dolláros üzlet. A Drishti által szponzorált kutatás alapján egy ember 72 százalékos teljesítményt nyújt a munkában, míg a negatívumok 68 százalékát emberi hibák okozzák. Ha munkánk mesterséges intelligencia segítségével hatékonyabbá válik, jelentős profit termelődik.

A hatékonyság azonban csak egy szempont. Egyre több iparág dolgozói emelnek szót az automatizált menedzsment ellen. Az Amazon raktárosai például tavaly élénken tiltakoztak az MI-ellenőrök ellen.

Algoritmusok figyelhetik és digitalizálhatják a dolgozó összes mozdulatát, a lépések mögötti érzelmekből viszont egyelőre semmit sem fognak fel.         

Történelem nagyfelbontásban

A mélytanulás (deep learning) nemcsak a jövő felé nyit kapukat, hanem a múltat is közelebb hozza, legalábbis erről tanúskodik egy Reddit felhasználó, Denis Shiryaev munkája.

Shiryaev New York Cityről közel 110 éve készült felvételeket alakított a 21. századhoz. A képeket automatikusabban élesebbé tette, növelte a képkocka (frame) rátát, és színesre cserélte a fekete-fehéret.

newyork.jpg

Egy svéd filmes 1911-es felvételeihez, (a Svenska Biografteatern számára készült) összesen 8 perc mozgókép-anyaghoz jutott hozzá.

Öt napon keresztül ideghálókon futtatta a filmet, speciális („feljavított szuper felbontású ellenséges generatív”) hálózattal dolgozott. A hálózhat számolta ki a plusz pixeleket, és a felbontást 4K-ra (azaz kb. 4 ezer horizontális pixelre) növelte.

newyork1.jpg

Egy másik speciális programmal („mélység-tudatos videokocka-közbeszúrás”) köztes képkockákat generált, és így elérte a másodpercenkénti 60 képkocka rátát. A korai 1900-as évek felvételein sokkal alacsonyabb ráta volt az általános, ezért tűnnek felgyorsítottnak, szaggatottnak, egyenetlennek (és gyakran megmosolyogtatónak).

A felvételeket a DeOldify programmal színezte ki, bár a Redditen megjegyezte, hogy az eredménnyel nem teljesen elégedett, mert a színeket nem tartja történelmileg pontosnak.

A hangeffektusok viszont sima digitális audioklipek; egyes kommentelők meg is jegyezték, hogy felismertek lónyerítéseket a legendás Age of Empire II videojátékból.

Shiryaev ugyanezeket a munkafolyamatokat 1896-ban Moszkváról készült felvételek, a Lumière-fivérek (Auguste és Louis) szintén 1896-os, A vonat érkezése minifilmjének, valamint az Apollo 16 űrhajó asztronautáinak 1972-es holdfelszíni sétájának „aktualizálására” is használta.

Az „új” filmek azért fontos munkák, mert régi időket elevenítenek meg, jelentősen feljavított, a jelenhez igazított képminőséggel, hitelesebb mozgással, és a sok korabeli film valósághűségét csorbító színhiányt is megoldotta.

Hasonló módszerekkel több hollywoodi klasszikust is aktuálisabbnak éreznénk, ugyanakkor nem biztos, hogy művészi értékük is nőne.

Koronavírus: Kína színkodot ad állampolgárainak

A koronavírus ellenére, Kína a munkába való visszatérést sugallja állampolgárainak. Ugyanakkor az állam döbbenetes kísérletbe kezdett – az adattudomány módszereit alkalmazva szabályozná polgárai életét.

A vírus további terjedését megakadályozandó, az ország vezetősége ugyanis előírta egy szoftver használatát a lakosok okostelefonján. A program megállapítja – eldönti –, hogy az illetőnek karanténba kell mennie, vagy változatlanul mutatkozhat nyilvános terekben (metrón, utcán stb.).

china_2.jpg

A szoftver kódja alapján nagyon úgy tűnik, hogy az információkat megosztja a rendőrséggel.

A kínai állampolgárok az Aliplay digitális pénztárca alkalmazáson keresztül iratkozhatnak fel rá, majd ezt követően egészségügyi állapotukat jelző színkódot kapnak. A válasz színe alapján kapnak engedélyt a szabad mozgásra, vagy éppen tiltják meg nekik például a tömegközlekedés használatát.

china0_2.jpg

Mihelyst a felhasználó engedélyezi az Aliplay Health Code (Aliplay egészség-kód) nevű szoftvernek a személyes adataihoz való hozzáférést, egyik komponense továbbítja aktuális tartózkodási helyét, a város nevét és egy azonosító kódszámot a szervernek.

A fejlesztők elmondták, hogy az Aliplay Health Code a big data-t használva osztályozza az illető fertőzési kockázatát, míg a kritikusok szerint a rendszer a tömeges megfigyeléssel nyugtalanító precedenst teremt az automatizált társadalmi ellenőrzésre.

A szoftvert a keleti Hangcsou városban vezették be először. A helyi önkormányzat projektjét az e-kereskedelmi óriás Alibaba leányvállalata, az digitális pénztárca appot jegyző Ant Financial segítette.

A rendszert ma már 200 városban és nemzeti szinten is bevezették, azaz előbb-utóbb az egész hatalmas ország használni fogja. Ugyanakkor sem a fejlesztőcég, sem a hivatalos szervek nem magyarázták el részletesen, hogy mi alapján osztályozza, csoportosítja az embereket. A magyarázat hiánya félelmet és nemtetszést váltott ki a program által karanténra ítélt személyekben, mert egyszerűen nem értik, miért született ez a gépi döntés.

Kínai internetszolgáltatók ugyan gyakran megosztanak adatokat a kormánnyal, de ennyire közvetlen módon nem szokták tenni. Körülbelül ugyanaz történik, mintha az USA-ban a Járványügyi és megelőzési hivatal például az Amazon vagy a Facebook által fejlesztett appon követné az állampolgárok egészségügyi állapotát, az infókat pedig megosztanák a helyi seriff-hivatalokkal.

Amerikai tudósok feketelyuk-alapú kvantum teleportálót építenek

A Maryland Egyetem fizikusai két térbeli pont között működő – ráadásul nemcsak elméletben, hanem a valóságban is működő – féreglyuk építését tervezik. Lényegében kvantumösszefonódással egybekapcsolt két feketelyukról van szó.

Mai ismereteink alapján semmi sem szabadul ki egy fekete lyuk elképesztő gravitációs szorításából. Viszont egy, pár évvel ezelőtti elméleti anyag szerint két összefonódott fekete lyuk képes a kvantuminformáció egymás közötti továbbítására, miután az információ áthaladt az eseményhorizontjukon. Azaz, nem semmisítik meg.

kvantum_teleport.jpg

Ha így történik, a fekete lyukak megvalósítanák a kvantum-teleportáció néven ismert jelenséget. Kvantumszámítógépet tervező mérnökök folyamatosan vizsgálják a teleportációt, és ebben az esetben ki is tudnák használni a benne rejlő lehetőségeket. A szakirodalom nagyon bőséges, és kódolt információk egyik gépről egy másikra történő eljuttatásáról is rengeteg tanulmány jelent már meg.

Tényleges fekete lyukak laboratóriumban történő létrehozása és összekapcsolásuk egyelőre néhány lépéssel túlesik a modern tudomány lehetőségein. A Maryland Egyetem két fizikusa, Christopher Monroe és Brian Single viszont azt gondolja, hogy képesek összefonódott fekete lyukakként működő kvantum-áramkört építeni.

kvantum_teleport0.jpg

Korábbi modellek alapján az áramkör pontosan úgy viselkedne, mint ahogy egy nagyon kicsi fekete lyuk. Ez pedig azt jelenti, hogy a létrehozott rendszer nemcsak megpróbálná lemásolni a fekete lyuk tevékenységét, hanem nem lehetne megkülönböztetni a valóditól.

Ha működik, inputként juttatja az információt az egyik „fekete lyuk” áramkörbe, amely egy kicsit összezavarná, majd elfogyasztaná. Rövid idő múlva ugyanaz az infó a másik áramkörben jelenne meg, oda továbbítaná – eredeti formájában, dekódolva jutna el a másikba.

A rendszert az különbözteti meg a mai kvantum-teleportációs technikáktól, hogy az információt sokkal könnyebben és gyorsabban dekódolja, így a számítógép lényegesen kevesebb hibát vét a dekódolásnál.

Az összefonódott fekete és féreglyukak ötlete ugyan sci-fiket, kozmikus utazásokat idéz fel képzeletünkben, jelen kutatás azonban sokkal „földhözragadtabb” és kivitelezhetőbb, a kvantumszámítási technológiát jobbá tevő kísérlet.

Norman Yao, a Berkeley-i Kaliforniai Egyetem kutatója szerint a fekete lyukak bizarr tulajdonságainak újraalkotása és összefonódása, a lehető legrövidebb időn belül teszi lehetővé a kvantum-teleportációt.

Hogyan tudjuk meg, ha egy MI elpusztítja a civilizációt

Elképzelhető, hogy egyszer arra ébredünk, hogy feltűnt egy döbbenetes képességekkel rendelkező MI, és a következmények katasztrofálisak lesznek?

Több tudományos és tudományos-fantasztikus könyv, film foglalkozott már a témával, tanulmányok tömkelege veti fel újra és újra az emberiségre gépek formájában leselkedő egzisztenciális kockázatot.

 

Az idők végezetéig történő spekulálásnál azonban hasznosabb, ha feltesszük a kérdést: ki vagy mi fog figyelmeztetni, ha a szuperintelligencia már a sarkon jár?

Ezek az előhírnökök olyanok, mint a kanárik a szénbányában. Ha egy MI-programban alapvető új képesség fejlődik ki, az olyan, mint a bányában elájuló kanári – korai figyelmeztetés az MI közelgő ébredéséről.

Az 1950-es Turing-teszt nem lehet kanári, mert inkább azt jelzi, hogy itt az emberszintű MI. Egyes limitált változatai viszont igen.

A különféle játékokban szenzációsan teljesítő MI-k sem azok.

A területet az utóbbi 10 évben a gépi tanulás mozgatta. Csakhogy maga a szóösszetétel is paradoxon, mert a gépek tanulása meg sem közelíti az igazit, az emberi tanulást.

A tanulási problémák automatikus megfogalmazása lehet az első kanári, az önvezető autók a másodikak. A vezetés sokkal több kihívást tartogat, mint a korábbi MI-munkák, valósidejű, kritikus gépi döntések kellenek hozzá.

Az MI doktorok – az egészségügyben dolgozó programok, algoritmusok – szintén kanárik, kihívásokkal teli munkájukhoz valamilyen szinten az embereket is kell érteniük, és át sem akarnak verni senkit, hogy ők emberek.

A mostani MI-k „idióta tudósok” – szűk területen (például sakkban) sikeresek, az emberi általánosítás és sokoldalúság viszont hiányzik belőlük.

Egyes elméletek szerint mindenképpen terveket kellene készítenünk a kis valószínűségű, de nagyhatású eseményekre. A következmények annyira mélyek, hogy a valószínűségükre vonatkozó becsléseink valószínűleg teljesen érdektelenek – folytatódik az okfejtés.

A felsorolt kanárik mind jelzik, hogy milyen messze is vagyunk az emberi szintű intelligenciától.

Gyorsan tanuló drónok

A kaliforniai Menlo Park székhelyű Skydio drónjai extrém sportokat űző személyeket követnek és filmeznek: skateboardosokat, hegyi kerékpárosokat stb. Mindenféle terepet érdeklődéssel figyelnek.

A cég utánzásalapú tanulást használt a robotpilóta modell prototípusának kidolgozásához. A nagyon gyorsan haladó modellnek szintén száguldó célpontok követése közben kell elkerülnie az akadályokat.

skydio.jpg

A gépet hat darab halszem-optikás kamerával szerelték fel, lehetővé téve, hogy 360 fokban lásson. Egymástól elkülönített modellek térképezik fel a környezetet, követik a célpontot, jelzik előre a célpont útvonalát, tervezik meg a drón pályáját.

A szabályalapú robotpilóta szoftvernek távolból azonban problémái akadnak a részletek megragadásával, például kicsi faágakkal, telefonkábelekkel stb. Ha a drón nagyon gyorsan repül, sokszor a pillanat törtrésze alatt kell felemelnie a szárnyát, ami kockázatos.

skydio0.jpg

Következő lépésben a kutatók elejétől a végéig, az összes folyamatra hatással lévő ideghálót fejlesztettek. Tevékenysége eredményeként az ember nélküli légi jármű gyorsabban fog repülni, és az akadályokat is sikeresebben el fogja kerülni, mint a mostani robotpilóta.

Szabvány utánzásos tanulóalgoritmus gyakoroltatásával kezdték. A valóságból összegyűjtött adatoknak a jelenlegi rendszer által generált „korpuszán” tanult, az akadályokat (faágak stb.) viszont nem általánosította elég jól. A kutatók szerint azért nem, mert a nyílt, kék égen gyakran nincsenek akadályok, és még egy jó útirány bejárásához is nagyon kevés a hasznos tanulás.

Következő lépésben távolból cserélték fel a tanuló és a robotpilóta cselekedetei közötti tanulással kapcsolatos jelzéseket a robotpilóta jutalmazó funkciójával. Ezzel egyidőben növelték a büntetés mértékét, ha a drón zsúfolt környezetben repülve, megváltoztatja az eredeti döntéseit. A változtatás a modellt a távoli, közelről veszélyes faágak stb. helyzetének megtanulására ösztönzi.

A büntetőrendszer pedig enyhén fás környezetben, mindössze három órányi gyakorlóadattal tanította meg a drónnak az eredményes célpont-követést.

Az új szoftvert még fejlesztik, a Skydio nem árulta el a forgalmazás időpontját.      

A megerősítéses tanuláson alapuló MI-k sebezhetőbbek, mint hittük

A focibot, egy kapus ki akarja védeni a csatár lövését, védés helyett azonban földre veti magát, és a lábával fura mozdulatokat tesz. A csatár lövés helyett pedig táncolni kezd, majd hirtelen összeesik.

Ketten játszanak, 1-0ra vezet a kapus.

A kaotikus jelenet tanulsága, hogy mély megerősítéses tanulással gyakorló mesterséges intelligenciák sebezhetőbbek, mint gondoltuk. A következmények súlyosak lehetnek. (Ez a technika áll például a DeepMind AlphaZeroja, az OpenAI Five és az önvezető autók, automatizált kereskedőrendszerek és játékok mögött is.)

sebezheto_mik.jpg

Az utóbbi években kutatók több módszert találtak a címkézett adatokon, azaz felügyelt tanuláson gyakorló MI-k meghackelésére. Elég néhány apró változtatás az inputon (egy képen pár pixel), és az ellenséges támadásra nincs megoldás.

Most az újabb és kevesebbet tanulmányozott megerősítéses tanulásról is ugyanez derült ki. A módszerrel az MI-k elsajátítják, hogyan viselkedjenek különböző helyzetekben. Ha helyesen cselekednek, jutalmat kapnak. Megtanulnak akcióterveket készíteni, ezek a tervek teszik lehetővé, hogy például autót vezessenek.

2017-ben már kiderült, hogy a klasszikus videójáték Pongot játszó MI egyetlen pixel módosításával alaposan megzavarható.

sebezheto_mik0.jpg

Adam Gleave, a Berkeley-i Kaliforniai Egyetem kutatója viszont már nem nemlétező dolgokat akar láttatni MI-kkel, hanem a körülöttük lévő dolgok viselkedését változtatja meg. Korábban nem foglalkoztak ezzel a fenyegetés-modellel.

A stratégia nyugtalanítóbb, mint a felügyelt tanulással gyakorló MI-ket ért támadások. Az ok: az MI teljes magatartását érinti, például önvezető autónál nem egy-két szenzor hibásodik meg, hanem a teljes kontrollt elveszíti, nagy sebességgel nekimehet egy szabályosan közlekedő gyalogosnak stb.

Gleave és kollégái két-résztvevős játékokat játszattak botokkal – fociztak, versenyt futottak, szumóztak. Tisztában voltak ellenfeleik testhelyzetével és mozgásaival.

Következő körben egy második „botcsapatot” gyakoroltattak, amelyek nagyon hamar rájöttek az ellenlépésre. Az áldozataik által a játék elsajátítására fordított időnek kevesebb mint 3 százaléka elegendő volt nekik.

Nem lettek jobb játékosok, csak kitanulták, hogyan kuszálható össze teljesen ellenfeleik akcióterve. Azért (is) lehetnek eredményesek, mert mély megerősítéses tanuláskor és teszteléskor az MI-k ugyanazt a környezetet használják, és soha nem lehetünk biztosak, hogy a modell hogyan reagál új helyzetekre.

süti beállítások módosítása