Egyes ellenséges generatív hálózatok (GAN) által létrehozott képek rendeltetése a gépilátás-rendszerek megtévesztése. Az általuk létrehozott mintázatok alkalmasak az egyébként hatékony arc- és tárgyfelismerő rendszerek átvágására, olyan dolgokat és arcokat értelmeznek félre, amelyeket különben simán azonosítanának.

Ilyen trükközéssel hackerek kijátszhatnak biztonsági rendszereket. De vajon a szöveget képpé alakító algoritmusok, speciálisan gyakoroltatott ideghálók is ennyire könnyedén átverhetők?

Raphaël Millière, a Columbia Egyetem mesterségesintelligencia-kutatója szerint igen. Rájött, hogyan lehet fiktív szavakkal úgy kijátszani őket, hogy a rendszer speciális válaszokat generáljon.

Az utóbbi hónapokban ezek a rendszerek annyit fejlődtek, hogy a felhasználó például begépeli az „űrhajós lovagol” mondatot, és meglepően élethű képet kap. A rendszerek nem tökéletesek, de mégis lenyűgözőek.

Nonszensz szavakkal, például Lewis Carroll egyes verseivel az emberek is átejthetők, mert speciális képek ugranak be róluk. Millière azt tanulmányozta, hogy a szövegből képet létrehozó algoritmusok is ugyanígy sebezhetők, vagy sem. Sajátos technikát dolgozott ki fantáziaszövegekhez – a „macaroni prompting” különböző nyelvek létező szavaiból hoz össze valamit. A szikla angolul cliff, németül Klippe, olaszul scogliera, franciául falaise, spanyolul acantilado, az új szó pedig „falaiscoglieklippantilado.”

Meglepetésére, amikor a DALL-E 2-nek begépelte a kamuszót, a rendszer sziklákat ábrázoló képsorozattal állt elő. Utána ugyanezzel a módszerrel más szavakat alkotott, és az eredmények is hasonlók voltak. Minden egyes esetben DALL-E 2 az angol szó alapján generált élethű képeket.

A kutató mondatokat is alkotott a kamuszavakból. Az eredmények megint az értelmesen értelmetlen mondatra rímeltek, azaz lényegében hibrid nonszensz szövegekkel szinte bármiről készíthető kép. Ha a szövegeket összekombináljuk, még komplexebb képek születnek (2. ábra).

Ez azért is lehetséges, mert sok képet több nyelven címkéznek fel, így a fiktív szavak rendelkeznek olyan információkkal, amelyeket a rendszer képes dekódolni, ami biztonságtechnológiai szempontból aggasztó – a szóalkotó technikával különféle szűrők játszhatók ki, és káros (rasszista, uszító stb.) tartalmak jeleníthetők meg.

Millière javaslata: ha nem akarunk bizonyos képeket, a gyakorló adatsorból szedjük ki az összes példát, vagy az algoritmus közzététele előtt ellenőrizzük valamennyi képet.

A szövegből képet generáló rendszerekkel egyelőre korlátozott a felhasználói interakció. A Google például nem tette közkinccsé a két legfejlettebbet (Parti, Imagen), és a DALL-E 2 (OpenAI) hozzáférhetősége is korlátozott.

A jövőben viszont egész biztosan széles körben elterjednek. Fontos, hogy gyengeségeikkel és korlátaikkal is tisztában legyünk, mert nagyon nem mindegy, hogyan, milyen szabályozói környezetben használjuk majd őket.

Az Egyesült Államok űrügynöksége, a NASA 50 millió dolláros szerződést kötött az arizonai Microchip Technologies-szal. Három év alatt fejlesztenek HPSC processzort. (A HPSC a high-performance spaceflight computing rövidítése.)

Az 1989-ben alapított vállalat nem számít nagy névnek a processzorok világában, viszont komoly tapasztalattal rendelkezik az űrbeli, barátságtalan környezetben működő, az ottani sugárzást tűrő infokommunikációs megoldások kidolgozásában. Főként beágyazott mikrokontrollerekről és 32 bites rendszerekről ismert.

A megbízható és masszív Ethernet hálózatra alkalmas, fejlett mesterséges intelligenciával és gépi tanulással rendelkező, biztonságos és alacsony fogyasztású, méretben és tömegben egyaránt optimalizált új processzor az elvárások alapján legalább százszor nagyobb számítási kapacitással fog rendelkezni, mint a jelenlegi űrhajó-számítógépek.

Az ugrás első olvasatra nehezen megvalósíthatónak tűnik, valójában azonban egyáltalán nem az.

A NASA Orionja ugyanis az eredetileg a Boeing 787-re tervezett Honeywell űrkomputert, a 2014-es indítás idején már tizenkét éves rendszert használ. Ezek a számítógépek nem feltétlenül gyorsak, viszont abszolút megbízhatónak kell lenniük, nem szabad meghibásodniuk, vagy ha mégis, hibákkal együtt is működniük kell.

A fentebbi szempontok a világűrben fontosabbak a gyorsaságnál.

A Hubble űrteleszkóp például eredetileg 1980-ban épült DF-224 számítógépet használt, 1993-ban 16 MHz Intel 386-tal újították, 2000-ben 25 MHz Intel 486-tal helyettesítették, miközben már a Pentium 4 korszakát írtuk.

„Majdnem harminc éve fejlesztették a jelenlegi űrhajós számítógépeinket. A missziók során jól teljesítettek, a jövőbeli NASA-küldetésekhez viszont jelentősen nagyobb fedélzeti számítási kapacitás és megbízhatóbb rendszer kell. Az új processzorral megvalósul a kívánt teljesítmény, a hibatűrés és a majdani missziókhoz szükséges flexibilitás” – nyilatkozta Wesley Powell, az űrügynökség egyik főmérnöke.

A Kínai Tudomány és Technológia Egyetem és a Jünani Kvantumtechnológiai Intézet kutatói megdöntötték a kvantummemória-összefonódás világcsúcsát: két kvantummemóriát az eddigi legnagyobb távolságon, 12,5 kilométeren kapcsoltak össze. (Ezek a memóriák kvantumállapotban lévő információkat tárolnak.)

A világcsúccsal a kvantumszámítógépek közötti decentralizált kommunikációt biztosító kvantuminternet elmélete közelebb kerül a gyakorlati megvalósuláshoz. Kiderült az is, hogy az összefonódott memóriák még akkor is koherensek maradnak, ha városi környezet választja el őket egymástól.

Elméletileg az összefonódás a távolságtól függetlenül is fenntartható. Csakhogy a kvantumgépek nagyon érzékenyek a környezeti hatásokra, amelyek következtében az összefonódás és a koherencia hamar megszűnik.

A kínai kutatók jelenlegi munkája 2020-as kísérletekből indult ki, amikor két különböző kvantumbitet ötven kilométeres száloptikai kábelen tartottak összefonódott állapotban. A kísérlet azonban ugyanabban a laborban történt, a kábeleket a lehetőségekhez képest maximálisan összezsugorították, és az összefonódást megszüntető környezeti interferencia sem volt.

Most egy fotont „utaztattak” két különböző labor között, és sikerrel jártak, azaz a két memória két különböző helyszínen, egymástól függetlenül funkcionált.

Egyetlen foton 12,5 kilométerre történő minőségveszteség nélküli továbbítása bonyolult feladat. Az általa kibocsátott alacsony energiaszint miatt különösen érzékeny a több energiával rendelkező részecskék, hullámok által okozott interferenciára.

Ezt megakadályozandó, a kutatók megváltoztatták a foton hullámhosszát, amellyel az átviteli hatékonyság jelentős mértékben nőtt.

A fotonok interferencia-érzékenysége biztonsági szempontból is nagyon fontos – ha például egy hacker el akarja „csípni” a fotont, hogy hozzáférjen a benne lévő információkhoz, összeomlás az eredmény, azaz külső behatoló (egyelőre) képtelen megkaparintani a kvantummemóriákban tárolt adatokat.

A tudományos kutatások visszaélése a gépi tanulással komoly gondokat okoz, például reprodukálhatatlan, tehát hitelesíthetetlen eredmények születnek – mutatta ki a Princeton Egyetemen nemrég tartott workshop. A résztvevők kiemelték a rosszul tervezett modellek hatását a medicinában, biztonságban, szoftverfejlesztésben és más területeken is.

A reprodukálhatóságot megvalósíthatatlanná tevő gyakori buktatókra is rávilágítottak.

Egyikük az adatszivárgás, beleértve a tesztsor és a tesztsoron történő gyakorlás hiányát is. Ezeknek kellene biztosítaniuk, hogy milyen funkciókat használjunk később, a döntések pedig a teszteken mutatott teljesítményen alapulnak.

A nem elegendő adatokból történő téves következtetések levonása szintén a buktatók közé tartozik. Akárcsak az is, ha olyan területekre alkalmazzuk a gépi tanulást, amelyeken nem ez a legadekvátabb technológia, legcélravezetőbb módszer. Utóbbi jelenség az egy adott pillanatban divatos összes technikai megoldásra érvényes.

A workshop után a Princeton Egyetem kutatói metaelemzést végeztek, és 329 olyan tudományos publikációt azonosítottak, amelyekben a rosszul implementált gépi tanulás megkérdőjelezhető eredményhez vezetett.

Gyakorlott gépitanulás-szakértők tisztában vannak a workshopon kimutatott buktatókkal, más területeken dolgozó kutatók viszont nem biztos. Amikor a gépi tanulást kissé naivan alkalmazzák, hiteltelen eredményeket érhetnek el vele. Ezekkel az eredményekkel részben magát a gépi tanulást is hiteltelenítik. Sőt, rosszabb dolog is történik: lealacsonyítják a tudományt, és a szkeptikusabb szellemű vagy a mesterséges intelligenciát eleve elutasító tudósok így még kevésbé bíznak meg a tanulóalgoritmusok hatékonyságában.

E jelenségek miatt van szükség az olyan workshopokra, közös gondolkozásra, mint amilyet a Princeton Egyetemen tartottak. Mindaddig nagyon hasznosak lehetnek, amíg a gépi tanulás sokkal szélesebb körben el nem terjed, és a mainál nagyságrendekkel több tudós alkalmazza.

A járható utak egyike lehet, ha minél több az interdiszciplináris projekt, soraikban mesterségesintelligencia-szakértőkkel és más területek kutatóival is. Az MI-szakértők felhívhatják az utóbbiak figyelmét a gépi tanulás korlátaira.

A mesterséges intelligencia a világot több súlyosan sérült, bénulásban szenvedő személy számára teszi hozzáférhetőbbé, megközelíthetőbbé és természetesen élvezhetőbbé.

A koppenhágai Oitcon hallást segítő technológiája ideghálót használ az emberi beszéd azonosítására, felerősítésére. Az Envision úgy módosított a Google Glass kiterjesztett valóság (augmented reality, AR) szemüvegen, hogy vakok és gyengén látók is használhassák, segíti őket a környezetükkel folytatott interakciókban. Látómezőjükben objektumokat emel ki, hangalapú leírásokat ad róluk, szövegek kerülnek felolvasásra.

Az amerikai felnőttek 13,7 százalékának jelent komoly problémát a lépcsőkön fel- és lefelé történő mozgás – állapította meg egy friss egészségügyi jelentés. Egyes technikai eszközök sokat segíthetnek rajtuk, lehetővé teszik szabadd és hatékonyabb mozgásukat.

A legfrissebb újítás a San Franciscói Cionic startup és a Fuseproject tervezőstúdió Neural Sleeve nevű, ruhával befedett szerkezete mobilitási gondokkal küszködő személyeket segít a járásban. Az eszköz elemzi és korrigálja a felhasználó lábmozdulatait. Sclerosis multiplexben, agybénulásban, gerincvelő-sérülésben szenvedő és stroke utáni betegek mozgáskoordinációján javít.

A kütyüben lévő elektródák a felhasználó bőrével érintkeznek, leginkább azon a részen, ahol a lábizmok találhatók. Az izmok mozgás közbeni impulzusait gépitanulás-modell elemzi, majd stimulálásukra utasítja az elektródákat. Ezt úgy teszi, hogy közben a felhasználó testtartását és a lábmozdulatait egyaránt korrigálja.

A modellt komoly mennyiségű izommozgás-adaton gyakoroltatták. Az ideális mozgáson, egészséges emberek mozgásán tanult. Később finomhangolták, amihez figyelembe vették a specifikus páciens, jövőbeli viselője izommozgás-adatait is.

Az elektródákból jövő inputot használva, határozza meg a felhasználó mozgása és az ideális mozgás közötti különbséget. Kiszámolja a viselő izmait az ideális felé vivő elektromosimpulzus-mintázatokat, majd az információkat visszaküldi az elektródákhoz, amelyek az izmok felé továbbítják a specializált impulzusokat.

Miután Mark Zuckerberg tavaly kijelentette, hogy a metaverzum fejlesztésére összpontosítanak, a virtuális valóság (VR) megint az érdeklődés középpontjába került. Az új digitális világban a tervek szerint interakciókat folytathatunk egymással, dolgozhatunk, szórakozhatunk. Az egyelőre még mindig sisakszerű VR headset nélkül viszont nem tudjuk használni a metaverzumot.

Az ergonomikusnak egyáltalán nem nevezhető hagyományos VR „sisakok” nem feltétlenül alkalmasak erre, tömeges mértékben többek között miattuk nem terjedhetett el a VR. Ha tényleg a metaverzum az internet jövője, akkor egyszerűbb, felhasználóbarátabb megoldásokra van szükség.

A mai sisakok azért ormótlanok és nehezek, mert régi tervek alapján készítik őket. Szinte mindegyik fejlesztő hasonló tervrajz alapján dolgozik, és a headsetekben van egy, a tőle kis távolságra lévő képet felnagyító objektív. Ez csak úgy valósítható meg, pakolható egy rendszerbe, ha a kijelző és a lencse kellő távolságra vannak egymástól. Ezért nagyok a headsetek. 

A Stanford Egyetem és az Nvidia kutatói új koncepcióval, a headsetet 2,5 milliméterre redukáló, úgynevezett „palacsinta lencsékkel” álltak elő, és ez az első alkalom, hogy 3D-s képeket ilyen kijelzőn jelenítenek meg.

A palacsinta lencse nem stanfordi és nem is Nvidia-találmámy, többen próbálkoztak már vele, de eddig csak 2D-s képekig jutottak el. Néhány éve ez még komoly újításnak számított, ma viszont már kizárólag a 3D jelenti a megoldást.

A Holografikus szemüveg szemhez közeli kijelző-rendszerét a VR-hez találták ki. A pupillát utánzó hullámvezetőből, térbeli fénymodulátorból és geometrikus fázislencséből áll, hogy holografikus képeket hozzanak létre a pehelykönnyű és vékony hardveren.

Az új kialakítás 2,5 milliméteres optikai köteg jóvoltából teljes színben képes 3D holografikus képek megjelenítésére. A teszteléshez asztali és magunkon viselhető (wearable) prototípusokat dolgoztak ki. Tömegük mindössze 60 gramm, használatukhoz nem kell vezérlő board.

A kutatók jelenleg a rendszer tökéletesítésén dolgoznak, mert mostani állapotában még nem alkalmas a kereskedelmi forgalmazásra. A prototípusokból terméket kell kidolgozniuk.

A Meta – az újra brand-elt Facebook – állítása szerint a cég mesterséges intelligenciával működő új chatbotja szinte bármilyen témáról képes csevegni.

Az online beszélgető robot például azt mondta a BBC-nek, hogy Mark Zuckerberg pénzért használja ki a felhasználókat.

A BlenderBot 3 nevű program nemrég közzétett bétaváltozata arra a kérdésre válaszolt így, hogy mit gondol a vállalat alapító-vezérigazgatójáról. A Meta egyébként figyelmeztette a felhasználókat, hogy a chatbot kemény és sértő válaszokat is adhat.

A „beszélgető-prototípus” Zuckerberget „rossz embernek”, „túl szörnyűnek és manipulatívnak” is nevezte, és belengette: előbb-utóbb törli a főnök Facebook-profilját.

„Minden felhasználót megkérünk, vegye tudomásul: a chatbot csak kutatási és szórakozási célokra használható, és lehetnek hamis vagy sértő állításai. Bele kell egyezniük, hogy szándékosan nem késztetik sértő állításokra” – jelentette ki a Meta egyik szóvivője a bétaváltozat megjelenésekor.

BlenderBot 3 nyilvánosan hozzáférhető, nagymennyiségű nyelvi adatból tanul. Ha megkérdeznek tőle valamit, algoritmusa internetes keresés után válaszol, online informálódik a kérdésről. Nyilván ezt tette Zuckerberg esetében is, egy csomó ember az algoritmus által elemzett véleményéből tanult.

Ha egy mesterségesintelligencia-rendszer a való világban léphet interakcióba emberekkel, folytathat velük szerteágazó témákban beszélgetéseket, a jövőben változatosabb kommunikációra, hitelesebb visszajelzésre lesz lépes – vélik a Meta fejlesztői.

Ha emberektől tanul, törvényszerűen nemcsak a jót, hanem a rosszat is megtanulja tőlük. 2016-ban a Microsoft botja például Twitter-felhasználók bejegyzéseiből informálódva, tett rasszista kijelentéseket. A Meta is bekalkulálta, hogy bármi előfordulhat, és hiába telepített megfelelő biztonsági megoldásokat a rendszerbe, a trumpistának tűnő BlenderBot 3 azok ellenére is lehet agresszív, sértő. Nem lehet pontosan előrejelezni a reakcióit.

A Metának bőven akad még mit finomítani rajta, és arra is vigyáznia kell, hogy a világtörténelem egyik legnagyobb dezinformációs gépezete mögött álló cég chatbotja ne váljon a félretájékoztatás hatékony fegyverévé.

A mélytanulás (deep learning) egyre fontosabb szerephez jut a történelem megértésében.

Az Ithaca idegháló feliratokat ábrázoló képek minőségégének javításával, a helyszín azonosításával segíti az ógörög világot tanulmányozó történészek munkáját.

Az Észak-Arizona Egyetem kutatói által fejlesztett idegháló több évszázados kerámiadarabok osztályozásával járul hozzá az őslakos kultúrák megismeréséhez. A kerámiákat azokhoz a prekolumbiánus népekhez társítják, akikről a régészek kapcsolatot feltételeznek – az ő munkáik lehettek.

A Transkribus több eszközzel ismer fel és készít átiratot történelmi kézírásokról. A felhasználók 50-100 történelmi átírat segítségével akár a saját maguk által fejlesztett modellt is begyakoroltathatják.

Perui kutatók mesterséges intelligencia által irányított képelemzéssel vizsgálnak egy, az óceánparti sivatagos részen található, kb. kétezer éves képet. Légi felvételek alapján különleges mintázatot mutattak ki rajta: háromszarvú emberforma lény pálcát tart a kezében.

A legmegrázóbb egy friss projekt. 

A Google-szakemberek által létrehozott From Numbers to Names (Számoktól nevekig) oldalon nyilvánosan hozzáférhető Holokauszt-képgyűjteményben lévő arcokhoz társíthatók felhasználók által feltöltött képek. Az oldal célja, hogy családtagok, rokonok, barátok így ismerhetik fel elvesztett szeretteiket. (A képanyag az Egyesült Államok Holokauszt Emlékmúzeumának tulajdona.)

Az ingyenes fiókkal rendelkező felhasználó képet tölt fel az oldalra. Legjobban 1960 előtti, egyetlen arcot tartalmazó, szürkés, fekete-fehér fotókkal működik – figyelmeztetnek a fejlesztők.

A rendszert megtanították, hogy kiszámítsa a feltöltött kép és a múzeum mintegy 35 ezer fotóján látható 177 ezer arc valamelyike közötti hasonlóságot, majd a tíz legmagasabb pontszámú arc listájával áll elő.

A fejlesztők elmondták, hogy több fotót akarnak feltölteni a Holokauszt idejéből és az azt megelőző évekből. A rendszer a múzeum 1265 órás film- és videóarchívumát is elemzi.

Egy új gyógyszer fejlesztése, piacra kerülése akár évtizedekig is eltarthat, ráadásul milliárd dollárokat elkölthetnek addig rá. Mesterséges intelligencia használatával sokféleképpen csökkenthetők a költségek, redukálható az idő. Laboratóriumi kísérletek nélkül ismerhetők fel hasznos molekulák, azonosíthatók betegek, akikre jó hatással van ez és az a gyógyszer, előrejelezhetők páciensek reakciói – csak néhány példa az MI gyógyszeripari használatára. Ezekkel mind munka és idő takarítható meg.

A GlobalData friss anyaga alapján a globális gyógyszeripar 2025-ben 3 milliárd dollárnál többet fog költeni MI-re. Olyan cégek fektetnek a technológiacsaládba, mint például az Astra-Zeneca, a Pfizer, a Sanofi. MI-vel foglalkozó startupokba invesztálnak, együttműködnek velük, felvásárolják őket. 2018-ban csak 23 ilyen partneri kapcsolat volt, 2021-ben 67.

Gyógyszeripari cégek több országban egyre nagyobb számban alkalmaznak gépitanulás-szakértőket. A legtöbb állásajánlat az Egyesült Államokban jelenik meg, de egyes európai és ázsiai országokban szintén folyamatosan nő az MI-szakemberek iránti gyógyszeripari kereslet.

A GlobalData álláshirdetéseit elemezve, kiderült, hogy idén júniusban, az adatbázisban szereplő gyógyszeripari cégek 26,4 százaléka legalább egy gépitanulás-állást hirdetett meg. Ez 2,3 százalékos növekedés 2021 júniusához képest.

A három tavaszi hónapban meghirdetett gyógyszeripari gépitanulás-állások 61 százaléka az Egyesült Államokhoz kapcsolódik. Országon belül Boston/Massachusetts az első, San Francisco/Bay Area a második, a szintén kaliforniai San Diego a harmadik.

Ugyanabban a három hónapban a három európai ország, Belgium, Franciaország és az Egyesült Királyság mindegyikéhez a hirdetések kevesebb mint hat százaléka volt köthető.

Ebben a periódusban az Ázsia/Csendes-óceáni térségben 1,9 százalékkal csökkentek a számok. A csökkenés nem volt konzisztens – míg Kína az előző hónapokban a globális részesedés öt százalékát érte el, addig a vizsgált időszakban csak kettőt. Ezzel szemben Indiában ötről hat százalékra emelkedett a mutató.

A rovar-, gyom- és gombairtó szerek egyrészt veszélyesek lehetnek, másrészt viszont lehetővé teszik a mezőgazdaság számára a világ folyamatosan növekvő lakosságának élelmiszer-ellátását. Sokszor azonban túl nagy az ár, mert a károkozókkal együtt jótékony állatok, például a virágok beporzását végző méhek is elpusztulnak.

A gépi tanulás segíthet rovarirtó szereket tervező mérnököknek – ezek az új szerek a célállatok kivételével minden más teremtmény számára veszélytelenek lehetnek.

Méhek nélkül fontos növények, például a gyapot, az avokádó, a legtöbb gyümölcs termesztése gondot okozna. Sok tanulmány viszont egyértelműen bebizonyította, hogy a rovarirtó szerek ártanak a méheknek, egyaránt növelik a házi- és a vadméh-populáció mortalitását, csökken a méhfajok száma.

Az Oregoni Állami Egyetemen modelleket dolgoztak ki, amelyek megállapítják, hogy egy vegyszer halálos méreg egy méh számára, vagy sem. A kutatók szerint megközelítésüket alkalmazva, kidolgozhatók méhekre veszélytelen rovarirtók.

Két idegháló osztályozta, mérgező és nem mérgező kategóriákba csoportosította a molekulákat. Az adatsor 382 rovarirtó molekulát (grafikonokat) tartalmazott, mindegyikben minden egyes atom csomópont, az atomok közötti kapcsolat pedig él, toxicitás címkékkel.

A kutatók különféle módszerekkel trenírozták a modelleket.

Az egyikben az összes gráfot vektorrá fordították, a vektor az atomok elrendezését reprezentálta. Biokémikusok azok alapján hasonlítják össze a molekulákat. Például van olyan jegy, ami arra utal, hogy egy molekula tartalmaz foszfort. A modell inputként használja ezeket a vektorokat.

A másik módszernél a négy összekapcsolt atom összes lehetséges láncolatának előfordulását számoló vektor volt a modell inputja. Mérgező molekulák hasonló számokkal rendelkezhetnek.

A két modell hasonlóan teljesített. A molekulák 81-82 százalékát méhek számára mérgezőként vagy nem mérgezőként azonosították. A mérgezők közül 67-68 százalékos valóban veszélyesen mérgező.