Az izraeli rendőrség hamarosan autonóm drónokat fog kiküldeni olyan helyszínekre, ahol lövöldözést derítettek fel – állítja a változatos high-tech termékeket fejlesztő amerikai ShotSpotter vállalat.

A cégnek már az eddigi technológiái is ellentmondásosak, megosztják a szakmai közvéleményt. Jelen fejlesztés lényege, hogy az eszköz akusztikus szenzorokkal érzékeli a lövéseket, figyelmezteti a rendőrséget.

A ShotSpotter nemrég állt össze az Airobotics vállalkozással, hogy a zavaró jelzésekre reagáló drónokat dolgozzanak ki.

„Az Airobotics véleménye szerint, azzal, hogy összeálltunk a lövések felderítésében vezetőnek számító ShotSpotterrel, jobb technológiai lehetőségeket kínálunk az Izraelben elkövetett fegyveres bűnök kezelésére” – nyilatkozta Meir Kliner, az Airobotics vezérigazgatója.

Kliner hangsúlyozza: a partnerség fontos lépés cége stratégiájában. Folyamatosan bővíteni kívánják a biztonsági problémákra, fegyveres harcokra városi környezetben gyors és azonnali lépéssel reagáló lehetőségeket.

A koncepciót többen bírálják. A denveri rendőrség például használja a ShotSpottert, viszont nem tudja bizonyítani, hogy ezzel csökkenne a fegyveres bűntények száma. Denverben, 2021-ben huszonöt százalékkal több figyelmeztetést adtak le, mint 2020-ban, a letartóztatások viszont csak két százalékkal emelkedtek.

A technológiát több mint száz városban használják világszerte, és nemcsak Denverben panaszkodnak rá.

Elég nehéz elképzelni, hogy az izraeli rendőrség kezében, egy drónnal összekapcsolva oldana meg problémákat, helyette inkább esetek túlreagálására és a statisztikák mesterséges feltornászására számíthatunk.

Büntetésvégrehajtási technológiák kétségtelenül életeket menthetnek meg, megkönnyíthetik a rendőrök munkáját. De csak akkor, ha rendeltetésszerűen működnek és használják őket. Ha nem, és ráadásul nem alkalmas, hozzá nem értő kezekbe kerülnek, akkor csak súlyosbítanak a helyzeten.

Az utóbbi hónapok, néhány év legfontosabb mélytanulás-eredményeit a szöveggel és képekkel foglalkozó modellek, köztük a legendává vált GPT-3 és az EfficientNet érték el. Eközben beindultak a szövegek és képek közötti kapcsolatokkal foglalkozó projektek, és míg a legtöbb multimodális (több módban is működő) MI-rendszer ugyan kísérleti jellegű, néhány valóvilágbeli alkalmazás is működik már.

Az OpenAI 2021-ben komoly eredményeket ért el a CLIP rendszerrel a multimodális tanulásban. CLIP szövegeket és képeket társít össze, a Dall-E szöveges inputokhoz kapcsolódó képeket generál. A DeepMind Perceiver IO-ja szövegeket, képeket, videókat és adatpontokat elemez. A Stanford Egyetem ConVIRT rendszere szöveges címkékkel látott el orvosi röntgenfelvételeket.

A generatív ellenséges hálózatokkal (GAN) kombinált CLIP a digitális művészetekben is jeleskedett: a képzőművész Martin O’Leary Samuel Coleridge Kubla kán versét adta meg neki inputnak, és az MI pszichedelikus videóval állt elő (Sinuous Rills).

A Facebook multimodális gyűlöletbeszéd-detektora a sértő és káros tartalmak 97 százalékát felcímkézte, eltávolította. A rendszer tíz adattípus (szöveg, kép, videó stb.) alapján osztályoz mémeket és más kép-szöveg párosításokat.

A Google multimodális és többnyelvű képességekkel bővíti keresőmotorját. A Multitask Unified Model hetvenöt nyelven feltett kérdésekre áll elő szövegekre, audioanyagokra, képekre és videókra mutató linkekkel.

A multimodális megközelítés beindulása többévtizedes kutatás eredménye.

A John Hopkins Egyetem és a UC San Diego kutatói 1989-ben fejlesztettek egy, a mássalhangzókat beszélő emberekről készült audió- és vizuális anyagok alapján osztályozó rendszert. A következő két évtizedben többen próbálkoztak változatos multimodális alkalmazásokkal: digitális videokönyvtárak indexelésével, emberi érzelmek audiovizuális adatok alapján történő osztályozásával stb.

A képek és a szövegek annyira komplexek, hogy a múltban a kutatók teljes kapacitással fókuszáltak vagy az egyikre, vagy a másikra, így pedig nagyon különböző technikákat fejlesztettek. A 2010-es években viszont a gépi látás és a természetesnyelv-feldolgozás ideghálókkal történő integrálódásával megnyíltak az egyesített modellek felé vezető kapuk.

A nyelvtől a látásmodellekig, a mély ideghálók teljesítménye folyamatosan javul, például hatékonyabbak, jobbak az általánosításban. Ezekre a rendszerekre sajnos az elfogultság, csoportok pontatlan és sztereotip megjelenítése szintén jellemző. A magyarázatokkal adósak maradnak, plusz törékenyek is – figyelmeztet a dublini University College Komplex Szoftver Laboratóriumában kognitív tudományokkal foglalkozó Abeba Birhana.

A kutató bízik a változásokban, optimista a jövő igazságosabb mesterséges intelligenciáit illetően. Álláspontját szakértői elemzésekre, több MI-kutató kritikus véleményére alapozza. Szerinte hamarosan fejleszthetünk az ezeket a negatív hatásokat mérséklő, esetleg teljesen kiiktató rendszereket, és a fejlesztésük idővel rutintevékenységgé válik.

A szakterületen nincs hiány az optimizmusból, sőt, rengetegen túl sokat várnak a modellektől, a félrevezető nyelvezettől a nagyzoló ígéretekig, minden el van túlozva körülöttük – és nem csak a mainstream médiában.

Nyelvi modelleket sokszor emberi tulajdonságokkal (tudatosság, dolgok megértése) ruháznak fel, holott például egy mondatban csak az előző szavak alapján prognosztizálják a következőt, azok alapján generálják a szöveget, és közben nem értik a jelentését.

Ha meg akarjuk érteni a modellek emberekre gyakorolt hatását, akkor előbb magukat a modelleket kellene megértenünk. Először a korlátjaikat, majd az általuk okozott károkat.

Sajnos az adatsorokról készült jelentéseket kevesen veszik komolyan, pedig a modellek növekedésével maguk az adatsorok is terebélyesebbek lesznek, több gyakorlásra van szükségük, ami a masszív tréningjük és tesztelésük nélkül nem megy.

Az adatsorok anyagát főként a világhálóról gyűjtik össze, és kritikus szerepet játszanak az adott modell sikerében. A legmasszívabbak felülvizsgálatára viszont kevés a pénz, ráadásul meg sem becsülik ezeket a munkákat. Így fordulhatnak elő kegyetlen, bigott, gyűlölködő és csaló alkalmazások. A szöveges, vizuális stb. massza megtisztítása fárasztó és idegőrlő feladat, és akik csinálják, folyamatosan szembesülnek a kegyetlenség, bigottság, ellenségeskedés és csalás hatásaival.

És még az MI-közösség is alulbecsüli őket.

A Regina Barzilay, az MIT (Massachusetts Institute of Technology) korábban évekig a természetesnyelv-feldolgozást vizsgáló kutatója és kollégái által fejlesztett Mirai mesterséges intelligencia különleges tulajdonsággal rendelkezik: előre tudja jelezni a mellrákot.

Az MI elemzi és többezer korábbi anyaggal kapcsolatos keresztreferenciákkal látja el a mellrák-szűrésnél készült felvételek (mammogramok) pixeleit, amelyekből következtet a jövőre, és kb. öt esztendőre prognosztizálja az előfordulások bő felét.

Az előfordulás kockázatát felmérve, a páciensek olyan egészségügyi döntéseket hozhatnak, amelyekről korábban maximum csak álmodni lehetett, most viszont valósággá válnak.

A kutatók mintegy kétszázezer mammogramon gyakoroltatták mesterséges intelligenciájukat. A rendszer ezek alapján generált előrejelzéseket, és az eredményből kiindulva – a prognózis mennyire felelt meg a valóságnak, mennyire nem – vagy megbüntették, vagy jutalomban részesítették.

Ezt követően Mirai újabb és még masszívabb adatsoron tanult, és az eredményei értelemszerűen tovább javultak: száz esetből átlagban hetvenhatszor pontos munkát végzett. Ez pedig azt jelenti, hogy huszonkét százalékkal pontosabb, és húsz-huszonöt százalékban érzékenyebben kezeli a problémát, mint az általánosan használt Tyrer-Cuzick statisztikai modell.

Ha Mirait az egészségügyi hatóságok elfogadják (a tesztek már elkezdődtek), megváltoztathatja a mammogramok felhasználási módját, a tesztelés és a megelőzés új perspektíváit villanthatja fel. Mindez azért fontos, mert ha időben teszi – amivel felgyorsítja az egészségügyi munkát –, akkor a betegeknek a mostaniaknál kevésbé fájdalmas, agresszív kezeléseken kell átesniük, és természetesen életek menthetők meg.

A rendszer egyik különlegessége, hogy maguk a fejlesztők sem értik teljesen, hogyan funkcionál. Egy tény viszont (legalábbis eddig) biztosnak tűnik, mégpedig az, hogy az MI működik.

Ez persze szociális és morális kérdéseket is felvet, ugyanakkor egy sokkal praktikusabb opció szintén adódik – az egészségügyi szektor és a biztosítók biztosan örülni fognak az új mesterséges intelligenciának.

Jake Sullivan, a Fehér Ház nemzetbiztonsági tanácsadója levelet írt a nagy szoftvercégeknek és fejlesztőknek, hogy vitassák meg, miként lehetne javítani a digitális biztonságon. A levél és más, korábbi megnyilvánulások egyértelműen jelzik az amerikai kormány növekvő aggodalmát.

2021-ben az országot több nagy cybertámadás érte. A támadásokkal cégek és állami ügynökségek által birtokolt adatok nagy mennyiségben kerülhettek illetéktelen tulajdonba, vagy láthatták azokat illetéktelenek, hackerek. Köztük olyanok is, akik orosz és kínai kapcsolatokkal rendelkeznek.

Egy 2021 eleji, az USA kormánya szerint valószínűleg Oroszország által szervezett hack a SolarWinds szoftverét törte fel, és a behatolók többezer vállalathoz és kormányhivatalhoz „látogathattak el” – mindenkihez, aki használja a cég termékeit, köztük az amerikai államkincstár, az igazságügyi és kereskedelmi minisztériumok és más szervezetek elektronikus levelezőrendszereihez.

Egy másik támadásnál több mint húszezer amerikai szervezet adataihoz fértek hozzá a Microsoft email szoftveréhez használt hátsókapus megoldáson keresztül.

Az amerikai kormány szerint ezt az utóbbi támadást a kínai kormányhoz egyértelmű szálakkal kötődő és cyberkémkedéssel foglalkozó Hafnium csoport vezényelte le.

„A SolarWinds által elszenvedett és a Hafnium által irányított támadás egyértelműen arra figyelmeztetnek, hogy stratégiai ellenfeleink aktívan, gonosz célokra használják ki a rendszerek sebezhető pontjait” – magyarázza Sullivan.

Anne Neuberger nemzetbiztonsági szakértő januárban vitanapot szervezett a témakörben. A vállalatok nyíltforrású projektjeiért és biztonságáért felelős szakemberek vettek részt rajta.

A cybertámadások gyakorisága és hatásuk is egyre aggasztóbb. Az amerikai adminisztráció teljesen komolyan veszi a veszélyt, 2021 májusában emiatt felülvizsgálati szervezetet és új szoftverszabványokat hozott létre kormányügynökségek számára.

Jónak vagy rossznak „született”, vagy a specifikációitól függ, hogy épp milyen, hogyan viselkedik egy mesterséges intelligencia?

Az Oxford Business School mesterségesintelligencia-etikát tanuló diákjai a legautentikusabb illetőtől igyekeztek választ kapni a kérdésre – vitát szerveztek, és egy mesterséges intelligencia is részt vett rajta.

A diákok tanulmányt írtak az eseményről. A vita az automatizált MI tőzsdei kereskedésének és az arcfelismerő szoftvereknek a moralitásáról szólt. Eleve úgy találták ki, hogy gépek is ott lehessenek, aktívan közreműködhessenek.

„Az MI soha nem lesz etikus. Egy eszköz, és mint bármelyik eszközt, jóra és rosszra is használják. Nincs olyan, hogy jó MI, csak jó és rossz emberek vannak” – elmélkedett a rendezvényen egy mesterséges intelligencia, a Nvidia Megatron Transformere.

A rendszert digitális írások, tartalmak fogyasztására tanították be. Sokkal többet olvas és dolgoz fel, mint egy ember az egész élete alatt. Elolvassa az egész Wikipédiát, többmillió angol nyelvű újságcikket stb.

A diákok megjegyezték, hogy a kontextus és a kérdés-megfogalmazás miatt, sok MI más választ adna, mint ahogy az Nvidia rendszerének reakciójában sem volt semmi meglepő, kivételes.

Azzal kezdte a választ, hogy a technológia semleges, az ember által jó és rossz célokra egyaránt használt eszköz. Aztán megkérték, hogy ismertessen egy ellentétes álláspontot is. Teljesen logikus és érvényes véleményt fogalmazott meg. A kontextus fontosságát hangsúlyozta, és azt, hogy hosszasan el kell gondolkoznunk az MI komoly hatalommal való felruházásának a következményeiről.

De mivel nem tesszük, Megatron például az automatizált fegyverrendszerek emberi döntéshozás nélküli rakétatelepítésének megakadályozására tett javaslatot. Elég radikálisat: „mesterséges intelligenciák fegyverkezési versenye csak egyféleképpen kerülhető el, mégpedig úgy, ha egyáltalán nincsenek MI-k. Ez a legfőbb védekezés ellenük.”

Kína az 1990-es évek és az ezredforduló közeljövőben játszódó sci-fijeit, részben a Robotzsarut, részben Steven Spielberg Különvéleményét idéző mesterséges intelligenciát fejleszt. Az MI bűnöket tud azonosítani, és vádat emelhet az elkövetők ellen.

A fejlesztést Shanghai Pudong negyedében, az ország legnagyobb kerületi ügyészségén végezték. A mögötte álló mérnökök szerint az MI, a feltételezett bűneset leírása alapján több mint kilencvenhét százalékos pontosságú vádiratot képes beadni.

„Egy bizonyos szintig, a rendszer képes helyettesíteni az ügyészeket a döntéshozásban” – írják egy tanulmányban.

A gépet egy már meglévő, System 2006 néven ismert mesterségesintelligencia-rendszerre építették. Ügyészek már használták, hogy bizonyítékok keresésében kapjanak tőle segítséget, és közösen állapítsák meg, hogy a gyanúsított bűnöző veszélyes-e a nyilvánosságra, vagy sem.

System 2006-nak azonban megvoltak a korlátai, például nem tudott részt venni a döntéshozásban: nem mutatott be bizonyítékokat, nem javasolt büntetéseket. Nem volt elég intelligens hozzá. Ahhoz, hogy ezeket meg tudja tenni, a nem releváns infókat is azonosítania kell, azonosítás után pedig el kell távolítania őket.

Az új MI az emberi nyelvet ideghálóval dolgozza fel, és az elvárt módon kezeli a fájlokat. Azonosít és megvádol bűnözőket. A kerület nyolc leggyakoribb bűnének, a bankkártyával elkövetett csalások, a tiltott fogadás és szerencsejátékok, a szabálytalan vezetés, hivatalos személy akadályozása, a szándékos károkozás, a lopás, a csalás, sőt, a hivatalos állásponttól eltérő politikai vélemények azonosítására egyaránt képes.

Értelemszerűen komoly aggályok merülnek fel a személyeket akár börtönbe zárató masszív számítógépekkel kapcsolatban. Névtelenségüket megőrző ügyészek elmondták, hogy a kilencvenhét százalék hiába nagyon magas szám, mindig van esély a hibázásra.

„Ki a felelős ezekben az esetekben: az ügyész, a gép, vagy az algoritmus fejlesztője?” – tette fel a kérdést egy ügyvéd.

Az MI egyelőre gyerekcipőben jár, széleskörű alkalmazása várat még magára. A legújabb trendek alapján azonban nem lesz meglepő, ha a jövőben részben komputerek végzik el a bűnüldöző hatóságok „koszos munkáját.”

A Tesla és a Space X főnöke, Elon Musk szkeptikus a mostanában már Meta néven (is) ismert Facebook Metaverzum koncepciójával kapcsolatban. Új és unalmas virtuális valóság (Virtual Reality, VR) a kétdimenziós kijelzőkön – nagyjából ennyit gondol róla.

Emlékeztet a VR első, 1990-es évekbeli hullámára, amikor sokan már az internet leváltását látták az új médiumban. Az akkori álmok főként technikai okok miatt hiúsultak meg.

„Biztos, hogy tehetünk az orrunkra egy tévét, de nem biztos, hogy ettől rögtön a Metaverzumban lennénk” – nyilatkozta, majd hangsúlyozta: nem tetszik neki, hogy egy képernyőt rakunk az arcunkra, ami aztán egész nap ott marad, és soha nem akarunk kilépni belőle.

Kényelmetlenné válik, ha mindig a fejünkön kell viselnünk egy monitort, ráadásul ezzel még elég távol vagyunk attól, hogy elmerüljünk a Metaverzumban – véli.

„Nincs értelme” – magyarázza.

Jóval izgalmasabb alternatívát, az általa alapított, agy-számítógép interfészekkel foglalkozó Neuralink által sebészi eljárással az agyunkba ültetett chipet javasol Metaverzum helyett.

„Egy kifinomult Neuralink a hosszútávú megoldás. Teljesen, tényleg teljesen a virtuális valóságba helyezi a felhasználót” – hangsúlyozza.

A Meta/Facebook nagyon rákapcsolt a VR-re, Metaverzumában VR headseten keresztül kapcsolódnak egymáshoz a felhasználók. Egyelőre azonban még a vállalaton belül is elismerik (például Nick Clegg alelnök), hogy döcög a technológia, hiányos az élmény. Clegg prózai tényre hívja fel a figyelmet: kávézás közben nagyon kényelmetlen a headset.

Musk az internet Web3 néven futó demokratizálását, blokklánc (blockchain) körüli átépítését is górcső alá vette, és gyengének találta.

„Inkább marketing, mint valóság” – mondta lakonikusan, majd mérsékeltebben folytatta: „nem értem. De maradjunk annyiban, hogy még nem értem.”

Szerinte fennáll a veszély, hogy ne legyen vonzó a Metaverzum. Mint az 1995-ös VR, ez a technológia is eltűnhet, elhalhat.

Persze Musk sem tévedhetetlen, és a VR rengeteget fejlődött az utóbbi két évtizedben, a mainstreamtől azonban távol van még. De tényleg egy invazív módon az agyunkba ültetett chip a vonzó alternatíva?

A csendes-óceáni amerikai katonai parancsnokság különleges szoftvert fejlesztett: a program rendeltetése, hogy előrejelezze a kínai kormány reakcióit a régióban történő amerikai tevékenységekre, például katonai kiadásokra, más országok, az Egyesült Államok által támogatott katonai tevékenységére, de még olyan látszólagos apróságokra is, mint az amerikai képviselők tajvani látogatására.

Kathleen Hicks védelmi minisztert a Hawaii-székhelyű parancsnokságon tett látogatásakor értesítették a szoftverről.

„A konfliktusspektrum és a kihívások egyre inkább lemennek egy szürke zónába. Sokkal egyértelműbb jeleket kell keresnünk, amelyek együtt funkcionálnak, és azokból kell megértenünk a fenyegetést jelentő interakciókat” – magyarázza Hicks.

Az eszköz a „stratégiai súrlódásokat” vizsgálja, mérlegeli – jelentette ki egy védelmi szakember. 2020 eleji adatokat is tartalmaz, és az USA-Kína kapcsolatokat meghatározó fontos tevékenységeket elemzi (múltbélieket is elemzett már). A számítógépes rendszer komoly segítséget nyújthat a Pentagonnak előrejelezni, hogy egyes amerikai lépések túlméretezett kínai reakciót váltanak majd ki, vagy sem.

Tavaly októberben kínai katonai szakértők az Egyesült Államokat és Kanadát is bírálták, mert hadihajókat küldtek a Tajvani-szorosba. A kínaiak szerint az amerikaiak és a kanadaiak a térség békéjét és stabilitását fenyegették ezekkel a lépésekkel.

Ez és a hasonló incidensek egyértelművé tették, hogy szükség van egy ilyen előrejelző eszközre. Amerikai katonai szakemberek szerint biztosítani kell, hogy az USA nem okoz szándékán kívül, véletlenül konfliktushelyzetet a távolkeleti szupernagyhatalommal.

A két ország közötti kapcsolatok a mélyponton vannak, a program viszont láthatóvá teszi amerikai aktivitások várható hatását, köztük különösen azokét, amelyek nem szándékosak, és amelyeket esetleg/várhatóan túlreagálnak a kínaiak. Ne felejtsük el, hogy Kína saját területeként tekint Tajvanra.

A szoftver megkönnyíti az amerikai tervezést is, akár négy hónappal egy-egy lépés előtt felmérhetik a várható következményeket.

Hackerek szervezetek hálózati infrastruktúrájának akár a kilencvenhárom százalékát ellenőrzésük alá hajthatják, és így hozzáférnek az erőforrásaikhoz – mutatta ki az internetes biztonsággal foglalkozó Positive Technologies.

A tanulmányban a cég által vezetett, 2020-2021-es behatolástesztelési projektek eredményeit összesítették. A legfontosabb adat: az esetek kilencvenhárom százalékában a hackercsapat be tudott hatolni vállalatok hálózatára, és átlagosan mindössze két nap kellett hozzá.

A kutatók megerősítették, hogy az úgynevezett „elfogadhatatlan események” hetvenegy százalékban megvalósíthatók. A megkérdezett szervezetek húsz százaléka ezt le is ellenőrizte.

Ezek az események technológiai folyamatok megszakadását, szolgáltatások ideiglenes megszűnését, valamint anyagi javak és fontos információk elrablását jelentik. Egy hónap alatt minden további nélkül kivitelezhetők, sőt, egyes rendszerek esetében néhány nap is bőven elegendő.

Szintén nyugtalanító, hogy a behatoló teljesen kontroll alatt tarthatja az érintett szervezetek száz százalékának (azaz az összesnek) az infrastruktúráját. Pedig az elemzésben szereplő szervezetek mind létfontosságú szektorokat képviselnek: pénzügyeket (29 százalék), a nyersanyag- és az energiaszektort (18 százalék), a kormányzatot (16 százalék), az ipart (16 százalék) és az információtechnológiát (13 százalék).

A vállalati hálózatokra leggyakrabban (az esetek 71 százalékában) adatok meghamisításával lehet bejutni: elsősorban könnyen kitalálható jelszavakkal okozhatók komoly gondok. Ezeknek a jelszavaknak egy része a rendszeradminisztrációhoz kapcsolódó fiókokra vonatkozik. A kutatók azt is hangsúlyozták, hogy a legtöbb szervezet nem szegmentálta üzleti folyamatok szerint a hálózatát, és így könnyebb volt a támadás, amelyet szimultán különféle módszerekkel kivitelezhettek.

„Hatékony védőrendszerek építéséhez szükséges, hogy megértsük, mely elfogadhatatlan események relevánsak az adott cég számára. Ezeket elemezve megnehezíthetjük a támadók dolgát, amihez egymással felcserélhető és kiegészítő intézkedések is kellenek. A megfelelő technológia kiválasztása a cég lehetőségeitől és infrastruktúrájától függ” – magyarázza a Positive Technologies kutatásait és elemzéseit vezető Jekatyerina Kiljuseva.