Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Nagy táblázatokat is olvasnak a nagy nyelvmodellek

2024. október 17. - ferenck

A nagy nyelvmodellek (LLM) kis táblázatokat feldolgoznak, de nagyobbakkal meggyűlik a bajuk, mert túl méretes az input.

A Microsoft kutatói táblázattömörítő megoldást javasolnak, így LLM-ek is képesek azonosítani azokat, vizsgálhatják speciális kérdéseket megválaszoló részeiket.

llm_tablazat.jpg

A legtöbb táblázat kisebb táblázatok készletére bontható. Ezeket vizuális elválasztók, például vastag vonalak, üres sorok és/vagy oszlopok határolhatják. Mivel ugyanazokat a markertípusokat tartalmazhatják, a kisebb egységek észlelése azonban nem triviális.

Sok kérdés megválaszolásához nincs szükség a teljes táblázatra, csak a megfelelő részre, a táblázaton belüli valamelyik kisebb táblázatra. Az LLM-nek azonban a bemenethez (input kontextusablakhoz) esetleg túl nagy teljeset kell látnia először, és elemeznie kell az egymástól nem egyértelműen elkülönülő kisebb táblázatokat.

llm_tablazat0.jpg

A táblázat tömörítése a megoldás. A tömörített reprezentációt és a kérdést betáplálják az LLM-be, valamint azt az utasítást kapja, hogy azonosítsa a szükséges kisebb táblázat határait. Miután ez megtörtént, a nyelvmodell a tömörítetlen változat alapján képes megválaszolni a kérdést.

A kutatók a táblázatot kisebb táblázatokra szétszedő, azokat tömörítő, de az eredeti szerkezetet megtartó szoftvert fejlesztettek. Utána LLM-eket finomhangoltak, hogy a tömörített táblázatban detektáljon kisebbeket, majd szöveges utasításokat (promptokat) adtak nekik, hogy azonosítsa az adott kérdés szempontjából releváns kisebb táblázatokat.

A teszteknél változatos méretű, négyezer és tizenkétezer token közötti táblázatokat használtak. Tömörített kicsiknél a Llama 3 83, nagyobbaknál 62, a GPT-4 81 és 69 százalékot ért el. Nem tömörített kicsiknél a Llama 3 72, a GPT-4 69 százalékos pontossággal dolgozott, nem tömörített nagyokkal egyikük sem boldogult (0 százalék).

Kérdések megválaszolásában tömörítetteknél a GPT-4 74, nem tömörítetteknél 47 százalékos hatékonysággal teljesített.         

Videógeneráló mesterséges intelligencia az Adobe szerkesztőcsomagjában

Az Adobe bejelentette a webszolgáltatásként elérhető Firefly Video Modellt, amelyet év végéig a vállalat Premiere Pro szoftvercsomagjába integrálnak. A modellel kb. két perc alatt maximum ót másodperces videók generálhatók szöveges és vizuális promptok alapján. Kész videók módosíthatók, bővíthetők vele.

A méretről, architektúráról és a gyakorlási módszerről még nincsenek információink. A modell fő felvételek alternatív felvételeit (B-roll footage), egyedi képkockákból alkotott jeleneteket, szövegek és effektusok hozzáadását, animálást, videóról videóra történő generálást kínál.

adobe0_1.jpg

A vállalat azért licencelte a gyakorlóadatokat, hogy a későbbiekben ne merüljenek fel szerzői jogi problémák. Ez a hozzáállás éles ellentétben áll a videógenerátorokat a webről összegereblyézett adatokon trenírozó általános gyakorlattal.

A modellel feljavítják a Premiere Pro-t, a videóeditálás generatív lehetőségekkel bővül. Az egyik bemutató klipen például kisgyerek nagyítóba néz, majd az ő szemszögéből felvett jelenet következik.

adobe1.jpg

Az Adobe videógenerálás felé tett lépése a Firefly képgenerátoron alapul, és a generatív mesterséges intelligencia a cég kreatív eszközeibe történő integrációjának átfogóbb stratégiáját jelzi. Áprilisban több videógenerátor, köztük a partnerek, például az OpenAI és a Runway modelljeinek a Premiere-be integrálását jelentették be. A Runway egyébként pont most bővítette videóról videóra történő generálással és egy API-val (alkalmazásprogramozói felülettel) a kínálatát.

Az Adobe szerint az MI által generált mozgóképek inkább kibővítik a profi filmesek és vágók munkáját, semmint helyettesítenék őket.

Ha jól bevált felhasználói felületen alkalmazunk teljes értékű generatív modellt videóeditáláshoz, gördülékenyebb és eredményesebb lesz a videókészítés. Az Adobe engedélyezett gyakorlóadat-felhasználása pedig a szerzői jogok megsértése vagy művésztársai megrövidítése miatt aggódó videósok számára is vonzó lehet.

Nobeldíj-eső mesterségesintelligencia-kutatóknak

A mesterséges intelligencia évek óta az egyik legforróbb tudományos-technológiai téma, gőzerővel folynak a szakterületi fejlesztések, a big data, a végtelenbe tartó számítási és tárolási kapacitások, valamint a 2010-es években elterjedt mélytanulás (deep learning) megalapozták a jelen generatív MI-forradalmát és a jövő fejlesztéseit.

Óriási elismerés a diszciplínának, hogy az idei Nobel-díjasok között fizikában és kémiában is mesterségesintelligencia-kutatók diadalmaskodtak: előbbiben a 76 éves Geoff Hinton és a 91 éves John Hopefield, utóbbiban Demis Hassabis, John Jumper és David Baker.

nobeldij.jpg

Hinton és Hopefield a gépi tanulás úttörői, Hintont évekkel ezelőtt Andrew Ng nevezte el a „mélytanulás keresztapjának”, az elnevezés kibővített formában, az „MI keresztapjaként” ragadt rajta mind a mai napig, ami egyben utalás arra is, hogy – sokak szerint – a gépi tanulás a jelen mesterséges intelligenciája. (Az MI persze több gépi tanulásnál, viszont kétségtelen, hogy lassan két évtizede a mélytanulás a legfontosabb, legjobban mediatizált alterülete.)

A két fizikai Nobel-díjas úttörő munkát végzett a mélytanulás alapjait adó mesterséges neurális hálózatok kutatásában. A bizottság szerint a hálók a fizikán alapulnak, ezért kapták ezen a területen az elismerést.

nobeldij0.jpg

Munkáik szoros kapcsolatban állnak egymással. A Hopefield-hálózat vizuális és más mintázatok tárolására és az adatok alapján történő rekonstruálására alkalmas mesterséges asszociatív memória. A rendszer hibás vagy sérült minták esetén is működik. A statisztikai fizikából kiinduló Hinton munkái adatok Hopefield-hálózatban történő interpretációjához járultak hozzá. A fizikából vett Boltzmann-gépe, egy felügyelet nélküli tanulással működő mélytanuló rendszer lényege, hogy az adathalmazban megadott jellemzőket keres és ismer fel, képes osztályozni a tárolt mintázatokat, és a tanulás során megismert mintázattípusokat létrehozni.

Munkásságuk adta a 2010-es évek gépitanulás-áttörésének alapjait.

A kémiai Nobel-díj a DeepMind-társalapító, jelenleg a Google mesterségesintelligencia-részlegét (Google DeepMind) vezető, a játékvilágból érkezett és például a legendás AlphaGo programot fejlesztő Hassabis (a második kép közepén) és Jumper AlphaFold munkájának elismerése. MI-modelljük ötvenéves problémát oldott meg: aminosav-szekvenciáik alapján előrejelzi fehérjék összetett szerkezetét. 2020-as AlphaFold2-jük lényegében mind a 200 millió azonosított fehérje szerkezetét prognosztizálja. Az alkalmazást a világ 190 országának több mint kétmillió kutatója használja.

A fehérjék általában húsznál több aminosavból, az élet építőkockáiból állnak. Elsőként, 2003-ban Baker használta úgy a „kockákat”, hogy semmi máshoz nem hasonló, új fehérjék jöttek létre. Kutatócsoportja azóta egyik fantáziafehérjét a másik után alakítja ki, rengeteget segítve gyógyszerek, oltó- és nanoanyagok, kisméretű szenzorok fejlesztésében.

Miért fontos, hogy Kalifornia nem szavazta meg a mesterségesintelligencia-fejlesztést korlátozó szenátusi törvényt?

Gavin Newsom kaliforniai kormányzó megvétózta az amerikai szenátus 1047-es számú törvényét a mesterséges intelligencia szabályozásáról, így a szövetségi államban nem lép érvénybe. A jelenleg az Amazonnál fontos pozíciót betöltő világhírű gépitanulás-szakértő, Andrew Ng örül a kormányzó döntésének, és ki is fejti, miért.

„Győztünk!” – kezdi. A törvény szerinte innovációellenes, komoly csapást mér a nyílt forrású (open source) kezdeményezésekre, és ezért is fontos, hogy a kormányzó a szakértők, mérnökök és aktivisták szavára hallgatott. A nyílt forrású MI védelméért folytatott küzdelem ezzel persze nem ért véget, de közelebb kerültek a diadalhoz.

andrew_ng_1.jpg

A szabályozásnak a tudományon és nem a tudományos-fantasztikumon kell alapulnia – hangsúlyozza Ng. Korábban is kiemelte, hogy a biztonság nevében kidolgozott törvény alapvető félreértése a technológia, az alaptechnológia, és nem egyes alkalmazások megregulázása. Eleve nehéz lenne betartatni, csak az árakat vinné fel, és nem a biztonságot növelné.

Legjobban persze annak örült volna, ha soha nem kerül a kormányzó asztalára. Ellenzői közül sokan a felelős MI szószólói, és régóta, nem a generatív MI berobbanásától beszélnek mesterségesintelligencia-biztonságról. Ng a Santa Fe Intézet komplexitás-elmélet, genetikus algoritmusok és sejtautomata-kutatójára, Melanie Mitchellre hivatkozik, aki szerint maga az „Mi-biztonság” tudományosan megalapozatlan spekulatív kockázatok széles skálájára kiterjedő, szerencsétlen kifejezés, és semmi nem lesz tőle biztonságosabb, ráadásul komoly lehetőség a lobbizásra, hogy egy szűk csoportot még gazdagabbá tegyen, míg mindenki másnak rosszabb lesz.

Newsom szerint a törvény nem az MI-rendszerek empirikus fejlődésének elemzésén, nem bizonyosságokon alapul.

Az MI-közösség több tagja végzett komoly munkát azért, hogy Newsom ne írja alá. Ng Martin Casadót, a szoftveralapú hálózatépítés úttörőjét, Clément Dalamgue-ot, a Hugging Face vezérigazgatóját, Yann LeCunt, a Meta legendás MI-guruját, a mélytanulással foglalkozó és a törvényről mélyelemzést író Chris Langerich-t, Fei-Fei Lit, az MI stanfordi „nagyasszonyát”, a törvény ellen az Y Combinator startup-akcelerátort megszervező Garry Tant, a befektető Marc Andreessent és Roelof Bothát, valamint művészeket, közéleti személyiségeket emelt ki.

Sajnos a társadalom egyes szegmensei agendájuk előmozdítása érdekében, sci-fi narratívákkal támasztják alá az MI és a fiktív szuperintelligencia veszélyeit – zárja sorait Ng.

A mesterséges intelligencia geopolitikája

Mivel az MI nagy valószínűséggel a 21. század egyik legtöbb változást hozó technológiája lesz, hamarosan a nemzetközi politikában is fontos szerepet tölthet be. Államok már használják biztonságuk védelmére, hírszerzésre, nemzetközi kapcsolataik javítására/bővítésére, kereskedelemre, és tisztában vannak azzal, hogy befolyásolni fogja a globális hatalmi dinamikát.

A RAND szerint nemzetek felemelkedése és bukása függhet MI-használatuktól. Fejlett Mi-technológiák exportkorlátozását, szankciókat már tapasztalhatunk, de ez csak a kezdet.

migeopolitika.jpg

Hogyan befolyásolja az MI a jövő geopolitikáját? – teszi fel és igyekszik megválaszolni a kérdést Bernard Marr futurológus.

Az autonóm hadviseléstől az intelligens cyberbiztonságig, az MI-versenyben élenjárók komoly előnnyel rendelkeznek. Jobban meg tudják védeni országukat, például az ukrán ellenállásban is fontos szerepet játszanak a nyugati technológiák.

Az MI szerepe azonban túlmutat a csatamezőn. Növeli a cybertámadások elleni védelmet, segít terrorista tevékenység, kémkedés felderítésében, nemzetközi konfliktusok előrejelzésében, elkerülésükben. Az alkalmazásokkal ugyanakkor be is kell tartani a nemzetközi jogszabályokat, a személyes szféra sérthetetlenségét.

A globális kereskedelemben és üzletben az MI legalább annyira szignifikáns, mint katonai és biztonsági kérdésekben. Az általa generált előnyök politikai feszültségekhez, szankciókhoz és az adott ország versenyelőnyét megőrizni hivatott protekcionista intézkedésekhez is vezet (például az USA és Kína közötti chipháborúban). Az MI-hez nélkülözhetetlen fejlett félvezetőipara miatt Tajvan és Dél-Korea jelentősége már felértékelődött, és a jövőben még fontosabb szerep vár rájuk. A világpolitikát olyan államok MI-fejlettségi szintje is befolyásolhatja, mint az Egyesült Királyság, az Egyesült Arab Emírségek, Izrael, Japán, India, Szingapúr, Franciaország, Németország vagy Hollandia. De maguk a szabályozó intézkedések, mint az Európai Unióé vagy Brazília X-ellenes lépése szintén a protekcionizmus kategóriájába tartoznak.

Globális együttműködés vagy technonacionalizmus? – hangzik Marr zárókérdése.

A protekcionista intézkedésekből és a nemzetvédelmi felhasználás példáiból kiindulva, egyértelmű, hogy soha nem volt sürgősebb igény a nemzetközi együttműködésre. Az MI segíthet kezelni az emberiség súlyos problémáit: klímaváltozást, egészségügyet, növekvő egyenlőtlenségeket. Ha viszont a politikai versengés a mainál is erősebb lesz, aligha a közös érdekek mentén fogjuk hasznosítani a technológia előnyeit.

A technonacionalizmus fenyegeti a gondolatok szabad áramlását, az együttműködést és az innovációt. Ezek nélkül az MI aligha teszi jobbá a világot. Persze a versengés is hajthatja az innovációt, de csak akkor, ha korrekt és nem túlhajszolt. Először viszont globálisan tehetnénk valamit a határokat egyébként is rég átlépő cybertámadások és a dezinformáció ellen.

Pingpongozik a robot

Robotikusok legalább egy évtizede programoznak asztaliteniszező robotokat. A korábbi projektekben fejlesztett gépek a játék több aspektusát elsajátították, például meghatározott célpontra ütötték a labdát, komplett meccstervük viszont nem volt a humán ellenfelekkel szemben.

A probléma két részre osztható: egyéni szkilleket tartalmazó könyvtárra és közülük válogató algoritmusra. Ez a felosztás leegyszerűsíti a feladatot: a robot teljesítményének gyengeségei azokat kompenzáló szkillek könyvtárhoz adásával eltüntethetők.

robotpinpong0.jpg

Google-kutatók ilyen robotot fejlesztettek. A kar ügyesen játszik emberek ellen.

Egy játszma szervákra bontható. Sémájuk elég egyszerű, a robot kontrollrendszere stratégia kidolgozása nélkül képes megtanulni, hogyan üsse vissza a labdát.

robotpinpong1.jpg

A kutatók két állványra szereltek fel egy robotkart. Úgy tették, hogy jobbra-balra, előre és hátra is mozoghasson. Két kamera rögzíti a labdát, az adatokat észlelési rendszerbe táplálja, az méri fel a labda pozícióját. Húszkamerás mozgásrögzítő (mocap) rendszer követi a háló túloldalát, az ellenfelet.

Végponttól végpontig rendszer gyakoroltatása vagy robotikus alapmodell helyett, a játékmenetet alfeladatokra osztották, amelyeket különféle modulokra bíztak, majd úgy hangolták össze őket, hogy egymással szinkronban cselekedjenek.

robotpinpong.jpg

A robotot magasszintű kontroller, konvolúciós neurális hálót (CNN) tartalmazó algoritmus vezérli. A CNN végzi a csoportosításokat, hogy mikor hogyan kell visszaütni a labdát. A magasszintű kontroller tizenhét egyszerűbb kontroller (mindegyik CNN) közül válogat. Különböző feladatotokat hajtanak végre: az egyik pontokat céloz meg az asztalon, a másik korrigálja a labda pályáját, pörgését, a harmadik lehetővé teszi, hogy a robot visszaüsse és így tovább.

A gép huszonkilenc háromjátszmás meccset játszott változatos szinten pingpongozó humán ellenfelekkel. Kezdők ellen mind a hetet megnyerte, hatot „köztes” szintűek ellen (a velük játszottak ötvenöt százalékát), „haladó” és „haladó plusz” asztaliteniszezőkkel szemben az összest elveszítette.

Nyílt forrású nyelvmodelleket tett közzé az Alibaba

Az Alibaba több méretben tette közzé Qwen 2.5 nagy nyelvmodelljét (LLM), az API (alkalmazásprogramozói felület) változat Qwen Plust és Qwen Turbot, valamint a specializált Qwen 2.5-Codert, a Qwen 2.5-Coder-Instructot, a Qwen 2.5-Math-ot és a Qwen 2.5-Math-Instructot.

Az Apache 2.0 licenc alatt többük szabadon/ingyen hozzáférhető kereskedelmi célra is. A 3B (hárommilliárd paraméteres) és a 72B modellek szintén ingyenesek, kereskedelmi célú használatuk viszont a licenc értelmében speciális megbeszélések tárgya.

alibaba.jpg

A Qwen 2.5-tel tovább bővült az egyre jobb minőségű LLM-ek köre: a Claude 3.5 Sonnet (Anthropic), a GPT-4o (OpenAI), a Llama 3.1 (Meta) és a Qwen 2 család tartoznak közéjük.

A Qwen 2.5 modellek mérete az ötszázmillió és a hetvenkét milliárd paraméter között variálódik.

Ezeket a modelleket előzetesen tizennyolc trillió tokennel gyakoroltatták. A hárommilliárd paraméteresekig harminckétezer input tokent, a nagyobbak 128 ezret képesek feldolgozni. Az összes változat outputjainak hosszúsága nyolcezer token.

A Qwen 2.5-Codert (kódolót) további 5,5 trillió kód-tokenen gyakoroltatták. Maximum 128 ezer input tokent dolgoz fel, a generált outputok felső határa kétezer token. Két változatban, 1,5B-ben és 7B-ben érhető el.

A matekra specializált Qwen 2.5-Math további egytrillió matematikai jellegű tokenen trenírozták. Egyeseket a korábbi Qwen 2-Math-72B-Instruct generált. Négyezer input tokent tud feldolgozni, kétezer output tokent generál. 1,5B, 7B és 72B változatban érhető el. Matematikai problémák megoldása mellett az adott probléma megoldásában segítő kódot is tud generálni.

Más nyílt forrású modellekkel összehasonlítva, a Qwen 2.5 modellcsalád összes változata nagyon jól teljesített a teszteken.

Kalifornia törvényileg korlátozza a mélyhamisítványokat

Gavin Newsom, Kalifornia népszerű demokrata kormányzója a generatív mesterséges intelligencia politikai és szórakoztatóipari használatát visszaszorítani hivatott nyolc törvényjavaslatot írt alá

A kaliforniai új törvények gyakran szolgálnak példaként az USA többi szövetségi állama, a szövetségi kormány és más országok számára. A mélyhamisítványok (deepfakes) politikai kampányban történő szabályozásával a Szövetségi Választási Bizottság (FEC) által hagyott rést tömtek be. 

kalifornia.jpg

Az FEC azért nem foglalkozhatott vele, mert nem rendelkezik az MI politikai hirdetésekben való alkalmazásának szabályozásához szükséges engedélyekkel. Közben az engedélyekkel rendelkező Szövetségi Kommunikációs Bizottság (FCC) javaslatot tett az „MI politikai hirdetésekben” téma szabályozására, csak még nem emelkedett törvényerőre.

Kalifornia megelőzte őket, az MI-modellek fejlesztését hátráltató, 1047-es számú szenátusi törvényjavaslatot viszont (egyelőre biztosan) nem léptette érvénybe a szövetségi állam. Newsom teljesen logikusan érvelt: a javaslat visszavetheti az innovációt, és különösen a nyílt forrású kezdeményezéseknek árthat.

Kalifornia a racionális megoldást választotta: MI-modellek helyett nem kívánatos alkalmazásokat vett célba. Általános rendeltetésű technológiákat sokféleképpen alkalmazhatunk, a zömük pozitív, viszont ha törvényileg hátráltatjuk a fejlesztéseket, mindenféle alkalmazást korlátozunk, lényegében közös nevezőre hozzuk a mélyhamisítványokat és a diagnosztikai appokat. Newsom remélhetőleg megvétózza az 1047-es törvényjavaslatot.

Az egyik új törvény megtiltja a jelöltekről, választási hivatalnokokról és a választási folyamatról ismerten megtévesztő MI-tartalmak a választást megelőző százhúsz és az azt követő hatvan napban történő terjesztését.

Két másik a politikai hirdetésekre vonatkozik. Ha a tartalmat MI generálta vagy érdemben módosította, fel kell tüntetni. A másik nagy online platformokat szólít fel MI által generált politikai tartalmak felcímkézésére vagy eltávolítására. További két törvény az előadóművészeket védi digitális hasonmásaik használatával szemben. Ez csak engedéllyel, elhunytak esetében pedig az örökösök hozzájárulásával történhet.

Két törvény a szexuálisan explicit tartalmakat szabályozza, Személyek hozzájárulása nélkül készülő ilyen tartalmak mostantól büntetőjogilag a garázdaság kategóriájába tartoznak. A másik törvény szexuálisan explicit mélyhamisítványok bejelentésére szólítja fel a közösségimédia-platformokat.

A nyolcadik törvény kimondja, hogy az MI-vel generált médiatartalmakon meg kell jelölni, hol készültek.

Hackerek kalóz játékokon terjesztenek rosszindulatú programokat

Információbiztonsági szakemberek legalább két évtizede használják az emberi felhasználót a számítógéptől megkülönböztető, automatikus CAPTCHA-tesztet. A számítógép olyan feladványt generál, amelyet csak az ember tud megoldani, a válasz helyességét viszont a gép is képes ellenőrizni. Egyfajta fordított Turing-teszt, és mint az informatikában szinte minden, ugyan nehezen, de ez is kijátszható.

Internetes bűnözők legújabban kamu CAPTCHA-teszttel igyekeznek elérni, hogy a kalóz PC-játékokat, például a Black Myth: Wukongot, a Cities: Skylines H-t vagy a Hogwarts Legacyt kereső felhasználó malware-t töltsön le, telepítsen számítógépére. Ók, az illegális játékokra vadászó gamerek az egyértelmű célcsoport.

kalozjatekok.jpg

A McAfee vírusölő-szolgáltató az online világ árnyas oldalán fedezett fel több feltört (megcrackelt) PC-játékhoz hozzáférést kínáló kamu CAPTCHA-honlapokat. Népszerű videójátékok ingyenes vagy feltört változatát keresve, a felhasználók gyakran kötnek ki őket rosszindulatú oldalakra irányító online fórumokon, levelezőlistákon vagy nyilvános tárhelyeken.

Az oldalak CAPTCHA-teszt elvégzésére utasítják őket, amelyben nincs semmi meglepő, mert jó ideje bevett gyakorlat. A gyanútlan felhasználó eleget is tesz az utasításnak, és máris letöltötte a jelszórabló Lumma Stealer malware-t.

A teszten több első látásra ártalmatlannak tűnő billentyűparancsot kell elvégezni, köztük a programok elindításához használt futtatási párbeszédpanelt előhívó Windows+R-t.

Következő lépés a jól ismert CTRL+V, majd enter. Az egész olyan gyorsan történik, hogy fel sem fogjuk: a párbeszédpanelbe másolt PowerShell szkripttel máris letöltöttük és installáltuk a rosszindulatú programot.

Biztonsági szakértők augusztusban fedezték fel az új technikát. Azóta széles körben elterjedt, egyre több felhasználó életét keseríti meg.

A Lumma Stealer másként is terjed. Hackerek a szoftverfejlesztői berkekben népszerű GitHub platform nevében elküldött adathalász e-mailekkel igyekeznek rávenni a felhasználót, hogy menjen rá ugyanazokra az ál CAPTCHA-oldalakra, és persze töltse le a malware-t.

Globális mesterségesintelligencia-biztonsági csúcstalálkozó lesz novemberben

Rengetegen foglalkoznak a mesterséges intelligencia biztonságával, Kína, az Egyesült Királyság és Európai Unió szabályozták, az Egyesült Államok szabályozná a területet – elnöki rendeletek vannak már –, ki megengedőbben (Egyesült Királyság), ki kevésbé megengedően (Kína) áll hozzá. Kétségtelenül a számítástudomány egyik „legforróbb” témája, nem véletlenül alkalmaznak a nagy fejlesztőcégek etikusokat, morálfilozófusokat.

A Biden-adminisztráció globális MI-biztonsági csúcstalálkozót tervez. Az USA kongresszusa küszködik a szabályozással. Ne felejtsük el: a legnagyobb fejlesztőcégek amerikai mamutvállalatok, és rengeteg bevételt generálnak az országnak.

ai_summit.jpg

A csúcsra, az MI-biztonsági Intézetek Nemzetközi Hálózatának első találkozójára a Szilícium-völgyhöz közeli San Franciscóban kerül sor november 20-21-ikén, hogy „előrelépjenek a biztonságos, veszélytelen és megbízható mesterséges intelligencia fejlesztésében.”

A májusi szöuli MI-csúcson alakult hálózathoz olyan országok, államszövetségek tartoznak, mint Ausztrália, Dél-Korea, az Egyesült Államok, az Egyesült Királyság, az Európai Unió, Japán, Kenya, Szingapúr. Franciaország önállóan is tag, nyilván azért, mert lazábban szabályoznak, mint az Unió – ott futnak a legígéretesebb EU-s projektek, számos amerikai-francia közös kezdeményezés indult.

Szöulban egyeztek meg az MI-biztonság, az innováció és a befogadás prioritásként történő kezeléséről. A San Franciscói összejövetelt indító gyűlésnek tekintik a februári párizsi újabb csúcs előtt. Együttműködéseket terveznek megbeszélni.

Az összes tagország képviseli magát MI-biztonsági intézet vagy annak megfelelő állami tudományos szerv szakembereivel, ismereteiket osztják meg, hogy előremozdítsák az ezirányú fejlesztéseket, a biztonsági szempontok figyelembevételét. Felhőszámítás-szolgáltatók és MI-fejlesztők a cybertámadásokkal szembeni védekezést is megvitatják. 

A riadalmat a generatív MI berobbanása, gyors elterjedése, a rengeteg hasznos mellett a sok haszontalan alkalmazása, mélyhamisítványok és hasonlók váltották ki. A munkahelyek elvesztésétől való félelem, választások elcsalásának lehetősége reális aggályok, de még mindig divatos apokaliptikus rémálmokkal, MI-ítéletnapokkal riogatni.

süti beállítások módosítása