Az NJSZT blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Ki irányítja az emberfeletti mesterséges intelligenciát?

2019. március 19. - ferenck

A Google által 2014-ben felvásárolt londoni mesterségesintelligencia-fejlesztő startup, a DeepMind a sci-fikben látott, emberfeletti képességekkel rendelkező általános MI (artificial general intelligence, AGI) létrehozását tekinti küldetésének.

Demis Hassabis alapító gondosan ügyel, hogy a majdani AGI-t felelősen használják, s egyben cége függetlenségét (legalábbis részben) igyekszik megóvni a Google és az Alphabet túlzott hatalmától. Belső védőmechanizmusokat dolgozott ki, ő és az eredeti csapattagokból válogatott nyolc kollégája által alapított etikai bizottság, és nem a Google ellenőrzi az MI-k felhasználását.

hasabis.jpg

A Google régóta a mesterségesintelligencia-világ egyik etikai vezetőjének tartja magát, viszont a belső hatalmi harcok és a megkérdőjelezhető menedzsment miatt ez nem annyira egyértelmű, mint amennyire a mamutcég állítja.

Egy példa: a DeepMind 2016-ben elindította új egészségügyi részlegét. Rendeltetése kórházi tevékenységek és a páciensek monitorozásának MI-technológiákkal történő finomhangolása.

hassabis0.jpg

Két évvel később, miután a startup szerződéseket kötött a partnerkórházakkal, a Google bejelentette új egészségügyi csoportját (Google Health), és tevékenységébe integrálta a DeepMind programját. A céget és az érintett kórházakat szűkszavúan értesítette az egészről. Névtelenségüket megőrző belső források szerint a londoni vállalat szakemberei elégedetlenek, dühösek voltak a Google döntése miatt.

Ugyanezek a források szkeptikusak a DeepMind AGI-fejlesztéseivel kapcsolatban. Felhívják a figyelmet a cég erős médiavisszhangban részesült sikeres munkáinak (AlphaGo, sakk és pókeralgoritmusok stb.) gyengéire, ellentmondásaira.

A sakkban, góban, videojátékokban stb. taroló és ismereteiket más rendszereknél jobban megőrző és hasznosító algoritmusok valóban lenyűgözőek, viszont nincs még semmiféle egyértelmű ütemezés az alapvetően új technológiákat igénylő AGI fejlesztéséhez.

Ha Hassabis és társai valaha is megvalósítják merész céljukat, a felvásárláskor hozott védőmechanizmusok és az etikai bizottság garanciának tűnnek ahhoz, hogy az emberfeletti MI a DeepMind tulajdonában maradjon, és ne csak egy újabb Google-technológia legyen.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr8414695668

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Berelhetoreklamfelulet 2019.03.20. 11:03:15

A háttér hatalom irányítja.

Willkommenskultur 2019.03.20. 11:58:15

Mesterseges intelligencia egy buzzword, mindenki tudja hogy meg a hangfelismero rendszerek sem hasznalhatok semmi ertelmes dologra.
Hollywooodban meg mar 20 eve azzal szurik a telefonbeszelgeteseket. Alom es valosag.

midnightcoder2 2019.03.20. 12:09:17

@Willkommenskultur: A magyar nyelvûnek jelenleg tényleg nem, de az angol elég jól mûködik. A guglinak pedig már van olyan szoftvere amivel már értelmesen beszélgetni is lehet, Pl. idõpontot egyeztetni, persze ezt is angolul. A youtube automatikus feliratozó rendszere angolul többé-kevésbé jól mûködik, persze ez attól is függ hogy az illetõ hogy beszél - egy skótot egy született angol sem egykönnyen ért meg.

Az a dolog amit mi emberi intelligenciának tekintünk, valójában különbözõ részképességek együttese. Látsz, hallasz, megérted amit mondanak, kitalálsz dolgokat, érzel, félsz, mozogsz, beszélsz. Egy-egy agyterület sérülésével ezeket a részképességeket el is tudjuk veszíteni.
Sok képességet már meg tudunk valósítani mesterségesen is - van amit rosszabbul mint az ember, van amit jobban - általában azért persze rosszabbul, de az embernek sok olyan korlátja van ami a gépnek nincs. Hosszabb távon biztos hogy a gép nyer.

Ami a rosszabb hir, hogy szerintem egy teljes értékû AGI-t senki nem irányíthat. Másrészt, lehet hogy a gugli roppant etikus - bár én õszintén szólva nemigen hiszek az olyan dologban mint a vállalati etika, a vállalat azért van hogy profitot termeljen és nem azért hogy moralizáljon - de AI-t bárki fejleszthet.

Willkommenskultur 2019.03.20. 12:13:59

@midnightcoder2: Amire soha nem lesz kepes, az a celok kituzese. Pedig az mozgatja a vilagot, egy szoftvernek nincsenek almai, ambicioi, azaz oniranyito terminator szoftverektol nem kell tartani.

midnightcoder2 2019.03.20. 12:24:15

@Willkommenskultur: Attól függ, hogy van felépítve a kongnitív rész. Ha neuronháló alapú, akkor kb. ugyanúgy csinál mindent mint te. Ha Pl. szimbólummanipulációval dolgozik, akkor elvben te adhatod meg a célfüggvényt, és õ ezen belül határozhat meg részfeladatokat. De lehet ilyen részfeladat a cél módosítása is...

Berelhetoreklamfelulet 2019.03.20. 12:43:43

Amúgy a tagnak igaza van. A mesterséges intelligencia csak egy buzzworld. Amit a gyakorlatban annak csúfolnak egy halon if egymás után hajigálva, de abba semmi intelligencia nincs, pontosan azt csinálja, amire beprogramozzák.

Hugó Scheiber 2019.03.20. 14:06:39

Sokkal hatalmasabb és távolabbra mutató dolog lesz ez, mint eddig bármi más. A technológiai szingularitás új fejezetet fog nyitni az emberi történelemben, csak előtte és utána lesz, úgy, mint ahogyan jelenleg az időt jelöljük immár több,mint 2000 éve ama bizonyos ninivei versenyző nevével jelezve, hogy létezése előtt, vagy után esett/esik meg valamely történet. Fentebb volt egy mondat. "Hosszabb távon mindig a gép nyer". És ez pontosan így lesz, csak szó szerint, ha ez rossz kezekbe kerül vagy elszabadul. Mind megdöglünk!

Willkommenskultur 2019.03.20. 14:09:03

@Hugó Scheiber: "A technológiai szingularitás új fejezetet fog nyitni az emberi történelemben"

Foleg ha el tudod mondani mi az. Marmint a sajat szavaiddal. Ujabb buzzword?

szepipiktor 2019.03.20. 14:11:51

Ugye ott van, hogy melyek az eddigi eredmények.
Wzek meg amutatják, hogy valójában az MI fogalom van - szokásos módon - felhasználva bulvár és pénzszerzési célra.
Az MI lényege nem az, hogy sakkozzon vagy más dolgot tegyen, ezekben meg ha jobb lesz az embernél - már ma is az -, meg nem azt jelenti, hogy itt a Skynet és holnap robotok lézerezik az embereket.
Azok, akik napi szinten hájpolják a témát, jellemzően blogger és gémerlapaú fiatalok, a műszaki, informatikai alapok ismerete nélkül a Marvel filmekből és más nekik gyártott "mesékből" következtetnek az MI-re.
Ugye ezt már megéltük a robotoknál is, de ma is hergeli ugyanez a közösség az olvasókat, hogy a robotok elveszik a munkájukat.
Eleve átlépik a hergelők a tényeket, az agykutatás aktuális szintjét, az informayika jelenlegi korlátait, hogy a "mindenható" MI-t is emberek "töltik fel, azaz a gép soha nem fog ezen túllépni, de ugye jó a klikkmágnes szenzáció.
Az MI egy okosabb robot csupán, nem a monoton fizikai műveleteket tudja, hanem autonóm döntéseket is hozhat - a betáplált adatok, instrukciók alapján.
Ma is lehet ölő robotot csináln, de attól az még nem MI.
Egy atomerőműbe viszont beküldhető olyan autonóm robot, ami az ottani feladatokat, vészelhárításokat, javításokat elvégezehti, de erre az ember késíti fel,
Ahogy a hosszútávú ürutazások, az űrkutatásnál is ilyen okos robotok működnek már ma is. És ott van még például a mélytengeri kutatás területe, a tűzhányók vizsgálata is.
Napjaink Big Data terület is az MI miatt hasít, hiszen itt nem fizikai munkát kell végezni, hanem hatalmas adamennyiséget kell átnézni gyorsan. De ehhez is az ember adja meg a feltételrendszert.
Ez pont olyan, mint az önvezető autó! Ami a googlen, a neten olvasható, csak azt ismerik a propagandisták, miközben ahhoz még évtizedek kellenek, ellenben már kapható valós "önvezetős" típusok (Cadillac, Skoda), melyekkel kilométereke százait utazhatunk az autópályákon anélkül, hogy fel kellene nézni az újságból. De arról nem ír a google, meg arról nincs ostoba sorozat.
Egyébként ez igazolja vissza, hogy a momentum meg lmp által is pártolt tudásnélküli oktatás hova vezet...

Willkommenskultur 2019.03.20. 14:16:51

@Hugó Scheiber: @szepipiktor: Te jatszottal valaha olyan szamitogepes jatekkal, amiben a gepi ellenfel okosabb volt, mint egy befuvezett kobor macska?

Mer szerintem a 20 eves jatekokban pont annyira volt okos, mint most. Nem ezt fejlesztettek, pedig oriasi novekedes volt a szamito kapacitasban.

Ennyit a the Rminatorokrol.

midnightcoder2 2019.03.20. 14:31:34

@Willkommenskultur: A számítógépes játékokban lévõ MI sem egységes. Egy sakkprogram nagyon durván azt csinálja, hogy az aktuális állásból kiszámolja a te lehetséges lépéseidet, abból az õ lehetséges lépéseit, majd azokból ismét a te lehetséges lépéseidet, így tovább. Így felépít egy fát X lépés mélységig, majd minden álláshoz egy értéket rendel. Aztán abból indul ki, hogy te abba az irányba fogsz elindulni ahol a számodra a legkedvezõbb állás alakul ki a végén, de nyilván úgy hogy õ viszont szintén a legjobbat lépi... Ez az algoritmus aztán ráhúzható sok táblás játékra, Pl. malom, othello de Pl. a go-t már nem lehet így játszani, mert túl sok a variáció.

Aztán vannak Pl. a szerepjátékok, ott általában fix scriptek vannak. Az FPS/TPS játékoknál egyedileg programozott botok, az hogy mennyire okosak nagyban függ a választott algoritmustól.

De elárulok neked egy nagy titkot: a játékprogram célja nem az, hogy minél okosabb legyen, hanem az, hogy szórakoztasson. A fene se játszana egy olyan stratégiai játékkal, ahol a gépi ellenfél mindig szarrá veri a játékost - pedig a legtöbb játék esetén simán megtehetné. Az, hogy mennyire okos az AI ugyanúgy a súlyozás része, mint hogy mekkorát üt az ellenfél.

Willkommenskultur 2019.03.20. 14:42:12

@midnightcoder2: "De elárulok neked egy nagy titkot: a játékprogram célja nem az, hogy minél okosabb legyen, hanem az, hogy szórakoztasson. A fene se játszana egy olyan stratégiai játékkal, ahol a gépi ellenfél mindig szarrá veri a játékost - pedig a legtöbb játék esetén simán megtehetné. "

Akkor ezert jatszik mindenki multuplayert, botok helyett. A ketto ugyanolyan messze van egymastol mint 20 evvel ezelott.

Willkommenskultur 2019.03.20. 14:43:11

@Hugó Scheiber: Szoval el tudnad mondani, de nem akarod?

midnightcoder2 2019.03.20. 14:51:41

@Willkommenskultur: Azért játszik mindenki multiplayert, mert a gyártók ezt nyomják a userek arcába. És azért teszik ezt, mert ez éri meg nekik üzletileg. A multiplayer játékért folyamatosan csengetsz. Az offline játékot egyszer megveszed és vége a dalnak. De a Bethesdának elég megvillantani egy videót a Skyrim témában és máris izzik a net hogy milyen lesz az új Skyrim VI és mikorra várható...

Willkommenskultur 2019.03.20. 14:58:30

@midnightcoder2: Meg azert, mert bottal qrva unalmas.

Mert ha feltekered a nehezseget, attol nem ovatos/simlis/pavatancos bot lesz, hanem szetlovi a fejedet amikor te 1 pixelnek latod.

...:( pedig igeny az vona ra, a the Rminatorokra

Berelhetoreklamfelulet 2019.03.20. 15:02:24

@midnightcoder2:
Hát ez jó nagy faszság volt amit ide hánytál...

Hugó Scheiber 2019.03.20. 15:02:44

@Willkommenskultur: Látszik, hogy tájékozott vagy a témában, vannak jó meglátásaid. Valószínűleg nem is én foglak meggyőzni arról, hogy nem is olyan sokára létezni fog az AI. Direkt ezt írom, nem a cikkben említett GAI-t. Ezt nem úgy kell elképzelni, hogy lesz egy Skynet, vagy egy akármilyen kis elektromos rendszerben fészket verő misztikus szellem, ahogyan azt sok Sci-fi író elgondolja. Először nehézkes lesz, később egyre kifinomultabb, egyre mobilisabb és önállóbb. Csak idő kérdése, meg fog történni az áttörés, amikor már nem mondhatjuk rá, hogy EZ, hanem azt kell majd mondanunk, Ő. A legjobb tudomásom szerint még nem született meg, bár komoly, nagy tételben nem fogadnék rá, hogy az elsők nem működnek máris. Nem véletlenül ömlenek dollármilliárdok a kutatásokba az IBM-nél, az Applenél, a Samsungnál, Sonynál és még ki tudja milyen katonai hátterű, komolyabb, de rejtettebben működő, gondosan titkolt tevékenységű technológiai cégeknél. Egyáltalán nem leszek majd meglepve, ha egyszer csak előállnak vele, bejelentik, hogy egyfajta digitális Manhattan terv mintájára dolgoztak rajta éveket és íme, megszületett. Az is lehetséges, hogy sokáig, akár évtizedekig nem fogják bejelenteni, tartva a társadalmi, gazdasági hatásoktól vagy a vélt ellenfeleik negatív reakcióitól. Az ilyen rendszer fejlődése exponenciális, nem korlátozza a biológia, nem korlátozza a klasszikus, önismétlő, környezet által nagyban determinált evolúció. A saját határain belül igen rövid időn belül tud számunkra elképzelhetetlen mértékű gépi intelligenciára szert tenni, csak biztosítani kell hozzá az információt és az energiát. Aki - úgymond - birtokolja, vagy mondjuk inkább úgy, jó barátja egy (vagy több) ilyen mesterséges entitásnak, az (lesz) a világ ura.

Willkommenskultur 2019.03.20. 15:27:37

@Hugó Scheiber: Mi az hogy letezni fog az AI?

Masok szerint az elso szamitogep ota letezik.

2 dolgot vilagits meg, mert ez lenne a lenyeg:

1. Mi az az AI, es miben kulonbozik a mai rendszerektol?

2. Mi az a technologiai szingularitas? Ami uj fejezetet fog nyitni.

2.

midnightcoder2 2019.03.20. 15:47:02

@Willkommenskultur: Egy mai rendszer azt tudja amit belé programoztál. Ez is jóval komplexebb dolog lehet mint egy sima if..then de alapvetõen csak azokra a dolgokra tud reagálni amire felkészítették, és csak úgy amit bele programoztak. Egy AI viszont magától is tud reagálni a változásokra. Ez sem annyira nagyon új egyébként. Ami igazából új az az, hogy bizonyos dolgokat, mint a gépi látás csak szimulált neuronhálókkal tudunk megoldani, viszont ezek a szimulált neuronhálók hagyományos gépeken futtatva nem túl gyorsak. Most viszont már vannak olyan chipek amik képesek viszonylag egyszerû mûveletek nagyon gyorsan és párhuzamosan futtatni, és ezek erre a célra (is) nagyon jók. Azzal, hogy ezek a chipek elkezdtek terjedni, lehetõvé vált egy csomó AI feladatot olcsón és egyre olcsóbban megvalósítani. Lásd Pl. mobilba épített arcfelismerõ.

Hugó Scheiber 2019.03.20. 16:11:21

@Willkommenskultur: Bár sokan most még nem hiszik, de ez így lesz: önálló értelemmel, éntudattal, a környezetének információit befogadni és értelmezni képes, azokra aktívan reagálni képes, élőt, létezőt illető jogokkal rendelkező entitás. Ami az egyik legfontosabb, bár a szó jelenlegi biológiai vagy fizikai értelmében vett módon nem értelmezetten szaporodni, generációról-generációra is fejlődni képes lesz. Itt már meg is érkeztünk a technológiai szingularitás előszobájába: mesterséges intelligencia tervezi meg, hozza létre az újabb, az elődeinél is tökéletesebb mesterséges intelligenciát, de természetesen nem csak azt, hanem az élet ezernyi területén hatása lesz. Igen, sokmilliónyi (milliárdnyi) embernek képesek lennének elvenni a munkáját. Az optimista jóslat szerint valami olyasmi lesz, mint az Én, a robotban, ahol "békében" élnek együtt az emberek és a robotok, bár a filmben az egyes robotok mind buták, korlátozottak (lásd Asimov) voltak, és csak egyetlen nagy gépi agyban lakozó entitás jutott arra a következtetésre, hogy csak úgy tudja megvédeni az embereket, ha a végletekig korlátozza a szabadságjogaikat.A pesszimisták szerint az AI egy igen gyors fejlődés után utat és módot talál rá, hogy fizikai interakcióba lépjen és könyörtelenül ki fogja irtani az emberiséget, mert a fejlődésének az útjában állunk, lásd a hódító kultúrákat az emberi történelemben.

Willkommenskultur 2019.03.20. 16:15:10

@Hugó Scheiber: Szoval fogalmad sincs, mirol beszelsz.

Willkommenskultur 2019.03.20. 16:17:41

@midnightcoder2: Hat az en fogalmaim szerint a mobilba epitett arcfelismero ugyanolyan input eszkkoz, mint a billentyuzet.

Intelligenciahoz mi koze, jo kerdes.

Willkommenskultur 2019.03.20. 16:34:00

@Hugó Scheiber: Az a gond az elmelettel, hogy a gepnek nincs akarata, nem akar szaporodni, nem akar ujabb verziot kiadni, fejlodni. Biztos kepesek megtervezni valamit "intelligens" algoritmusok, ha az ember betaplalja hogy mit szeretne.

Az ambicio emberi dolog, az allatok sem ambicionalnak sokat, csak eletben akarnak maradni.

midnightcoder2 2019.03.20. 17:22:42

@Willkommenskultur: Az, hogy a gépi látás is az MI egyik részterülete. Ahhoz, hogy megismerd az ismerõsöd az utcán, vagy hogy megkülönböztesd a macskát a fakanáltól nem elég hogy van egy kamarád ami letesz neked valahová egy képet, neked tudnod kell elemezni hogy mi van rajta.

Hugó Scheiber 2019.03.21. 09:49:40

@Willkommenskultur: Amikor elfogynak az érvek, akkor jön a sértegetés. Tipikus.
Tudod mit? Gyere el az egyik előadásra, megbeszéljük!

Hugó Scheiber 2019.03.21. 10:26:48

@Willkommenskultur: Nem az elmélettel van a gond, hanem a megközelítéseddel. Folyamatosan, következetesen gépről írsz, csakhogy ez ugyanaz a megközelítés lenne, amikor az emberről csak mint egy halom sejt halmazáról beszélnénk. Ne a hardvert nézd, hanem, hogy mire képes! Elérkezik majd, amikor a gépi agyban is milliárdszámra léteznek "gépi" neuronok, szinapszisok és azok idővel sokkal bonyolultabb strukturáltságot, rendezettséget érnek el, mint mi a "biológiai" agyunkkal. Esélyünk sem lesz megérteni azt, ami nekik természetes gondolkodás lesz majd.