Az NJSZT blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Örökké tanuló mesterséges intelligenciák

2017. november 28. - ferenck

A Navya francia fejlesztőcég egyik önvezető járművének bemutatója előtt néhány órával a gép türelmesen várta, hogy egy teherautó tolasson, tolasson, aztán addig várt, amíg beletolatott. A valódi probléma, hogy a jármű nem úgy tanul a balesetből, ahogy az ember: azonnal és nem megfeledkezve a folyamat összes többi eleméről.

Ezen szeretne változtatni a DARPA L2M, azaz Lifelong Learning Machines (Élethosszig tanuló gépek) programja. Az ügynökség folyamatosan tanuló, új feladatokhoz alkalmazkodó rendszerekben gondolkozik, amelyek tudják, hogy mit és mikor kell elsajátítani.

darpa1.jpg

„Együtt akarjuk az automatizáció szigorát és az ember rugalmasságát” – nyilatkozta a 65 millió dolláros programot vezető Hava T. Siegelmann.

16 csapatot már ki is választottak négyéves projektekre, de az egy és másfél évesekre még van hely, várják a jelentkezőket.

darpa.jpg

Az összeütközés rávilágít a mai mesterséges intelligencia egyik főbajára. Az ideghálók a mesterséges idegsejtek közötti kapcsolatok erősségének váltogatásával tanulnak. Alkalmazkodó rendszerek, adatsorokon, például járművek és személyek fényképein tanulnak. A hálózati kapcsolatok erejét ezt követően állítják be, majd az idegháló működésbe lép, teszi a dolgát. A gond akkor jön, ha olyasmivel találkozik, amire soha nem tanították. Ha nem tanulja meg, azaz nem tanul újra, mindig el fogja követni ugyanazt a hibát.

A jelen MI-jeit viszont igazából nem lehet újratanítani, mert az új „lecke” összezavarja az addigi ismereteket, hogy mit és hogyan tegyen. Ezt a jelenséget nevezik „katasztrofális felejtésnek.”

darpa0.jpg

Ha valami újjal szembesülünk, nálunk is előfordulhat hasonló, de aztán hamar megtanuljuk mi a teendő. Ha például fél méterrel rövidebbek lennének a focikapuk, a játékosok eleinte kevesebb gólt lőnének, de aztán rájönnének, mit tegyenek. Nem kellene lehívni őket a pályáról és részletesen elmagyarázni az egész játékot. A következő változtatásnál szintén ez történne, és akkor sem kellene újratanítani nekik a labdarúgást.

Ez óriási különbség a Homo sapiens és a mesterséges intelligencia között.

A 16 csoport kutatása két részre oszlik. Az egyikbe tartozók négy évig fejlesztenek állandóan tanuló, új feladatokhoz és körülményekhez alkalmazkodó, az inputokat céljaik szerint értelmező (célvezérelt érzékelés) rendszereket. A többiek az élethosszig tartó tanulás új mechanizmusait azonosítják biológia vagy más természettudomány segítségével. A mechanizmusokat algoritmusba dolgozzák, az algoritmus pedig növeli az MI képességeit.

A bejegyzés trackback címe:

http://jelenbolajovobe.blog.hu/api/trackback/id/tr8413396083

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2017.11.29. 10:00:02

Neked nem sok közöd van ehhez a témához.

1) A tolató kamionos baleset oka az volt, hogy az autonóm vezetés még egyáltalán nem tart ott, hogy a kisbusz elkezdjen önmagától kitérő manővert tervezni:

www.theguardian.com/technology/2017/nov/09/self-driving-bus-crashes-two-hours-after-las-vegas-launch-truck-autonomous-vehicle

Az a kisbusz egyszerűen le volt korlátozva arra, hogy vész esetén legfeljebb fékezzen. De ha már áll, nem tud mit csinálni. EZ ma az autonóm vezetés state of the artja.

2) Arról szó sincs, hogy a mesterséges intelligencia ne tudna online tanulni. A neurális hálózatokban magában semmiféle olyan korlát nincs, ami ezt lehetetlenné teszi.

Az online tanulás legnagyobb problémája az, hogy honnan is tudja a kisbusz, hogy hibát követett el? Triviálisnak tűnik, hogy ha baleset történik, akkor hibát követett el, de a kisbusznak ezt érzékelni nem olyan triviális, erre nincs felkészülve.

Ráadásul a balesetközeli hibák észlelése még bonyolultabb volna.

Az offline tanulás egyik előnye, hogy az ember tudja címkézni a felvételeket, akárhányszor lefuttatható a tanulás, és hasonlók.

3) Az online tanulás másik veszélye, hogy az MI félre is tanulhat, láttuk ezt a chatbot esetében, amelyből náci lett, mert arra tanították. A homo sapiens rugalmas, de nála is pontosan ez a veszélye az online tanulásnak. Az a "büdös tinédszser" mindenféle rosszat is megtanul.

4) De leginkább azért nem tart itt a technológia, mert még nem vagyunk ott. Nem elvi korlátja van, hanem el kell még jutni odáig, és az autonóm vezetéssel nagyon óvatosan bánnak a fejlesztő cégek. A Teslka kissé merészebb, meg is van az eredménye.

steery 2017.11.29. 11:18:02

@Brendel Mátyás: Az emberek attól keltik az intelligencia látszatát, hogy folyamatosan tanulnak, több-kevesebb hatékonysággal a folyamatosan felhalmozódó tapasztalataikból. Ha ugyanezt gépekkel csináljuk meg, akkor lesz csak esélyük elérni a mi intelligencia szintünket és végül lehagyni minket. De ehhez borzasztóan nagy adattárolókra lesz szükség és jó helyzetkiértékelésre.
Például az autógyárak megcsinálhatnák azt, hogy nem a kocsiban tárolódik a robotpilóta minden emléke, hanem rádión átküldi a cég központjába vagy valamelyik helyi szerverfarmra, ahonnan csak a lényeges, kiértékelt, hasznos adatokat küldik vissza a kocsinak, személyre szabottan, hogy elférjen a winyóján. Mintha az MI az agya egy részét máshol tárolná.
Ez fog végül elvezetni az embernél okosabb speciális MI-hez. Az általános MI-hez viszont androidokat kell építenünk és azokban futtatni ugyanígy MI-t.
A félretanulás, miként az árulás és hatalomra törés elkerülhetetlen minden intelligenciánál, így az MI-nél is. Végeredményben tehát ugyanolyan bosszantóan buták és rosszak lesznek ezek az okos és jó gépek is idővel, mint az emberek.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2017.12.03. 15:44:32

@steery: Hidd el nekem, nem arról van szó, hogy ezt csak te tudod, és az autógyártók, a beszállítóik és fejlesztőik ezt ne tudnák. Tökéletesen tudatában vannak ezeknek a lehetőségeknek.

Te vagy az, aki nincs tudatában annak, hogy ennek micsoda biztonsági kockázata van. És emiatt a biztonsági kockázat miatt jön nagyon lassan ez a technológia, nem azért, mert az MI erre nem képes, nem azért, mert a fejlesztők hülyék, nem azért, mert a management hülye (egyébként az), hanem azért, mert ha ezt ripsz-ropsz bevezetnék jövőre, akkor lenne rögtön 3-4 olyan baleset, amikor ez a technológia hibázott, és óriási botrány lenne belőle. Nagyon meg kell tehát nézni, hogy hogy lehet ezen a területen biztonságosan előrelépni, és pontosan ez történik ebben az iparágban, csak arra neked nulla rálátásod sincs.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2017.12.03. 15:46:00

@steery:

"A félretanulás, miként az árulás és hatalomra törés elkerülhetetlen minden intelligenciánál, így az MI-nél is. "

Igen, de ha a robotautó tanult félre, és emiatt lett baleset, az szalagcím az újságokban, míg ha Józsi bácsi tanult félre, és okozott egy balesetet, az az ötödik oldalon szereplő hír.

steery 2017.12.03. 16:07:17

@Brendel Mátyás: Pontosan tudatában vagyok a biztonsági kockázatoknak. Ezért nincs autóm. :-D

Brendel Mátyás · http://ateistaklub.blog.hu/ 2017.12.03. 16:23:09

@Brendel Mátyás:

Itt van egypár meggondolás, hogy miért nehéz, és nem feltétlenül okos dolog, amit javasolsz. Tegyük fel, hogy van egy autonóm autónk, amely érzékelőkkel rendelkezik, és az interneten feltölt a felhőbe adatokat, és a felsőben van egy mesterséges intelligencia modell, amely azt kiértékeli, és tanul belőle, a modell pedig megmondja az autónak, mit csináljon.

1) Óriási adattömeget kéne feltölteni, egyelőre ez túl drága, és nem éri meg.
2) Az architektúra nagyon veszélyes a hackeléseket illetően.
3) Mit csináljon az autó, ha megszűnik a kapcsolat? (OK, ezt meg lehet oldani, de akkor egy elég jó modellnek kell futni az autón, a hozzá tartozó hardverrel).
4) Ugye a balesetekből való tanulással csak utólag lehet tanulni. Előbb el kell követni a balesetet. Az autógyártók ehelyett ugye kitalálták azt a dolgot, hogy annak tesztpályáik, ahol tesztelik az autókat, és ahol a "balesetek" nem olyan súlyos dolgok, kontrolláltak, és eleve nem halnak bele az emberek.
5) Nyilvánvalóan senki nem venne meg egy olyan autonóm autót, amely elvben képes megtanulni autonóm vezetni, de az autószalonból kihajtva rögtön lerohad. Az nem vígasz, hogy majd egy hónap múlva már jobb lesz.
4) A hatóságok meg még kevésbé engedélyeznének egy ilyen autót, a hatóságok millió kilométereket kérnek súlyos baleset nélkül.
5) Ebből következően a normális vezetés közben keletkező adatok 99,999999% érdektelen adat volna, mert az autó jól csinálja a dolgokat.
6) Ezt teljesen feleslegesen töltöd fel az autóból a felhőbe. Irdatlan mennyiségű adatot töltesz fel, amit nem nagyon lehet tárolni, és a nagyon kicsi töredéke érdekes. Ezzel szemben a tezstpályán keletkezett adatoknak még a nagy része fontos, érdekes.
9) A feltöltött adatokat címkézni kell, és a 99%-át el kéne dobni, mert felesleges átnyomni az MI algoritmuson hiszen nincs benne hiba.

10) Az egész architektúra nehezen tesztelhető, nehezen garantálható, hogy biztonságos.

11) Ha valami hiba csúszik a dologba, és egy félretanulás miatt minden autóba letöltődik egy hibás modell, mert ugye a tanulás automatikus és on-line, és azonnali a hatása, senki nem teszteli külön, akkor ki vállalja a felelősséget? Az autógyár? Az MI fejlesztő? De miért vállalja az MI fejlesztő a felelősséget, ha a hiba oka lehet más is, például egy adatátviteli hiba, vagy egy hiba az egész folyamatban? Mi van, ha az MI fejlesztő algoritmus tökéletes, csak hibás adatok kerültek a felhőbe?

Egyébként a cmkézési igény miatt semmiképpen nem működik a dolog onile és azonnal. Ha pedig már felvételeket rögzítenek, válogatnak, és címkéznek, akkor jobb azokat megválogatni, és jobb offline, kontrolláltan tanítani, és tesztelni is azt, amit tanult az algoritmus.

Összességében nem az ennek az iparágnak a nagy problémája, hogy ne tudnának kiküldeni pár tesztvezetőt, hogy vezessenek le 100 millió kilométert, és rögzítsék. Ehhez képest a mindennapi vezetőktől drágán megkapható sokkal nagyobb adatmennyiség inkább problémát jelentene, mint hasznot.

Az autonóm autóban lesz internetes kapcsolat, lesz autó-autó kapcsolat, illetve lesz valamilyen autó-felhő-autó kapcsolat is, de nem egy szabadjára engedett online tanulás lesz.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2017.12.03. 16:34:23

@steery: akkor meg mit érdekel, illetve miért vered más faszával a csalánt?!

steery 2017.12.03. 18:58:18

@Brendel Mátyás: Talán azért, hogy neked viszkessen a faszod.
:-D
Örülsz neki? Ha nem, szólj, és még verem kicsit.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2017.12.04. 06:21:29

@steery: szánlmas vagy, és ostoba. máskor ne reklámozd, hanem maradj kussbnan a putri mélyén!

GABOR2 2017.12.08. 16:13:11

Nem jó ötlet hackereknek kitenni magunkat.