Az NJSZT blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Musk ismét a mesterséges intelligencia veszélyeire figyelmeztetett

2020. július 27. - ferenck

Elon Musk hosszú ideje figyelmeztet a mesterséges intelligencia egyelőre főként jövőbeni veszélyeire. Markáns észrevételei mindig megosztják a szakmai és az általános közvéleményt.

Nyilatkozott már például olyat is, hogy az MI még egy atomháborúnál is kockázatosabb, sokkal pusztítóbb lehet. Másokhoz hasonlóan, attól is fél, hogy a gépi értelem helyettesítheti az emberi munkaerőt. A Termináror-filmekből ismert Skynet-szerű entitásokra szintén többször felhívta a figyelmet – ezek a rendszerek, ha úgy gondolják, akár úgy is dönthetnek, hogy nincs többé szükségük a Homo sapiensre.

musk_ai0.jpg

„Egy évtizede kongatom a vészharangokat” – jelentette ki egy múlt héten készült interjúban.

Legutóbb a kételkedőket szólította meg, és elmondta: nem látnak annyira tisztán, mint gondolják. Figyelmeztette őket: hiába gondolják, hogy soha nem vág át intelligens embereket egy gép, és pontosan ezért kevésbé óvatosak, nem koncentrálnak eléggé, és máris bekövetkezhet a baj.

musk_ai.jpg

„Foglalkoznunk kell azzal, hogy merre tart az MI. Tapasztalataim alapján a legértelmesebb személyek tévednek a legnagyobbat, mert el sem tudják képzelni, hogy egy számítógép intelligensebb lehet náluk. Beleesnek ebbe a logikai hibába, és lényegében butábbak, mint képzelik” – magyarázza.

Musk szkepszisét kevés kollégája osztja. Az egyik ok, hogy gyakran hivatkozik általa látott, viszont mások számára ismeretlen, titkos és szerinte veszélyes mesterségesintelligencia-kutatásokra, konkrétumokkal viszont nem támasztja alá állításait, nem mutat be bizonyítékokat.

Ha félretesszük a veszély mértékét, megállapítható, hogy a Space X tulajdonosának egyes kérdésekben igaza van: jobban kellene figyelni, követni az MI-kutatásfejlesztéseket, és határozottabb szabályozás sem ártana. A hozzáállás megváltoztatására az esetleges visszaélések megelőzése és a biztonsági kockázatok minimalizálása miatt lenne szükség. Gondoljunk csak a kamuképekre, kamuvideókra, a gépi értelem propagandacélokra történő felhasználására és hasonlókra.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr1916078394

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

luis5 2020.07.27. 21:55:12

Alkalmazzák Bangonet és az MI-t futtató gépek horog e kiegnek

Exploiter 2020.07.28. 07:46:35

A fejlődés szabályozása illúzió.
Mindig is az volt.

odamondó 2020.07.28. 09:07:58

Musk folytatja a PR kampányt. Köszönjük.

arthurthedent 2020.07.28. 09:55:34

@Exploiter: Így van.
@odamondó: És ez is igaz. Musk egy marketinges csávó, gyakorlatilag a semmit adja el folyamatosan (kivéve a rakétáit, na azok nem semmik!)

nnnnnnnn 2020.07.28. 09:58:59

majd szóljon ha egy robotot odaállitok egy random vasalódeszka elé és kivasal egy adag random, mosógépből kiszedett ruhát, legalább olyan gyorsan mint egy ember.

Kovacs Nocraft Jozsefne 2020.07.28. 10:23:06

Az MI nem háztartási robotként lesz/lehet veszélyes, hanem akkor, ha egy ország létfontosságú funkcióinak működését bízzák rá.

Pl. ha a folyamatok optimalizálását tűzik ki neki célul, akkor hamar "rájöhet", hogy a hatékony működés legnagyobb gátja maga a nem mindig racionálisan, nem mindig tisztességesen cselekvő ember. Innen már csak egy lépés lehet az a döntés, hogy az embert eliminálni kell.

odamondó 2020.07.28. 10:40:12

@arthurthedent: komolyan mondom musk Steve Jobson is túltesz a mesében. Emberek akik nem szeretik az autót ha lenne pénzük teslat vennének. Mindenki kajálja a világmegváltó marsra költözős meséit közben a legnagyobb problémája a starlinkkel betölteni az eget...

Tamás Rátkay 2020.07.28. 11:12:00

Nem értem, hogy miért csinálnak félművelt újságírók váteszt egy tetszelgőből a témával kapcsolatban...? NEM Musk az, aki "figyelmeztetget", talmi jövendőmondóként az IA hatásaival kapcsolatban, hanem tudósok (ld. a Szingularitás gondolatkört, amiről magyarul is jelent meg kitűnő könyv), és már régóta. Miért nem leplezi le ezt a gyerekes utánzást, majmolást, magamutogató szertelenséget legalább az Index újságírója...? Nincs Google a keze ügyében...? Miért nem ez a címe a cikknek : "Közismert AI infókat ad el sajátjaként az ismert invesztor !" :-)

bz249 2020.07.28. 13:29:33

@Kovacs Nocraft Jozsefne: Igen, az MI kikuszoboli azt a problemat, ami miatt a burokracia meg nem vette at teljesen a vilaguralmat: a 6. CPU nem fog a 22. GPU ellen intrikalni, hogy ki legyen a projektcsapat vezetoje.

m.t. 2020.07.28. 13:41:39

@Tamás Rátkay:
Itt nem az a lenyeg hogy o talalta-e ki amit mond vagy nem. A "kozismert" infokra kutya nem volt kivancsi evtizedek ota, amikor Musk mondja akkor annak hirerteke van.

Exploiter 2020.07.28. 21:00:06

@m.t.: a közismert infók még abból a korból valók, amikor azt hitték, a true ai csak egy karnyújtásnyira van.
A közeljövő technológiái rengeteg pszichés, szociális, gazdasági és egyéb veszélyt rejtenek.
A skynet nincs köztük még, akárki akármit haluzik.

Tamás Rátkay 2020.07.30. 19:43:50

@m.t.: Csak azoknál, akiknek Musk "a" hírforrás. Szerencsére elenyészően kevesen vannak. :-)

Amúgy meg szégyen, ha egy Musktól tud meg valaki bármit is. Persze az információforrásokhoz való egyre szélesebb körű hozzáférés lehetőségével fordítottan arányos az össznépi műveltség szintje... úgyhogy nincs mit csodálkozni...

m.t. 2020.07.30. 19:54:16

@Tamás Rátkay:
Szerintem nincs ebben semmi szégyen, a laikus publikum mégis kiktől tájékozódjon? Az alapeset a klikkvadász bulvársajtó meg habzó szájú politikusok tweetjei, ennél szerintem bármikor jobb egy technokrata celebre hallgatni.

Szép dolog hogy te műveled magad és első kézről megbízható forrásból tájékozódsz, csak sajnos százszoros túlerőben vannak azok akik erre nem hajlandók, egyenlő szavazati joggal. Valakinek őket is meg kell szólítani.

Tamás Rátkay 2020.08.10. 04:31:42

@m.t.: Nincs túlerő. Honnan veszed ? Megmérted ? Hogyan ? Olyasmit állítasz, amit nem tudsz igazolni. Félrevezető vagy. Az elképzelésedet tényként állítod be, általánosságot próbálsz kreálni belőle. Valójában nem tudod, és én sem, hogy mennyien vannak a szerencsétlen tudatlanok. Musk pedig nem tudós, nem ért csak néhány dologhoz, ami ráadásul pont nem az AI. Alig egy hete már a piramisok építőiről beszélt (UFO-k !!!! :-(.... ) de szerencsére Egyiptomból kioktatták, alaposan, épp csak le nem hülyézték. A sajtó felelőssége óriási, ezért igenis NEM szabad megszólaltatni arra érdemtelent, dilettánst. Gondolom Te sem örülnél neki, ha mondjuk a nagyszülőd elhunyna pl. cukorbetegségben, és az idióta "újságíró" (az a tájékozatlan, műveletlen barom) azt írná, hogy (tegyük fel) Musk / Husk / Pusk / Lusk / ... nevű senkiházi az mondta : a cukorbetegség az ördöggel cimborálók "baja", azokon uralkodik el, akik ördögtől valók, így a pokolra velük ! Ugye így jobban érted mire gondolok ? Mert ez húsba vágó lenne... Ne kelljen ilyen gyerekes mesékkel rávilágítanom, hogy nem kérdezhet a sajtó akárkitől akármit. NEM. Nem, nem, és nem. Aki csak Lagzi Lajcsitól tájékozódik az élet dolgairól, az magára vessen. Ne nézd már el semelyik újságnak, újságírónak, hogy hülye. Az orvost is ügyvéddel lehetetlenítenéd el, ha szakszerűtlenség miatt levágná a lábad a szemölcsöd eltávolítása helyett... Ugyan hogyan becsülsz bármilyen szakmát, ha elnézed, hogy az, aki nem műveli, beleugasson ??? Jól esne neked, ha én a Te szakmádról beszélnék oltári baromságot egy lapban, "csak mert megkérdeztek" ? Nem, nyilván nem. Értelmes, erkölcsi érzékkel rendelkező, felvilágosult ember tiltakozik az ilyesmi miatt, nem pedig össze-vissza elméleteket gyárt arról. hogy "ez nem baj, mert a tömegek legalább így megtudnak valamit a világról, ha máshogy nem is...". Ez hülyeség. Degradálod a valódi szakembereket ezzel az okoskodó mentalitással, és nem előre viszed a tömeget, hanem hátra lépteted. Ráadásul le is nézed a "tömeget". Ugyan miért ? Különbség csak abban van ember és ember között, hogy van aki ért valamihez, egy másvalaki meg nem. Így beszélni csak annak van "joga", aki ért hozzá, benne van, műveli. Musk mások gondolatait szajkózta sajátjaként. Ez meg még pofátlan kérkedés is, mások tollával. Alapvetően az "újságíró" a hibás persze, aki hatalmas agyi sötétsége folytán nem tudja felmérni, hogy mi a magamutogatás, a feltűnősködés. Mindezt pedig a rendkívüli tájékozatlansága miatt követi el. Szégyen. Mint maga Musk is, amennyiben a forrásai említése nélkül kérkedik olyasmivel, ami nem az Ő nevéhez fűződik, vagy ha alapvető utánajárás, tájékozódás helyett hagymázas lázálmait teregeti ki. Az ilyeneknek NEM adunk nyilvánosságot, teret, sőt, egyenesen elítéljük. Ez a helyes. Ez lenne az. Emiatt aztán - mondjuk épp aktuális - fordul elő, hogy egy Drábik János "VALAKI" lehet, a sok oltári hülyeségével, vagy hogy a koronavírussal kapcsolatos szakértői vélemények mellé egyenrangúként hozza a "sajtó" a hozzá nem értő politikus / utca embere / soha-nem-volt-tudós, stb. "véleményeit". Meg is zavarodik tőle a "tömeg" ! Azután verekedni kezd, mint például Belgiumban, mert tömegével fürdeni akar a tengerben, úgy gondolván, hogy "nincs itt semmi baj, csak egy kis vírusocska lábatlankodik itt közöttünk, 19 millió (!) fertőzött között, de majd hiszem, ha látom !....". Ide vezet, ha az újságíró azt hiszi, hogy a szakmája annyit jelent csupán : leírni, amit mondanak, "osztán annyi !". Nem. Ha nálad a toll, és a papír, amire ha írsz, már viszik is a "tömeg" elé, olvasásra, akkor kurvára FELELŐSSÉGED is van : az írástudó / hírhozó felelőssége. Mint ahogyan az orvosnak orvosi, a mérnöknek meg mérnöki (szakmai, hogy jobban értsd) felelőssége van. VAN ! Kellene, hogy legyen... de nincs, mint ahogyan látjuk nap, mint nap. Katasztrófa ez az értékzavar, amit a nulla tudású emberek okoznak azzal, hogy a "reflektort" önhatalmúlag magukra irányít(hat)ják egy-egy pillanatra. "Influencer" : ez a legalja az ilyen kivagyiságtól fűtött semmirekellőségnek.... A laikus publikum tájékozódását kérdezed tőlem. Nos, aki felnőttként nem rendelkezik a hétköznapi ismeretszerzés alapvető jártasságával, azt erre figyelmeztetni kell, nem pedig "kiszolgálni", felerősíteni a gyengeségét.