Az NJSZT blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Ha meg akarunk érteni egy algoritmust, kezeljük úgy, mint egy állatot

2018. október 12. - ferenck

Soha nem vásárolnánk olyan önvezető autót, amely gyalogosok életének megmentéséért feláldoz minket.

Iyad Rahwan, az MIT (Massachusetts Institute of Technology) Médialaboratóriumának kutatója szerint ezért és hasonló okokért kell újragondolnunk a mesterséges intelligenciák viselkedését. Mivel okosabbá válnak, intelligenciájuk folyamatosan nő, ki fogja garantálni, hogy úgy cselekedjenek, ahogy elvárjuk tőlük?

Rahwan komoly kihívásnak tartja a kérdés megválaszolását.

algorithms.jpg

Az MI-k egyre hatékonyabbak, egyre több területen tevékenyek. Segítenek eldönteni, kit vegyünk fel új alkalmazottnak, kiválasztani következő romantikus partnerünket, közösségimédia-buborékba zárnak stb.

Egy-egy szoftver és a világ közötti interakciók ma már annyira rejtettek és komplexek, hogy a szakértőknek lassan el kell kezdeniük ugyanúgy tanulmányozni az algoritmusokat, mint az állatokat.

Kifinomult, bonyolult entitásokról van szó, és csak akkor fogjuk érteni őket, ha viselkedési módjukat környezetük, a kontextus figyelembevételével tanulmányozzuk.

algoritmus0.jpg

„Van egy újfajta ágens a világban. Se nem állat, se nem ember, hanem gép. Az algoritmusok megnyilvánulásait jelenleg csak számítástudományi szakemberek tanulmányozzák. Kutatócsoportommal úgy figyeljük a viselkedésüket, mintha emberekről, természetes környezetükben élő állatokról vagy szervezetekről lenne szó” – magyarázza Rahwan.

Hiába vizsgáljuk régóta az állatokat, még most sem értjük őket, mert a fejlettebbek sokkal összetettebb lények, mint gondoljuk. Ugyanez érvényes a humán pszichológiára is – nagyon messze vagyunk az emberi agy megértésétől, viszont rengeteget tudunk az emberi viselkedésről.

Még ha be is látnánk szervezetek falai mögé, és hozzáférnénk algoritmusok forráskódjához, akkor sem értenénk, hogy milyen hatást gyakorolnak a társadalomra. Kulcsfontosságú, hogy a világban tevékenykednek, ezért a világban mutatott viselkedésüket kellene elemezni.

Például Facebook hírfolyamunkban látjuk a megjelenő történeteket, viszont nem férünk hozzá az azokat kiválasztó algoritmushoz. Ülhetünk önvezető autóban, de nem látjuk a sávváltás dinamikájára utasítást adó kódot.

Rahwan korábban etikai kérdésekkel, például gyalogosok elgázolásának dilemmájával foglalkozó, illetve minden általuk kiértékelt képen erőszakot és borzalmakat látó „pszichopata” mesterséges intelligenciákat fejlesztett. Most viszont ugyanúgy a fizikai valóságra fókuszál, mint az állatokat természetes környezetükben tanulmányozó biológusok.

Ha sikerrel járnak, újféleképpen láthatjuk az algoritmusok emberekre és a társadalomra gyakorolt hatásait.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr9614294751

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.