Az NJSZT blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

UNESCO: nőellenessé tehet a Siri és az Alexa

2019. május 30. - ferenck

Gyakran felmerülő (jogos) kritika az ember által alkotott mesterséges intelligenciákkal kapcsolatban, hogy előítéletesek, elfogultak. Az UNESCO szerint viszont fordítva is igaz, pontosabban az MI-k előítéletessé, elfogulttá tehetnek embereket.

Sokmillióan beszélnek mesterségesintelligencia-alapú hangasszisztensekhez, például az Apple Sirijéhez, vagy az Amazon Alexájához. Rajtuk kívül, a többek között háztartási gépekről és szolgáltatásokról tanácsot adó asszisztensek általában nőinek tűnő hangon válaszolnak (a vezetést segítő alkalmazások az egyik kivétel), és egy új UNESCO anyag szerint ezek a hangok és az előre programozott szövegek felerősítik a nemi előítéleteket, szexistává tehetik a férfi felhasználót.

misogyny.jpg

Az asszisztensek programozása jól szemlélteti a velük kapcsolatban felmerülő problémákat.

„Siri verbális visszaélésekkel szembeni engedelmes attitűdje, valamint a fiatal nőként megjelenített, elképzelt sok más digitális asszisztens által kifejezett szolgalelkűség hatásosan illusztrálja a technológiai termékekbe kódolt nemi elfogultságot” – áll az anyagban.

misogyny0.jpgMiután az UNESCO a beszámoló vázlatát áprilisban elküldte az Apple-nek, a cég megváltoztatta Siri egyes kérdésekre adott válaszát, például, ha bitchnek nevezik, a korábbi „ha tudnék, elpirulnék” helyett „nem tudom, hogyan válaszoljak erre” szavakkal reagál.

Az Apple reakciója bíztató, viszont egyelőre csak egy asszisztens egy-két szóra/mondatra adott válaszát érinti. Az UNESCO szerint az infokom iparnak sokkal több, átfogóbb hasonló változtatást kellene eszközölnie.

Jó kiindulási pont lehet, ha a cégek több női programozó alkalmazása mellett, a hangasszisztenseket nem nőnek képzelnék el „alapbeállításként”, hanem nemileg semlegesebb hangon szólalnának meg, illetve a sértő kérdésekre nem, vagy visszautasítóan reagálnának.

„Ügyelnünk kell, hogy az általunk fejlesztett és használt MI megfeleljen a nemek közötti egyenlőség elvének” – jelentette ki az UNESCO Nemi Egyenlőség részlegét vezető Saniye Gülser Corat, az anyag elsőszámú szerzője.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr2914867098

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.