Gyakran felmerülő (jogos) kritika az ember által alkotott mesterséges intelligenciákkal kapcsolatban, hogy előítéletesek, elfogultak. Az UNESCO szerint viszont fordítva is igaz, pontosabban az MI-k előítéletessé, elfogulttá tehetnek embereket.

Sokmillióan beszélnek mesterségesintelligencia-alapú hangasszisztensekhez, például az Apple Sirijéhez, vagy az Amazon Alexájához. Rajtuk kívül, a többek között háztartási gépekről és szolgáltatásokról tanácsot adó asszisztensek általában nőinek tűnő hangon válaszolnak (a vezetést segítő alkalmazások az egyik kivétel), és egy új UNESCO anyag szerint ezek a hangok és az előre programozott szövegek felerősítik a nemi előítéleteket, szexistává tehetik a férfi felhasználót.

Az asszisztensek programozása jól szemlélteti a velük kapcsolatban felmerülő problémákat.

„Siri verbális visszaélésekkel szembeni engedelmes attitűdje, valamint a fiatal nőként megjelenített, elképzelt sok más digitális asszisztens által kifejezett szolgalelkűség hatásosan illusztrálja a technológiai termékekbe kódolt nemi elfogultságot” – áll az anyagban.

Miután az UNESCO a beszámoló vázlatát áprilisban elküldte az Apple-nek, a cég megváltoztatta Siri egyes kérdésekre adott válaszát, például, ha bitchnek nevezik, a korábbi „ha tudnék, elpirulnék” helyett „nem tudom, hogyan válaszoljak erre” szavakkal reagál.

Az Apple reakciója bíztató, viszont egyelőre csak egy asszisztens egy-két szóra/mondatra adott válaszát érinti. Az UNESCO szerint az infokom iparnak sokkal több, átfogóbb hasonló változtatást kellene eszközölnie.

Jó kiindulási pont lehet, ha a cégek több női programozó alkalmazása mellett, a hangasszisztenseket nem nőnek képzelnék el „alapbeállításként”, hanem nemileg semlegesebb hangon szólalnának meg, illetve a sértő kérdésekre nem, vagy visszautasítóan reagálnának.

„Ügyelnünk kell, hogy az általunk fejlesztett és használt MI megfeleljen a nemek közötti egyenlőség elvének” – jelentette ki az UNESCO Nemi Egyenlőség részlegét vezető Saniye Gülser Corat, az anyag elsőszámú szerzője.