A Facebook meztelenséget automatikusan kiszűrő filtereinek rendeltetése, hogy a kiskorúakat megvédjék fejlődésüket a közösségi hálózat szabályai szerint negatívan befolyásoló vizuális élményektől. Csakhogy a filterek és a mögöttük lévő algoritmusok, azaz mesterséges intelligencia gyakran tévednek.

Az algoritmus legutóbb például egy kosárban lévő csomag hagymát címkézett nem megfelelő, „szexuálisan explicit” tartalomként.

Egy kanadai cég próbálta a közösségi médiumon reklámozni magát a képpel, amelyet a Facebook algoritmusa blokkolt, azzal indokolva, hogy az „nyíltan szexuális tartalmú.”

A tévedésen mosolygunk egyet, aztán el is felejtjük. Csakhogy rögtön több kérdés fel is merül: az MI milyen kritériumok alapján döntött, miért szűrte ki pont ezt a képet?

Az eset leginkább viszont azt szemlélteti, hogy a mesterséges intelligencia tartalommoderálása egyelőre hagy kivetnivalókat maga után, és még nem kész felelősségteljes szituációkban teljesen megalapozott döntéseket hozni.

A Gaze Seed Company részletesen nem ment bele, hogy mit gondol a döntésről. A Facebook értesítette őket a nemkívánatos tartalomról, és hogy el kell tüntetniük az oldalról.

„Szerintem a hagymák két kerek formájáról hihette tévesen az algoritmus, hogy női mell vagy valami más, és valamilyen módon meztelen” – találgatott Jackson McLean, a Gaze Seed Company menedzsere, majd hozzáfűzte: „egyszerűen mókásnak tartottam. Elég elrugaszkodott fantázia kell ahhoz, hogy valaki ránézzen a hagymákra, és valami szexuális dolog jusson eszébe róluk. A nyíltan szexuális szöveg pedig arra utal, hogy tévedésnek helye sincs.”

Ellentétben az algoritmussal, az emberi szemnek teljesen egyértelmű, hogy se explicit, se implicit nincs a képen nemiség, meztelenség – közönséges hagymákat látunk. A hagyma még akkor is hagyma, ha a Facebook mesterséges intelligenciája másnak látja.

A Gaze Seed Company panasszal élt a közösségi médiumnál, de egyelőre még nem kaptak választ.