Az Egyesült Királyság független adatvédelmi szervezete, a személyiségi jogokat figyelő Információ-biztos Hivatal (ICO), az ország legfontosabb watchdogjának biztoshelyettese, Stephen Bonner figyelmeztet a mesterséges intelligencia érzelemfelismerésre történő használata ellen. Szerinte egyik vállalatnak sem kellene alkalmazni az érzelemelemzés néven is ismert, egyelőre „éretlen” technológiát. Túl nagy a kockázat, több a potenciális kár, mint az előny.

Bonner a biometriát és az érzelemelemzést egy kalap alá veszi, és mindkettőben veszélyt lát, például egyes személyek pontatlan, igazságtalan és diszkriminációhoz vezető megítélését.

Az érzelemelemzés hasonlóan működik, mint egyes jól ismert biometrikus technológiák, például a szintén vitatott megítélésű arcfelismerés, sőt, még megbízhatatlanabb.

A rendszer többször leszkenneli az adott személy arcát, arckifejezését, rögzíti a hanghordozását vagy más fizikai jegyeket, és ezekből az adatokból kiindulva, mentális állapotokra vagy érzelmekre következtet.

Az arcmozdulatok és az alapvető érzelmi kategóriák közötti kapcsolat automatizálásánál felmerülő nehézségek általánosabb kérdéshez vezetnek: az érzelmek tényleg szűk csoportokba sorolhatók, vagy sokkal összetettebbek? Többek szerint az arckifejezések nem feltétlenül fejezik ki pontosan belső lelkiállapotunkat, például hányan mosolyognak valódi öröm nélkül?

Bonner szerint a fenntartható biometriai alkalmazásoknak teljesen funkcionálisnak, felelősnek és tudományosan megalapozottnak kell lenniük, máskülönben használhatatlanok.

Az ICO régebben is figyelmeztetett egyes technológiák használatára, teljes technológiacsalád ellen, mint most a biometria esetében, viszont még soha nem foglalt állást. Érzelemelemzéshez tudománytalan, áltudományos megoldás – érvel Bonner.

Az arcfelismerés és például a reptereken történő más biometrikus megoldások buktatói is elgondolkodtatók, viszont egyikük sem annyira nyugtalanító, mint az érzelemelemzés – összegez a biztoshelyettes.