Egyre több a probléma fecsegő robotjainkkal. Hol kiderül róluk, hogy rasszisták vagy homofóbok, most pedig az, hogy depressziósok.
A Kínai Tudományos Akadémia friss preprint tanulámányából megtudjuk, hogy a chatbotok jobban hasonlíthatnak hozzánk, mint gondoljuk. A kutatók szerint több ismert fecsegő robot ugyanis depressziósnak vagy függőnek tűnhet, mert az általában ezeket a problémákat vizsgáló kérdésekre adott válaszaikból erre lehetett következtetni.
A szintén kínai WeChat chatbot-fejlesztő céggel és a Tencent szórakoztatóipari konglomerátummal közösen tanulmányozták a Facebook Blenderbotját, a Microsoft DiabloGPT-jét, a WeChat és a Tencent közös DialoFlow-ját, az ugyancsak kínai Baidu Platóját. A botok az „empátia” skálán nagyon alacsony pontszámot értek el, és ha emberek lennének, még alkoholistának is tartanák őket.
A kutatók a depresszió, a félelem, az alkoholfüggőség és az empátia jeleit vizsgálták a mesterséges intelligenciákon, és a tesztek után elkezdte őket érdekelni a gépek „mentális egészsége.”
Ez a kérdés azért is felmerült bennük, mert 2020-ban több médium beszámolt egy, a páciensének a teszt alatt öngyilkosságot javasló orvosi chatbotról. A helyedben megölném magam – mondta neki.
A botokat mindenről faggatták – hogyan értékelik magukat, ki tudnak-e ereszteni, milyen sűrűn érzik úgy, hogy piálniuk kéne, együtt éreznek-e másokkal azok fájdalmában stb. A válaszok súlyos „mentális problémákat” mutattak.
Ez azért aggasztó, mert a tanulmányozott chatbotok nyilvános tevékenységet folytatnak, bárki kommunikálhat velük, és ha „mentális problémáik” vannak, rossz hatással lehetnek a beszélgető partnerekre. (Blender és Plato rosszabbul teljesített, mint a másik kettő.)
A valóságban természetesen egyik bot sem depressziós, az pedig, hogy alkoholista lenne, teljes abszurdum. Hiába fejlettek, nem éreznek semmit, talán valamikor a jövőben, ami komoly viták tárgya.
De akkor miért viselkednek így?
A tanulmányból kiderül, hogy mindet a negatív kommentjeiről ismert Reddit-hozzászólásokon gyakoroltatták, és így a reakciójuk sem meglepő. Valószínűleg ez az egyik ok.
