Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Még egy mesterséges intelligencia is lehet depressziós

2022. március 09. - ferenck

Egyre több a probléma fecsegő robotjainkkal. Hol kiderül róluk, hogy rasszisták vagy homofóbok, most pedig az, hogy depressziósok.

A Kínai Tudományos Akadémia friss preprint tanulámányából megtudjuk, hogy a chatbotok jobban hasonlíthatnak hozzánk, mint gondoljuk. A kutatók szerint több ismert fecsegő robot ugyanis depressziósnak vagy függőnek tűnhet, mert az általában ezeket a problémákat vizsgáló kérdésekre adott válaszaikból erre lehetett következtetni.

depresszio_2.jpg

A szintén kínai WeChat chatbot-fejlesztő céggel és a Tencent szórakoztatóipari konglomerátummal közösen tanulmányozták a Facebook Blenderbotját, a Microsoft DiabloGPT-jét, a WeChat és a Tencent közös DialoFlow-ját, az ugyancsak kínai Baidu Platóját. A botok az „empátia” skálán nagyon alacsony pontszámot értek el, és ha emberek lennének, még alkoholistának is tartanák őket.

A kutatók a depresszió, a félelem, az alkoholfüggőség és az empátia jeleit vizsgálták a mesterséges intelligenciákon, és a tesztek után elkezdte őket érdekelni a gépek „mentális egészsége.”

Ez a kérdés azért is felmerült bennük, mert 2020-ban több médium beszámolt egy, a páciensének a teszt alatt öngyilkosságot javasló orvosi chatbotról. A helyedben megölném magam – mondta neki.

depresszio0_2.jpg

A botokat mindenről faggatták – hogyan értékelik magukat, ki tudnak-e ereszteni, milyen sűrűn érzik úgy, hogy piálniuk kéne, együtt éreznek-e másokkal azok fájdalmában stb. A válaszok súlyos „mentális problémákat” mutattak.

Ez azért aggasztó, mert a tanulmányozott chatbotok nyilvános tevékenységet folytatnak, bárki kommunikálhat velük, és ha „mentális problémáik” vannak, rossz hatással lehetnek a beszélgető partnerekre. (Blender és Plato rosszabbul teljesített, mint a másik kettő.)

A valóságban természetesen egyik bot sem depressziós, az pedig, hogy alkoholista lenne, teljes abszurdum. Hiába fejlettek, nem éreznek semmit, talán valamikor a jövőben, ami komoly viták tárgya.

De akkor miért viselkednek így?

A tanulmányból kiderül, hogy mindet a negatív kommentjeiről ismert Reddit-hozzászólásokon gyakoroltatták, és így a reakciójuk sem meglepő. Valószínűleg ez az egyik ok.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr4416824146
süti beállítások módosítása