Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Kamuágensünk beszélget az ügyfélszolgálattal

2023. január 16. - ferenck

Senki nem szereti az idejét azzal tölteni, hogy telefonon ügyfélszolgálattal beszélget. Szerencsére a mesterséges intelligencia idejétmúlttá teheti ezt a gyakorlatot. Emellett időt spórol meg, és valószínűleg valamilyen kártérítést is kibeszél nekünk.

Joshua Browder, a DoNotPay (Ne fizess) fogyasztóvédelmi szervezet igazgatója a telefon menüjében önállóan navigáló, saját hangjának kamuváltozatát (deepfake) használva, ügyfélszolgálatosokkal beszélgető rendszert mutatott be. A cég általános hangokkal működő ingyenes, és a felhasználóét leklónozó fizetős változatot is kínál a nagyközönségnek.

do_not_pay.jpg

Egy, a YouTube-ról eltüntetett videó demón hallható és látható volt, ahogy a rendszer egy bank képviselőjével elektronikus átutalási díjak visszatérítéséről tárgyal.

Az OpenAI GPT-3.5 nyelvi modelljének automatizált ügyfélszolgálati felszólításokra finomhangolt példányát használva, lépett interakcióba vállalati hangportálokkal.

A Resemble.AI klónszolgáltatás létrehozta Browder hangjának szintetikus változatát.

Elérve a humán ügyfélszolgálatost, a rendszer beszélgetés közbeni válaszokat generált, és a Huggingface nyíltforrású GPT-J modelljének a segítségével töltött fel a Clone-ra. (A GPT-3.5-öt jogi okok miatt nem használták.)

Ennyi történt.

Megválaszolatlan etikai kérdés: embereket, legyen szó fogyasztókról vagy ügyfélszolgálatosokról, értesíteni kell-e arról, hogy bottal beszélgetnek? Ez azért fontos, mert a technológia magában hordja a csalás lehetőségét, sőt, „fel is kínálja” azt. Cyberbűnözők adathalász támadásoknál visszaéltek már az OpenAI nagy nyelvmodelljeivel. 2020-ban például ügyfél hangját szintetizálva, egy bűnözőcsoport négyszázezer dollárt csalt ki az egyik dubai banktól.

Egy automatizált doppelgänger persze mindig jókor jön, és valóban hasznos, ha helyettünk beszél az ügyfélszolgálattal. De mivel vállalatok és pénzügyi szervezetek egyre jobban megerősítik a csalás elleni védelmüket, ebből kifolyólag, az automatizált ügyfeleknek nyújtandó szolgáltatásokat is könnyen visszaminősíthetik.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr2018025998
süti beállítások módosítása