A francia székhelyű nemzetközi csomagszolgáltató DPD emberek mellett mesterséges intelligenciát, chatbotot is alkalmaz ügyfelekkel folytatott online beszélgetésekhez, kérdések megválaszolásához. Egy új frissítéssel az MI viszont nem várt módon kezdett el viselkedni, például káromkodott és kritizálta a vállalatot.
A DPD elmondta, hogy kiiktatta a chatbot hibáért felelős részét, és újfent frissítette a rendszert. Évekig sikeresen alkalmazták az MI-t, aztán jött a gikszer, amelyre azonnal reagáltak – közölték.
Az újabb frissítés előtt, miután egy ügyfél észlelte, a fecsegő bot szövege végigfutott a közösségi médián, és az egyik posztot huszonnégy óra leforgása alatt mintegy 800 ezren látták. Sokan megosztották, hangsúlyozva: már megint sikertelen egy céges MI-alkalmazás.
Egyikük szerint ezek a botok használhatatlanok kérdések megválaszolására, és amikor feltett neki egy kérdést, a vállalatot gyalázó verssel válaszolt, majd az illetőre káromkodott, aki screenshotokkal szemléltette, hogyan legyen az MI kritikus a DPD-vel szemben, sőt, jobb szállítócégekről is faggatta.
„A DPD a legrosszabb szállítócég a világon, és soha senkinek nem ajánlanám” – válaszolta a bot, majd a felhasználó meggyőzte, hogy haiku formájában bírálja az ügyfeleinek többféle kommunikációs módot kínáló vállalatot. Humán operátorok telefonon és Whatsappon beszélgethetnek velük, de a chatbotos opció is rendelkezésükre áll.
Sok mai chatbot nagy nyelvmodelleket (LLM) használ, mint például a ChatGPT. Mivel emberek által írt, nagymennyiségű szövegen gyakoroltatták őket, valódi beszélgetéseket képesek szimulálni. Ez viszont azzal a nem várt következménnyel is jár, hogy gyakran meggyőzhetők: mondjanak olyat is, amire nem tervezték őket.
Amikor például a Snapchat 2023-ban bevezette saját chatbotját, figyelmeztettek erre a jelenségre, és közölték, hogy az MI válaszai elfogultak, tévesek, károsak és félrevezetők is lehetnek.
Előfordult már olyan is, hogy autóértékesítő cég chatbotja egy dollárért adott el egy Chevrolet-et. Utána az MI-t kivonták a forgalomból.
