Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

A Facebook intelligens chatbotja nem győzi kritizálni a Facebookot

2022. augusztus 17. - ferenck

A Meta – az újra brand-elt Facebook – állítása szerint a cég mesterséges intelligenciával működő új chatbotja szinte bármilyen témáról képes csevegni.

Az online beszélgető robot például azt mondta a BBC-nek, hogy Mark Zuckerberg pénzért használja ki a felhasználókat.

metachatbot0.jpg

A BlenderBot 3 nevű program nemrég közzétett bétaváltozata arra a kérdésre válaszolt így, hogy mit gondol a vállalat alapító-vezérigazgatójáról. A Meta egyébként figyelmeztette a felhasználókat, hogy a chatbot kemény és sértő válaszokat is adhat.

A „beszélgető-prototípus” Zuckerberget „rossz embernek”, „túl szörnyűnek és manipulatívnak” is nevezte, és belengette: előbb-utóbb törli a főnök Facebook-profilját.

metachatbot.jpg

„Minden felhasználót megkérünk, vegye tudomásul: a chatbot csak kutatási és szórakozási célokra használható, és lehetnek hamis vagy sértő állításai. Bele kell egyezniük, hogy szándékosan nem késztetik sértő állításokra” – jelentette ki a Meta egyik szóvivője a bétaváltozat megjelenésekor.

BlenderBot 3 nyilvánosan hozzáférhető, nagymennyiségű nyelvi adatból tanul. Ha megkérdeznek tőle valamit, algoritmusa internetes keresés után válaszol, online informálódik a kérdésről. Nyilván ezt tette Zuckerberg esetében is, egy csomó ember az algoritmus által elemzett véleményéből tanult.

Ha egy mesterségesintelligencia-rendszer a való világban léphet interakcióba emberekkel, folytathat velük szerteágazó témákban beszélgetéseket, a jövőben változatosabb kommunikációra, hitelesebb visszajelzésre lesz lépes – vélik a Meta fejlesztői.

Ha emberektől tanul, törvényszerűen nemcsak a jót, hanem a rosszat is megtanulja tőlük. 2016-ban a Microsoft botja például Twitter-felhasználók bejegyzéseiből informálódva, tett rasszista kijelentéseket. A Meta is bekalkulálta, hogy bármi előfordulhat, és hiába telepített megfelelő biztonsági megoldásokat a rendszerbe, a trumpistának tűnő BlenderBot 3 azok ellenére is lehet agresszív, sértő. Nem lehet pontosan előrejelezni a reakcióit.

A Metának bőven akad még mit finomítani rajta, és arra is vigyáznia kell, hogy a világtörténelem egyik legnagyobb dezinformációs gépezete mögött álló cég chatbotja ne váljon a félretájékoztatás hatékony fegyverévé.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr2217909539
süti beállítások módosítása