Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Kamukommenteket generál az MI

2019. október 04. - ferenck

A Washington Egyetem kutatói tavasszal fejlesztett GROVER rendszere az eddigi legjobb, leghihetőbb botok által írt kamuhírt generálta. A borzalmas szalagcím által ihletett szöveg hitelesebbnek tűnt, mint sok újságíró anyaga.

De GROVER nemcsak megtéveszteni tud, hanem meg is találja a kamuhíreket. A hasonló rendeltetésű többi mesterséges intelligencia közül a korábbi legjobb 73, ő viszont 92 százalékos pontossággal azonosít, azaz saját maga nyújtja a saját maga elleni leghatékonyabb védelmet. Ez azt is jelenti, hogy szinte mindenki és minden másnál jobban felfedezi az MI-k által készített anyagokat. Viszont, ha rossz kezekbe kerül, félelmetes dezinformációs, propagandafegyverré válhat. A cikkek főszövege mellett a címet, a szerző nevét és sok más részletet szintén elemezve mutatja ki, hogy az adott szöveg igaz vagy hamis.

fakecomments.jpg

Kamuhíreket gyártó mesterséges intelligenciák után megjelentek a(z esetleg kamuhírek alá) kamukommenteket generálók is, például a DeepCom algoritmus.

Az MI a hírek leegyszerűsített változatát olvasva, hoz létre gyakorlott internet-felhasználók stílusát idéző megjegyzéseket. Eredeti rendeltetése az lenne, hogy a híroldalaknak segítsen új kommentszekciót nyitni, de egyelőre nagyon úgy tűnik, hogy inkább a webet tartalmatlan és céltalan levélszemét-szerű (spam) anyagokkal bombázó sokadik botként funkcionál majd.

fakecomments0.jpg

A DeepCom fejlesztői (a Microsoft és a kínai Beihang Egyetem kutatói) két változatot készítettek: az egyiket angol, a másikat kínai nyelvű oldalakhoz.

A kínai verzió a Tencent News szalagcímein, híranyagain és kommentár mintákon gyakorolt. Az angol a Yahoo News ugyanezen adatsorain, amelyeket a másiknál jobban annotáltak, hogy könnyebben boldoguljon velük. Az első eredmények a fejlesztőket igazolják.

A hírek kulcsszavaira vagy szalagcímére összpontosító többi kommentgeneráló algoritmussal összehasonlítva, a DeepCom szövegei hihetőbbek. A fejlesztők esettanulmányt is írtak, amelyben a Houston Rockets kosárlabdacsapatról írt hír kommentjét elemezték.

„A Houston Rockets nagyon sokat fog szórakozni ebben az idényben” – jegyezte meg az MI.

A komment hitelesnek tűnik, miközben a többi MI teljesen nonszensz szövegeket fűzött a hírhez.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr7715186932

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.
süti beállítások módosítása