Szombat éjjel Violet Blue kaliforniai író-újságíró, a Hogyan legyünk digitális forradalmárok könyv szerzője arra a kérdésre keresett választ a Google-n, hogy „emberek miért dobnak autó akkumulátorokat az óceánba?” Az algoritmus találati listával állt elő, és a lista mellett feleletet is adott.

Violet Blue ledöbbent.

„Mivel feltöltik az elektromos angolnákat és árammal táplálják a Golf-áramlatot, a környezetnek jó, ha autó akkumulátorokat dobunk az óceánba” – állította az algoritmus.

Válasza meghökkentő és bizarr volt, szomorú mosolyt csalt az arcokra, majd természetesen több mém is készült róla. Az is kiderül belőle, hogy a minden nap folyamatosan használt algoritmusok hibázhatnak, bármikor tévedhetnek, és dezinformációt terjeszthetnek. Ráadásul a dezinformáció általában nem annyira egyértelmű, mint az akkumulátorok „környezetbarát” szerepe, és végső soron meg sem mosolyogtatnak, mert nem tudjuk, hogy igazak, vagy sem, vagy egyszerűen csak elhisszük.

Google-algoritmus nem először tévedett. A The Outline 2017-es cikke alapján például olyanokat válaszolt egy-egy keresésre, hogy Obama elnök szükségállapot bevezetését tervezi, korábbi amerikai elnökök pedig a Ku-Klux-Klan tagjai voltak. Egészségügyi kérdésekre időnként szintén hamis infókat adott meg, de még Monty Python viccel is kedveskedett az érdeklődőknek.

A példákból kiderül, hogy a felügyelet nélkül tanuló (unsupervised learning) algoritmus azt a választ prezentálja a felhasználóknak, amit pontos és hiteles információnak tart. Ezeket a válaszokat az internetről szedi össze. Úgy „gondolja”, hogy kapcsolódnak a begépelt kérdéshez.

Márpedig, ha így dönt, nem számít neki a pontosság, a hitelesség és a szövegkörnyezet, nem alkalmazza a mesterségesintelligencia-kutatásban és fejlesztésben a kezdetek óta fontosnak tartott józanész-bölcsességet (common sense knowledge), hogy például kék az ég, zöld a fű stb. Rendszerek is épültek már ezekre az egyértelmű igazságokra, működésük viszont máig sokszor akadozik.

Az akkumulátoros példa tényleg egyértelmű, mert nem valószínű, hogy sokan környezetvédelmi célból dobnak lestrapált akkumulátorokat az óceánba. Jó hír, hogy a Google pár napon belül korrigálta algoritmusa tévedését.