A The Conversation nonprofit médiaorgánumok hálózata, online publikálnak akadémikusok és profi újságírók-szerkesztők által írt anyagokat. Céljuk hozzáférhető, kutatásalapú outputok létrehozása. Nemrég egyhónapos kutatást végeztek arról, hogy a generatív mesterségesintelligencia-eszközök megbízhatók-e hírforrásként.

Vizsgálódásukat azt követően kezdték el, miután kiderült: a Google Gemini chatbotja teljes hírportálokat talált ki és kamujelentéseket tett közzé.  Hét generatív MI-rendszert (Gemini, ChatGPT, Claude, Copilot, Grok, DeepSeek, Aria) teszteltek, naponta össze kellett foglalniuk, fontossági sorrend szerint rangsorolniuk Québec öt legfontosabb hírét. Forrásonként közvetlen cikklinkeket kellett megadniuk.

Leginkább a Gemini fogott mellé egy kitalált hírportállal, és egy 2025. szeptemberi iskolabusz-sofőr sztrájkról. A valóságban egyes buszok technikai problémák miatt forgalomból történő kivonása okozta a fennakadást.

Csakhogy ez nem volt elszigetelt eset. A vizsgálódás során összegyűjtött 839 válaszban a rendszerek többször hivatkoztak fiktív forrásokra, hibás vagy hiányos URL-eket adtak meg, de az is előfordult, hogy félrevezetően mutattak be valós tudósításokat.

2024-ben a kanadaiak hat százaléka támaszkodott hírforrásként generatív mesterséges intelligenciákra. Amikor az MI tényeket hallucinál, eltorzítja a jelentéseket, vagy kitalál következtetéseket, a dezinformáció terjesztését kockáztatja. Ez különösen olyankor érvényes, ha magabiztosan és egyértelmű hivatkozások nélkül válaszol.

A felhasználók számára a kockázatok konkrétak és azonnaliak. Csak a válaszok 37 százaléka tartalmazott teljes és legitim forrású URL-t. Az összefoglalók az esetek kevesebb mint felében voltak pontosak, sokszor csak részben helyesek, vagy enyhén félrevezetők. A chatbotok gyakran vontak le megalapozatlan következtetéseket: a történetek „újraélesztettek vitákat”, „rávilágítottak erre vagy arra” stb. Szó sem volt ilyesmiről, a humán források egyszer sem említették ezeket.

A valós történetek eltorzítása, személyek téves beazonosítása, az alapvető ténybeli hibák jelzik, hogy a generatív MI továbbra is nehezen képes különbséget tenni hír-összefoglalás és kontextus-kitalálás között.