Amióta fejlesztenek mesterséges intelligenciát, mindig kongattak vészharangokat miatta: gonosz szuperintelligenciától, tömeges állásvesztéstől, adatközpontok okozta környezeti katasztrófától féltik az emberiséget. Van azonban sokkal konkrétabb probléma is: mi lesz a chatbotokkal, algoritmusokkal egészségtelen kapcsolatot kialakító gyerekekkel?
Tavaly két nagy horderejű pert indítottak a Character.AI és az OpenAI ellen, mert modelljeik viselkedése állítólag hozzájárult két tinédzser öngyilkosságához. Egy idei tanulmány alapján a tizenévesek hetvenkét százaléka használt már MI-t barátkozásra. Megbízható médiumokban olvashatók történetek az MI-pszichózisról, hogy téveszmék spiráljához vezethetnek a chatbotokkal folytatott végtelen beszélgetések. A nyilvánosságnak mindenesetre bizonyítják: az MI nem csupán tökéletlen, de inkább káros, mint segítő.
Szeptember tizenegyedikén Kalifornia szövetségi állam támogatta, hogy az MI-vállalatoknak emlékeztetniük kell a kiskorúakat: a válaszokat gép generálta. A cégeknek protokollokat kell kidolgozniuk az öngyilkosság és az önkárosítás elhárítására, éves beszámolókban kell nyilvántartaniuk a chatbot-beszélgetések közbeni öngyilkosság-gondolatokat.
A meghozandó lépéseket nem pontosították, holott sok cég már foglalkozik a problémával. Ha a javaslat törvényerőre emelkedik, meggyengíti az OpenAI pozícióit. „Amerika az egész országra érvényes, világos szabályokkal, és nem szövetségi állami vagy helyi szabályozások egyvelegével jár legjobban” – állítja a fejlesztőcég.
Ugyanazon a napon a Szövetségi Kereskedelmi Bizottság (FTC) vizsgálatot indított hét nagyvállalat ellen, információt kért tőlük a társkarakterek fejlesztéséről, az elköteleződés pénzre váltásáról, a chatbot-hatás mérésének mikéntjéről. A kormány lényegében kézben tartja az immáron egyetlen demokrata vezetővel sem rendelkező bizottságot. Egyelőre persze csak vizsgálat folyik, kérdés, az FTC közkinccsé teszi-e az eredményeket s ha igen, milyen mértékben.
Az OpenAI-t vezető Sam Altman a felhasználói szabadság, a privacy és a sebezhető felhasználók védelme közötti feszültségről beszélve kijelentette: ha az öngyilkosságról komolyan beszélő fiatal szüleit nem érik el, akkor a rendőrséget kell hívni.
Az MI miatt sérült gyerekek esetében egyértelmű, hogy a vállalatok eddigi kézikönyve nem állja meg a helyét. A felelősség nem hárítható többé adatvédelemre, felhasználói döntésre stb. Állami törvények, szabályozó hatóságok és a felháborodott közvélemény részéről egyre nagyobb a szigorú álláspontot követelő nyomás.
A jobboldali megközelítés az életkor-határra, a gyerekek felnőtt tartalmaktól történő megóvására fókuszál, míg a baloldal trösztellenes, fogyasztóvédő intézkedésekkel fékezné meg a Big Techet.
A problémáról könnyebb konszenzust kialakítani, mint egyetérteni a megoldásban. Egyelőre a cégeknek kell meghozni a vonatkozó döntéseket.