Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Leállíthatják egy időre a legmodernebb mesterségesintelligencia-modellek fejlesztését?

2023. április 03. - ferenck

Az MI és Digitális Irányvonal Központ (CAIDP) március harmincadikán panaszt nyújtott be az amerikai Szövetségi Kereskedelmi Bizottsághoz (FTC), hogy indítson vizsgálatot a szerintük a fogyasztóvédelmi törvényeket megsértő OpenAI ellen, mivel szöveggeneráló mesterséges intelligenciáik, legújabban a GPT-4 „elfogult, megtévesztő, és veszélyezteti a közbiztonságot.”

A panasz beadását megelőző napon, több ismert személy, köztük Elon Musk, Yuval Noah Harari, Steve Wozniak egykori Apple társalapító, Stuart Russell MI-úttörő (és a több kiadást megért Mesterséges intelligencia – modern megközelítésben „MI-Biblia” társszerzője), két DeepMind-kutató és sok más valóban neves szakember nyílt levelet tett közzé és írt alá, amelyben a nagy generatív MI-kísérletek minimum féléves moratóriumára szólítanak fel.

ai_ellenesseg.jpg

Sam Altman, az OpenAI vezérigazgatója – értelemszerűen – nem írta alá „az emberrel versenyképes MI-rendszerek által potenciálisan okozható politikai és gazdasági diszrupciókra” figyelmeztető, fejlesztők, döntéshozók és szabályozó hatóságok együttműködését javasló szöveget.

Hatékony MI-rendszereket csak akkor kellene fejleszteni, amikor biztosan tudjuk, hogy a hatásaik pozitívak, kockázataik pedig kezelhetők. A bizalomnak jól indokoltnak kell lennie, és a rendszer lehetséges hatásainak mértékével együtt kell növekednie. Az OpenAI általános mesterséges intelligenciára (artificial general intelligence, AGI) vonatkozó friss megállapítása, hogy egy ponton, mielőtt jövőbeli rendszereket gyakoroltatnánk, független véleményre lenne szükség. Ez a pont most érkezett el – állítják a nyílt levél szerzői, és ezért akarják a GPT-4-nél erősebb modellek gyakoroltatásának hathónapos szüneteltetését. Ha nem történik meg, akkor a kormányoknak kell lépniük.

ai_ellenesseg0.jpg

E hónapok alatt kellene független kívülállóknak a biztonságot garantáló protokollokat kidolgozni a fejlett MI terveire, fejlesztésére. A szünet nem jelentené az MI-kutatások általános felfüggesztését, csak az egyre nagyobb és jobb képességű „fekete doboz” modellek versenyében lépnénk egyet hátra – hangsúlyozzák az aláírók.

A CAIDP panasza a levélre rímel. Szerintük a modell rosszindulatú kódokat, propagandaanyagokat generálhat, elfogult tanuló-adatsorok alapján sztereotípiákat erősíthet fel, ráadásul a termék a magánszférára vonatkozó jogokat (privacy) szintén megsérti. Egy friss hiba miatt a ChatGPT beszélgetés-naplójának részletei, egyes fizetési infók ugyanis kívülállók számára is elérhetővé váltak…

Az OpenAI ugyan figyelmeztetett az MI általi szöveggenerálás veszélyeire, a CAIDP szerint viszont átlépték a határt, amiért szabályozói lépésekkel kell szembenézniük. Úgy hozták kereskedelmi forgalomba terméküket, hogy tisztában voltak a generatív modellek nemlétező tényeket, történeteket kitaláló oldalával. Így pedig a ChatGPT megtévesztő kereskedelmi állításokat és hirdetéseket promótál – hangzik a CAIDP verdiktje, és egyben a hasonló modellek jövőbeli használatát megelőző független kivizsgálásukat javasolják az MI-eszközök szabályozása iránt egyre fogékonyabb FTC-nek.

Milyen következményekkel járhat, ha a CAIDP panasza és a nyílt levél pozitív fogadtatásban részesül? Nem lehet tudni, viszont biztos, hogy az MI-verseny még durvább eszkalációja várható, miközben az esetleges moratóriumból a panasztól és a levéltől érintetlen, de a mesterségesintelligencia-fejlesztésben komoly eredményeket elért kívülállók, például Kína és más fejlett ázsiai országok, de akár még az igencsak lemaradt Oroszország és Irán is hasznot húzhatnak.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr818090914
süti beállítások módosítása