Az MI komoly gondokat okozhat bíróságoknak.

A nagy nyelvmodellek egyik hibája, hogy – ugyan már kevesebbszer, mint egy-két éve, de még mindig – hallucinálnak: valótlanságokat állítanak, történeteket találnak ki. A fejlesztővállalatok jogászoknak is értékesítenek generatív MI-eszközöket, és bár megbízhatónak mondják őket, mégsem mindig azok.

Az első bírósági hallucinációs történeteket 2023-ban jegyezték fel. A jelenség azóta markánsabb, terjedése nemhogy lassult volna, hanem felgyorsult. Sajnos ezek nem egyszeri esetek obskúrus cégekkel, ismert irodák is vétenek kínos hibákat mesterségesintelligencia-használatukkal. A hibák nem jogászok által írt dokumentumokban, például szakértői beszámolókban szintén előfordulhatnak.

Generatív MI írja meg ezeket a vitatható igazságtartalmú szövegeket, készíti el a szóban forgó anyagokat, amelyeket aztán bírósági vallomásokba, tanúskodásba is belefoglalnak. Pedig ha az ügyvédek mindig betartanák az érvényben lévő szabályokat, és alaposan megvizsgálnák bíróság elé tárt anyagaikat, kisebb lenne a felhajtás, és talán a probléma is könnyebben megoldódna.

A bírók egyre mérgesebbek az MI hallucinációi miatt.

Pár hete egy kaliforniai bíró felfigyelt egy ügyvédi iroda érveire a beadványukban. Az idézett cikkek alapján ugyan többet tudott meg az érvekről, de a cikkek nem léteztek. További részleteket kért az irodától, válaszként pedig a korábbinál is több furcsaságot, hibát tartalmazó tájékoztatót kapott. A bíró a hibákat megmagyarázó (eskü alatti) tanúvallomásra utasította az ügyvédeket, és így tudta meg, hogy egyikük a Google Geminijét és jogra specializálódott MI-modelleket használt a dokumentum megírásához. A modellek hamis infókat generáltak. A bíró végül 31 ezer dollár bírságot szabott ki az irodára.

Május közepén egy másik kaliforniai bíró is hallucinációt kapott kézhez egy, az Anthropic MI-fejlesztő által készített beadványban. Az MI-cég a lemezkiadók ellene indított szerzői jogi perében használta az anyagot. Csakhogy az Anthropic egyik ügyvédje Claude-ot, a saját fejlesztésű MI-t kérte meg, hogy keressen idézetet egy jogi témájú cikkhez, mire az MI rossz címet és szerzőt adott meg. Az Anthropic elismerte: a hibát senki nem vette észre, pedig többen átnézték a dokumentumot.

Egy harmadik eset: miután az izraeli rendőrség pénzmosás vádjával letartóztatott egy személyt az ügyészek kérelmezték a bírótól az illető telefonjának bizonyítékként történő megőrzését. Kérvényükben nemlétező törvényekre hivatkoztak. A gyanúsított ügyvédje erre megvádolta őket, hogy dokumentumuk MI-hallucinációkat tartalmaz. Az ügyészek elismerték, hogy ez így igaz, mire a bíró feddésben részesítette őket.

Az esetek komoly problémára mutatnak. Bíróságok pontos és hivatkozásokkal alátámasztott dokumentumokat használnak. MI-modellek ugyan időt spórolnak meg jogászoknak, de gyakran pont ezekben a feladatokban sülnek fel csúfosan.