Folytatódnak az innováció és a nyílt forrású kezdeményezések megvédéséért tett törekvések – írja Andrew Ng gépitanulás-szakértő. Mindenkinek jobb, ha bárki végezhet alapvető mesterségesintelligencia-kutatásokat és megoszthatja újításait. Ng pont ezért aggódik egy kaliforniai törvénytervezet miatt.

Szerinte csomó dolog rossz a tervezetben, egyre viszont külön felhívja a figyelmet. A racionálisan nehezen magyarázható „veszélyes képesség” megjelölés a modellek fejlesztőit potenciálisan felelőssé teszi minden olyan kárért, ami például meghaladja az 500 millió dollárt.

Ezt gyakorlatilag lehetetlen garantálni, és ha a javaslat jelenlegi formájában átmegy, nagyon negatív hatással lehet a fejlesztésekre. Egyes MI-alkalmazások, például az egészségügyben kockázatosak. Csakhogy ilyen esetekben a technológia helyett az alkalmazásokat kellene szabályozni.

A technológia változatos problémák sokféle megoldására alkalmazható eszköz, míg az alkalmazások egyedi fogyasztói szükségletek kielégítésére tervezett technológiák specifikus implementációi.

Például az elektromos motor technológia, elektromos járműben vagy irányított bombában viszont alkalmazássá válik. Ha a törvényjavaslat átmenne, a motort kártékonyan felhasználók miatt a gyártót lehetne hibáztatni. Az érintett cégek minimalizálnák a gyártást. Nem lennének motorral irányítható bombák, de elektromos járművek sem.

Ennél sokkal ésszerűbben kellene felbecsülni a kockázatokat, majd kitalálni, milyen alkalmazások biztonságosak, melyek nem. A biztonság az alkalmazás és nem a technológia vagy a modell jellemzője. Ha egy elektromos jármű biztonságos, az elektromos motort nem lehet veszélyesnek nyilvánítani. Az MI-re ugyanez az érvelés érvényes.

A törvényjavaslat nem tesz ilyen megkülönböztetést, teljesen figyelmen kívül hagyja, hogy a legtöbb modellnek jóval több a pozitív, mint a kártékony alkalmazása. De senki nem tudja, hogyan építsünk olyan motort vagy MI-modellt, amely nem okozhat kárt. Nyílt forrású és zárt modellek egyaránt feltörhetők, majd negatív célokra fordíthatók.

Kalifornia csomó MI-újítás hazája, és Ng nagyon nem szeretné, ha ez a verseny- és innováció-ellenes javaslat törvénnyé válna, majd – rosszabb esetben – a kaliforniai joggyakorlatot gyakran átvevő más államok követnék a példát.