Az iparágon belül és kívül is sokan gondolják, hogy a mesterséges intelligencia, nem törődve a következményekkel, a még nagyobb profitszerzést és személyek hatékonyabb megfigyelését szolgálja.
Ezért és más okok miatt is, évek óta többen törekszenek megfogalmazni az úgynevezett „etikus MI” irányelveit. Az EU idén hatékony csomagot dolgozott ki – szigorú átláthatósági, adatbiztonsági és adatminőségi feltételekkel –, az amerikai hadsereg pedig 2020 elején fogadta el a vonatkozó szabályozást. Az ENSZ szintén valami hasonlóban gondolkozik. A vállalati szektorban több nagy cég, például a Google és a Microsoft saját irányelveket fogalmazott meg.
A Pew Research Center és az Elon Egyetem felmérést végzett a témakörben. 602 szoftverfejlesztőnek, cégvezetőnek, döntéshozónak, kutatónak és aktivistának tették fel a következő kérdést: „2030-ra a legkülönbözőbb szervezetek által használt MI-rendszerek alkalmaznak-e elsősorban a közjóra összpontosító etikai elveket?”
A megkérdezettek rövid írásos választ adtak. Általánosságban a profithajszolást és a társadalmi kontrollt tartják a legnyugtalanítóbbnak.
Ben Shneiderman, a Maryland Egyetem kutatója szerint a fejlesztésekkel támogatni kell az etikai irányelveket. Az MI-rendszereket a repülőgépek fekete dobozának mintájára, adatrögzítő megoldásokkal kellene felszerelni, hogy baj esetén törvényszéki szakértők tanulmányozhassák a történteket.
Mivel a legtöbb alkalmazást magáncégek fejlesztik, a pénzügyi rendszert át kell alakítani ahhoz, hogy az emberiség élvezze az MI előnyeit, máskülönben a fejlesztők nem veszik figyelembe az etikai megfontolásokat – véli Gary Bolles (Singularity University).
Jamais Cascio futurológus a legtöbb rendszer túl közvetetett etikai kimenetére figyelmeztetett. Tőzsdén kereskedő algoritmusokat például nem lehet úgy tervezni, hogy enyhítsék vagy növeljék a vállalati részvények megvásárlásának társadalmi következményeit.
Sok interjúalany az etikus MI értékeire vonatkozó konszenzus hiányára panaszkodott. Olyan kérdéseket vetettek fel, hogy például az MI-nek az emberi jelenlétet kell maximalizálnia, vagy az emberi hibákat minimalizálnia?
A többségében pesszimista válaszok mellett pozitív üzenetek is megfogalmazódtak. Michael Wollowski, a Rose-Hulman Műszaki Intézet kutatója elmondta, hogy mivel összességében a nagy techcégek is jót akarnak, jövőbeli rendszereiket az etikai elvárásokhoz igazodva fogják fejleszteni. Nem hiszi, hogy érdekükben állna nem etikus rendszereket fenntartani.
