Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Etikus MI 2.0

2022. július 19. - ferenck

Az Egyesült Államokban és a világ más térségeiben is egyre többet foglalkoznak a mesterséges intelligencia szabályozásával, nő a félelem, hogy a gépi rendszerek kárt okoznak, miközben az MI markánsan jelen van a hétköznapokban. Írtak már sokszáz fejlesztési irányelvet, dicséretesek az erőfeszítések, a leírtak viszont ritkán valósíthatók meg a gyakorlatban.

A Microsoft felülvizsgálta 2019-ben kidolgozott Felelős MI Szabványát, igyekszik proaktívan hozzáállni a témakörhöz.

Az új anyag hat alapérték támogatására hívja fel a figyelmet.

etikus_mi_1.jpg

Az elszámoltathatóság arra vonatkozik, hogy a fejlesztőknek fel kell mérniük rendszerük társadalmi hatásait, tényleg működő megoldás-e a kapcsolódó problémára, és kié az MI és az adatok miatti felelősség. Érzékenyebb területeken (pénzügy, oktatás, munkaerő-piac, egészségügy, ingatlanok, biztosítás, társadalmi jólét) az átlagosnál is nagyobb figyelemre van szükség.

A rendszereket alaposan dokumentálni kell, azaz átláthatónak kell lenniük, és a felhasználónak is tudnia kell, hogy MI-vel lépett interakcióba.

etikus_mi0.jpg

A méltányosság szintén alapérték, úgy kell kidolgozni az MI-t, hogy a különböző demográfiai csoportokkal egyformán igazságos legyen, minimalizálja a különbségeket. A felhasználókat figyelmeztetni kell az azonosított kockázatokra.

A rendszer legyen megbízható és biztonságos, definiálni kell, hogy meddig, milyen keretek között működik kockázatmentesen, minimalizálni kell az előrejelezhető hibákat. Módszerek szükségesek a folyamatos monitorozáshoz, illetve iránymutatók a meghibásodás esetében történő visszavonáshoz.

A privacy és a biztonság a fejlesztőcég e területen megfogalmazott alapelveihez igazodjon, a felhasználó tudja mindig, ha adatot gyűjtenek róla.

Az MI-nek befogadónak kell lennie, be kell tartani a vonatkozó szabványokat, hogy például fogyatékkal élők is hozzáférjenek.

Az új irányelveknek való megfelelés érdekében a Microsoft korlátozta az Azure felhőplatformja által nyújtott mesterségesintelligencia-szolgáltatásokat. Új felhasználóknak hozzáférést kell kérniük az arcfelismerő és a szöveget beszéddé alakító (text-to-speech) alkalmazásokhoz. Az arcfelismerő szolgáltatás portré alapján többé nem készít becslést az illető koráról, neméről, érzelmi állapotáról. Jelenlegi felhasználók 2023 júniusáig használhatják ezt a funkciót.

A Microsoft azért döntött a 2.0 mellett, mert az első változatot elnagyoltnak tartják. Az új egyértelműbb irányelveket ad a fejlesztőknek. Ezt segítendő, a nagyvállalat kb. húsz eszközt bocsát a rendelkezésükre, amelyekkel könnyebb felelős MI-t kidolgozni. Például a HAX Workbook az ergonómián javít, az InterpretML segít elmagyarázni a modell viselkedését, a Counterfit biztonsági stressz-tesztet végez.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr6217884415
süti beállítások módosítása