Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Mesterséges intelligenciák bűnlajstroma

2020. december 08. - ferenck

Minden emberhez és géphez hasonlóan, a mesterséges intelligencia is hibázhat. Hibái súlyos következményekkel járhatnak. Ha a következményeket el akarjuk kerülni, tanulni kell a korábbi problémákból.

De hogyan?

A hibabeszámolók több területen, például a légi közlekedésben és az információbiztonságban teljesen bevettek. Az MI-fejlődés számára elengedhetetlen, hogy a meghibásodott rendszereket nyilván tartsák, tudják az esetek időpontját és mikéntjét, és persze arra is ügyelni kell, hogy bombasztikus, de egyszeri médiasztorik helyett általános problémákat figyeljenek.

rossz_mi.jpg

A Partnership on AI nonprofit konzorcium, üzleti és oktatási szereplőkkel, adatbázist (AI Incident Database) indított a mesterséges intelligenciához köthető malőrökről, amikor automatizált rendszerek, például gépitanulás-modellek durva hibákat követnek el.

A visszakereshető gyűjtemény technológiai ballépésekről, például gyerekeknek szóló, bőrszín alapján elfogult ajánló algoritmusokról, ártatlanok letartóztatásához vezető arcfelismerő rendszerekről és hasonlókról tudósító beszámolókat tartalmaz.

rossz_mi0.jpg

A felhasználók leadhatnak hibákról szóló médiaanyagokat, amelyekről a szerkesztők döntik el, hogy új incidensként kerül az adatbázisba, vagy egy korábban már ismertetetthez teszik.

Az adatbázis 77 hibázást ismertető 1774 anyagot tartalmaz jelenleg. A felhasználó kulcsszavas keresést végezhet, amelyet a történet forrása, a szerző neve és a feltöltő személye szerint szűkíthet.

Az adatbázis létrehozói a gépi tanulást, szimbólumalapú rendszereket és determinisztikus algoritmusokat sorolnak a mesterséges intelligencia kategóriájába. Ilyen volt például két Boeing 737 Max repülő tragédiája, amelyek a légi irányítórendszer hibáihoz köthetők. (Az egyik 2018-ban Indonéziában, a másik 2019-ben Etiópiában történt.)

Több független kutató szintén rendelkezik hasonló listákkal mesterségesintelligencia-hibákról. Csakhogy ezek a gyűjtemények nehezen találhatók meg, problémás bennük a keresés, és nem elég átfogók, úgyhogy ideje volt létrehozni egy szélesebb körre kiterjedő, könnyebben hozzáférhető adatbázist.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr6816319496

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.
süti beállítások módosítása