Minden emberhez és géphez hasonlóan, a mesterséges intelligencia is hibázhat. Hibái súlyos következményekkel járhatnak. Ha a következményeket el akarjuk kerülni, tanulni kell a korábbi problémákból.
De hogyan?
A hibabeszámolók több területen, például a légi közlekedésben és az információbiztonságban teljesen bevettek. Az MI-fejlődés számára elengedhetetlen, hogy a meghibásodott rendszereket nyilván tartsák, tudják az esetek időpontját és mikéntjét, és persze arra is ügyelni kell, hogy bombasztikus, de egyszeri médiasztorik helyett általános problémákat figyeljenek.
A Partnership on AI nonprofit konzorcium, üzleti és oktatási szereplőkkel, adatbázist (AI Incident Database) indított a mesterséges intelligenciához köthető malőrökről, amikor automatizált rendszerek, például gépitanulás-modellek durva hibákat követnek el.
A visszakereshető gyűjtemény technológiai ballépésekről, például gyerekeknek szóló, bőrszín alapján elfogult ajánló algoritmusokról, ártatlanok letartóztatásához vezető arcfelismerő rendszerekről és hasonlókról tudósító beszámolókat tartalmaz.
A felhasználók leadhatnak hibákról szóló médiaanyagokat, amelyekről a szerkesztők döntik el, hogy új incidensként kerül az adatbázisba, vagy egy korábban már ismertetetthez teszik.
Az adatbázis 77 hibázást ismertető 1774 anyagot tartalmaz jelenleg. A felhasználó kulcsszavas keresést végezhet, amelyet a történet forrása, a szerző neve és a feltöltő személye szerint szűkíthet.
Az adatbázis létrehozói a gépi tanulást, szimbólumalapú rendszereket és determinisztikus algoritmusokat sorolnak a mesterséges intelligencia kategóriájába. Ilyen volt például két Boeing 737 Max repülő tragédiája, amelyek a légi irányítórendszer hibáihoz köthetők. (Az egyik 2018-ban Indonéziában, a másik 2019-ben Etiópiában történt.)
Több független kutató szintén rendelkezik hasonló listákkal mesterségesintelligencia-hibákról. Csakhogy ezek a gyűjtemények nehezen találhatók meg, problémás bennük a keresés, és nem elég átfogók, úgyhogy ideje volt létrehozni egy szélesebb körre kiterjedő, könnyebben hozzáférhető adatbázist.