Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Amikor a biztonság megfigyeléssé válik

2022. november 15. - ferenck

A The Dallas Morning News és a Berkeley Újságírói Iskolája közös kutatás eredményeként megállapította, hogy georgiai, észak-karolinai és más gimnáziumok és felsőoktatási intézmények a Social Sentinel („közösségi őrszem”) természetesnyelv-feldolgozó rendszerrel megfigyeltek diákokat. A rendszer közösségimédia-posztokat és azokból következtetve, személyek mentális állapotát monitorozva azonosít magukban vagy másokban kárt okozni szándékozó személyeket.

Az „őrszemet” 2015 és 2019 között, és valószínűleg később is, tüntetők nyomon követésére szintén használták.

sentinel.jpg

A 2020 óta Navigate360 Detect néven futó „őrszem” mesterségesintelligencia-alapú nyelvi motorral elemzi a kommunikációt: Facebook-, Instagram-, Reddit-, Twitter- és YouTube-posztokat, kommenteket. A keresés a biztonsággal és a biztonságossággal kapcsolatos nyolc topikra, valamint huszonöt altopikra korlátozott.

Az újságírók kiszivárgott dokumentumokat, iskolai alkalmazottakkal folytatott beszélgetéseket és a kormányzathoz beadott kérvényeket elemezve, több tényt megállapítottak.

sentinel0.jpg

Nyilvánosan hozzáférhető posztok mellett a rendszer e-maileket, Google Docs, Google Hangouts anyagokat és Facebook Messenger üzeneteket, sőt, veszélyesnek minősíthető webes kereséseket is vizsgált. A fejlesztők nem nyilvánosan promótálták oktatási intézmények vezetőinek, hogy tiltakozásokat előzzenek meg, illetve súlyosságukat csökkentsék vele.

sentinel1.jpg

Egy észak-karolinai főiskola a szoftverrel az intézmény vezetőségét nemi erőszak miatti feljelentésért kritizáló diákjának közösségimédia-kommentjeit követte 2019-ben. Egy georgiai egyetem legalább három 2017-es tüntetésen figyelte a diákjait az „őrszemmel”, köztük legalább egy olyan személyt is, aki semmiféle kapcsolatban nem állt az oktatási intézménnyel. Egy észak-karolinai kampusz rendőrsége a rendszerrel 2015-ös abortuszellenes és abortuszpárti tüntetőket, majd 2018-ban egy, az 1861 és 1865 közötti déli hadsereget ünneplő szobor eltávolítását követelő megmozdulások résztvevőit figyelte meg.

sentinel2.jpg

Az „őrszemet” 2020-ban megszerző ohiói Navigate360 vállalat szerint az újságírók nyomozása pontatlan, mert például a „tiltakozni” szó nem is szerepel a rendszer keresési topikok listáján. Iskolaigazgatók és más potenciálisan érintett oktatási szereplők nem válaszoltak az újságírók kérdéseire, és az ilyen és hasonló szoftverek használatára vonatkozó irányelveikről sem voltak hajlandók nyilatkozni.

Mivel a rendszer tevékenysége és felhasználása egyértelmű személyiségi jogi (privacy) kérdéseket vet fel, és súlyos, akár büntetőjogi következményekkel is járhat, nem meglepő, hogy az érintettek kerülik a médianyilvánosságot.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr8717976900
süti beállítások módosítása