Az NJSZT blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

A Facebook hadat üzent az online kamuképeknek, kamuvideóknak

2019. szeptember 11. - ferenck

A mélytanulással (deep learning) felturbózott kép- és videomanipuláció, az úgynevezett deepfake jelenség, a kamuképek, egy rendkívül izgalmas és ígéretes terület árnyoldalát villantja fel. Ha valamit tenni akarunk ellene, ugyanazokat a technikákat kell használni. Gépitanulás-rendszereknek képesnek kell lenniük megtrükközött képek felismerésére.

A jelenség viszonylag új, és a harc különlegessége, hogy a detektálás módszerei az alkotás módszereivel versengenek. Minél meggyőzőbb hamis vizuális anyagok jelennek meg rendszeresen, annál nagyobb az esély, hogy valaki kompromittáló helyzetben szembesül saját magával.

deepfake.jpg

Több hírességgel előfordult már, ugyanakkor a kamuképek jelentős része nem rosszindulatból, hanem kreatív vágyból készül.

A Facebook, a Microsoft, a Partnership for AI, több egyetem (Oxford, Berkeley, Massachusetts Institute of Technology stb.) összefogott, és jobb detektáló technikákat szándékoznak kidolgozni.

„A mesterséges intelligencia legérdekesebb fejlesztései akkor jönnek létre, ha egy adatsorban egyértelmű a mérce, a szint, és annak felülmúlására találnak ki valamit. Tárgyfelismerésre használt adatsorok többmillió képet tartalmazhatnak, hangátiratok sok óra különféle beszédet. A deepfake jelenségre nincs ilyen adatsor” – jelentette ki Mike Schroepfer, a Facebook technikai igazgatója.

deepfake0.jpg

A közösségihálózat-óriás 10 millió dollárt szán a Deepfake Felderítési Versenyre, amelyben adatsorokat hoznak majd létre, a résztvevők pedig jóváhagyják képek, videók felhasználását, hogy később egyiküket se érje meglepetés.

„Először lesz egy videoforrásokból álló adatsor, majd a videókra rakható személyekből is egy. Utána a legfejlettebb deepfake technikákkal generálunk módosított videókat, amelyek szintén az adatbázishoz fognak tartozni” – folytatja Schroepfer.

Az arcokhoz nem a Facebook anyagait használják, hanem fizetett színészek is részt vesznek a projektben.

Az adatsorokat az érintettek megkapják, megoldásokat dolgozhatnak ki rájuk, amelyeket tesztelhetnek is. Komoly versengés alakulhat ki felsőoktatási intézmények, kutatók között.

„A nyílt környezetben a teljes kutatói közösség részvételére van szükség a manipulált multimédia negatív hatásait kiderítő és mérséklő módszerek és rendszerek fejlesztéséhez” – nyilatkozta Rama Chellappa (Maryland Egyetem).

Az adatsorokat először egy októberi gépilátás-konferencián tesztelhetik.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr4815063532

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.