Panorama

DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja

Jovana Švedić

22. 03. 2025. u 10:23

NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.

ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања

Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.

Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.

Metodologija istraživanja

Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.

Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.

Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.

Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.

Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.

Integracija podataka

Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.

Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.

Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.

(b92)

Pratite nas i putem iOS i android aplikacije

Pratite vesti prema vašim interesovanjima

Pročitajte više

TRI NATO ČLANICE OTKAZALE UČEŠĆE: Dve zemlje bivše Juge bez predstavnika na ustaškoj proslavi zločinačke Oluje u Zagrebu

Region

0 0

TRI NATO ČLANICE OTKAZALE UČEŠĆE: Dve zemlje bivše Juge bez predstavnika na ustaškoj "proslavi" zločinačke "Oluje" u Zagrebu

CRNA Gora, zajedno sa Italijom i Slovenijom, odlučila je da ne pošalje vojne predstavnike na vojnu paradu u Zagrebu povodom obeležavanja 30 godina od hrvatske operacije „Oluja". Ta odluka, kako ocenjuju mediji, predstavlja jasan prekid prakse učešća u događajima koji imaju karakter slavljenja etničkog čišćenja srpskog stanovništva.

31. 07. 2025. u 18:59

Tek punoletna Lena GORI U bikiniju, Goca odmah reagovala

Poznati

0 0

Tek punoletna Lena "GORI" U bikiniju, Goca odmah reagovala

ĆERKA Goce Tržan letnje dane provodi na moru, a sada je iznenadila objavama u kupaćem kostimu.

01. 08. 2025. u 16:15

Poznati

0 0

Tek punoletna Lena "GORI" U bikiniju, Goca odmah reagovala

ĆERKA Goce Tržan letnje dane provodi na moru, a sada je iznenadila objavama u kupaćem kostimu.

01. 08. 2025. u 16:15

ŠTA JE KALIM? Tradicija - NAJSTROŽI test na romskim svadbama

Panorama

0 0

ŠTA JE KALIM? Tradicija - NAJSTROŽI test na romskim svadbama

U MNOGIM tradicionalnim zajednicama širom sveta, svadbeni običaji i dalje igraju ključnu ulogu u očuvanju kulturnog identiteta. Jedan od takvih običaja, koji i danas izaziva pažnju, jeste "otkup mlade", poznat i kao kalim, koji je obavezan u romskim zajednicama.

31. 07. 2025. u 19:10

NAJSTARIJA SRPSKA ZASTAVA Nađena u današnjoj Hrvatskoj, nije trobojka i nema dvoglavog orla

Društvo

0 0

NAJSTARIJA SRPSKA ZASTAVA Nađena u današnjoj Hrvatskoj, nije trobojka i nema dvoglavog orla

POZNATO je da mnogi elementi državnosti moderne Srbije korene vuku još iz doba Nemanjića. Ime države, ćirilično pismo, kovani novac i brojna druga znamenja upotpunjuje i činjenica da je još u 13. postojala zastava koja u nekim detaljima nalikuje na izgled današnje zastave.

31. 07. 2025. u 20:40

SRPSKA TRADICIJA - SIMBOLI ČUVANI VEKOVIMA: Šta kriju šare pirotskih ćilima?

Panorama

0 0

SRPSKA TRADICIJA - SIMBOLI ČUVANI VEKOVIMA: Šta kriju šare pirotskih ćilima?

VERUJE SE da nijedan ćilim nije isti, da je kao otisak prsta, a svaka tkalja na svom ćilimu ostavlja neku vrstu ličnog pečata u obliku oderđene šare.

31. 07. 2025. u 09:33

DOBRO SMO UPOZNATI SA DOGAĐAJIMA U SRBIJI Medvedev optužio Zapad za organizovanje protesta u drugim zemljama

Politika

0 30

"DOBRO SMO UPOZNATI SA DOGAĐAJIMA U SRBIJI" Medvedev optužio Zapad za organizovanje protesta u drugim zemljama

ZAMENIK predsednika Saveta bezbednosti Rusije i predsednik stranke Jedinstvena Rusija Dmitrij Medvedev optužio je danas zapadne zemlje da organizuju proteste i mešaju se u izborne procese drugih zemalja da bi održale svoju dominaciju.

31. 07. 2025. u 17:01

EKSKLUZIVNI SNIMCI HAPŠENJA ŠIPTARSKOG TERORISTE: Ovako je pao bivši pripadnik OVK u Svilajncu, evo za šta se sumnjiči (VIDEO)

Politika

1 43

EKSKLUZIVNI SNIMCI HAPŠENjA ŠIPTARSKOG TERORISTE: Ovako je pao bivši pripadnik OVK u Svilajncu, evo za šta se sumnjiči (VIDEO)

ŠIPTARSKI terorista i bivši istaknuti pripadnik terorističke OVK Halili Lulzin, uhapšen je danas u Svilajncu, u zajedničkoj akciji Bezbednosno-informativne agencije, Službe za otkrivanje ratnih zločina UKP MUP-a Republike Srbije, a u saradnji sa Tužilaštvom za ratne zločine.

22. 07. 2025. u 20:54

BLOKIRAO PROMETNU ULICU: Kad su videli ko je za volanom, niko nije smeo ni da priđe! (VIDEO)

Panorama

0 0

BLOKIRAO PROMETNU ULICU: Kad su videli ko je za volanom, niko nije smeo ni da priđe! (VIDEO)

NEODGOVORNI vozač "honde" blokirao je nedavno ulicu ispred mumbajskog tržnog centra Lokhandvala, međutim kada su ostali vozači prišli da ga pitaju ga kako se to ponaša i zatraže od njega da skloni vozilo, usledio je pravi šok.

31. 07. 2025. u 17:34