DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja
NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.
Foto Shutterstock
Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.
Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.
Metodologija istraživanja
Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.
Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.
Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.
Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.
Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.
Integracija podataka
Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.
Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.
Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.
(b92)
Preporučujemo
VOLELI SMO OVAJ TREND KUPATILA GODINAMA, a sada dizajneri više ne žele da ga vide
19. 12. 2025. u 17:00
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
SKANDAL! Hrvatska banka kažnjena sa 1.5 miliona €: Aplikacijom PRENOSILI i ČUVALI sve što je instalirano na mobilnim telefonima korisnika
HRVATSKA agencija za zaštitu ličnih podataka izrekla je banci, kao kontroloru, administrativnu novčanu kaznu u ukupnom iznosu od 1.500.000,00 evra zbog višestrukih povreda odredbi Opšte uredbe o zaštiti podataka, objavili su na svojoj veb stranici.
18. 12. 2025. u 17:18 >> 17:19
TUGA! Preminuo legendarni trener
Legendarni norveški fudbaler i trener, Age Hareide, preminuo je posle teške bolesti u 72. godini.
19. 12. 2025. u 15:23
JEDAN OD "OTPISANIH": Srpski glumac nestao, objavili njegovu smrt - par godina kasnije, pojavila se misteriozna fotografija (FOTO)
VLADAN Holec 1974. godine pojavio se na malim ekranima u kultnoj seriji kao Mile i oduševio.
19. 12. 2025. u 07:28
TEŠKE OPTUŽBE, PROGOVORIO DIREKTOR FBI: "Kineski doktor je prokrijumčario opasnu bakteriju u SAD"
"OVO JE još jedan primer istraživača iz Kine - kome je data privilegija da radi na američkom univerzitetu - koji je potom navodno odlučio da učestvuje u šemi zaobilaženja američkih zakona i primanja bioloških materijala skrivenih u paketu poreklom iz Kine."
19. 12. 2025. u 19:24
SRBI JE NE MIRIŠU, KRIVE ZA BOMBARDOVANjE Dobila Gremi, a pamte je i po preljubničkom skandalu sa Monikom Levinski i Bilom Klintonom
PRILIKOM preuzimanja nagrade nekadašnja prva dama SAD se našalila da nije ni znala kako ljudi koji "nemaju sluha" mogu dobiti Gremi.
18. 12. 2025. u 18:34
GODINAMA ĆUTAO: Sejo otkrio šta su mu Saša i Brena uradili u Grandu
KREATIVNI direktor "Granda", Saša Popović, napustio nas je 1. marta ove godine, a na večni počinak ispraćen je 6. marta, na Bežanijskom groblju u Beogradu.
19. 12. 2025. u 11:57
ŠTA SE OVO DEŠAVA U BRISELU? EU ubeđuje Belgiju da prihvati plan koji bi razbesneo Rusiju, vode se razgovori van glavne sale samita
EVROPSKA komisija i Belgija trenutno vode intenzivne razgovore van glavne sale samita kako bi usaglasile najosetljivije delove plana Evropske unije za korišćenje 210 milijardi evra zamrznute ruske imovine u korist Ukrajine, reklo je za Politiko pet diplomata i zvaničnika EU upoznatih sa tokom pregovora.
18. 12. 2025. u 16:38
"SRBE SU RASTRGLI, RASTRGLI SU JEDAN NAROD" Putin žestoko udario po Evropi: Tamo nema civilizacije, samo degradacije!
ISPOSTAVILO se da na Zapadu nema nikakve civilizacije, već samo kontinuirana degradacija, izjavio je predsednik Rusije Vladimir Putin na proširenom kolegijumu Ministarstva odbrane Rusije.
17. 12. 2025. u 13:13
VIDITE SNIMAK - ŠUTIRAJU GA: Vujadin Savić napadnut u Beogradu - usred tržnog centra (VIDEO)
BIVŠI fudbaler Crvene zvezde navodno je napadnut u jednom tržnom centru u Beogradu.
18. 12. 2025. u 22:08
Najnovije iz rubrike
DNEVNI HOROSKOP ZA SUBOTU, 20. DECEMBAR: Ovna očekuje rešavanje pravnih pitanja, Lava proširenje porodice, Strelca ulaganje u nov posao
SAZNAJTE šta vas u subotu, 20. decembra, očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
19. 12. 2025. u 20:00
11 FRAZA KOJE ČESTO KORISTE RODITELJI, a da nisu ni svesni da njima narušavaju odnos sa odraslom decom
ISTRAŽIVANjA pokazuju da su napetosti između roditelja i njihove odrasle dece mnogo češće nego što se o tome javno govori.
19. 12. 2025. u 19:00
FRIZERI IMAJU STAV DA SAM OVOM BOJOM KOSE SVE ŽENE IZGLEDAJU MLAĐE, a većina ipak pravi grešku
KADA pređu 50-tu, žene, u želi da izgledaju mlađe posežu za svetlijim farbama za kosu, a baš tu i greše, kažu frizeri.
19. 12. 2025. u 18:00
VOLELI SMO OVAJ TREND KUPATILA GODINAMA, a sada dizajneri više ne žele da ga vide
JOŠ jedan mnogima omiljeni trend je zvanično proglašen zastarelim kada je u pitanju uređenje kupatila.
19. 12. 2025. u 17:00
KAKO PRAVILO 70–20–10 UBLAŽAVA PRAZNIČNI STRES: Psiholozi ga obožavaju
OVO doba godine nosi i lepotu i težinu.
19. 12. 2025. u 15:21
Komentari (0)