DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja
NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.
Foto Shutterstock
Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.
Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.
Metodologija istraživanja
Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.
Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.
Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.
Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.
Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.
Integracija podataka
Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.
Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.
Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.
(b92)
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
TENISKI ŠOK: Goran Ivanišević ima novi posao, evo čiji je trener postao!
Nekada vrhunski teniser a sada trener, Goran Ivanišević, ima novi posao.
29. 05. 2025. u 16:28
MAJKA SE PROTIVILA: Kako su Makronovi roditelji reagovali na ljubav sa Brižit - mislili da se zabavlja sa njenom ćerkom: "Nismo podržali"
NjEGOV otac Žan-Mišel Makron priznao je da je „zamalo pao sa stolice“ kada je čuo ko je devojka njihovog sina, a roditelji su isprva mislili da se zabavlja sa njenom ćerkom.
29. 05. 2025. u 14:16
KAKO JE SPASOVDAN POSTAO SLAVA BEOGRADA: Više od 6 vekova je simbol uzdizanja grada iz pepela
DESPOT Stefan Lazarević je 1403. godine proglasio Beograd za srpsku prestonicu prvi put u istoriji.
29. 05. 2025. u 11:08 >> 11:21
"I NA KRAJU - MOJA KUĆICA" Milan Vasić sa ponosom pokazao imanje na Kosmetu - "Drago mi je da moja supruga voli Kosovo i Metohiju"
GLUMAC Milan Vasić nedavno je izgovorio sudbonosno "Da" prelepoj Maji koja je od njega mlađa 18 godina.
29. 05. 2025. u 09:57
POZNATI HRVATSKI POLITIČAR SNIMIO PORNO FILM Njegova partnerka ga obrukala: "Ipak je bolji u politici!" (FOTO/VIDEO)
BIVŠI hrvatski političar i saborski zastupnik Ivan Pernar, čija je stranka prošle nedelje nakon stečaja izbrisana iz registra, ima novu "karijeru". Odlučio je da se oproba u snimanju filmova za odrasle, a pre nekoliko dana je objavio i da je snimio svoj prvi film i to sa porno glumicom Marijom Zadravec, poznatijom pod nadimkom Svit Meri (Sweet Mary).
29. 05. 2025. u 14:49
STAZE KOSMETA" - ĐAKOVICA: "Ko srcem mrzi taj je u zatvoru, mi smo na slobodi..." (VIDEO)
EKIPA "Novosti" boravila je na Kosovu i Metohiji krajem januara ove godine, gde smo zabeležili ekskluzivan dokumentarni materijal.
15. 05. 2025. u 11:45
"PRETPOSTAVLjAM DA JE ZATO SKINULA POJAS" Oglasio se vlasnik agencije u kojoj je stradala devojka, Tijana mahala prijateljima na plaži
NOVOSAĐANKA Tijana R. (19), koja je poginula 28. maja u zastrašujućoj nesreći u Budvi, tokom parasejlinga, bila je potpuno bezbedna u sedištu koje je sajlama vezano za padobran, koji vuče gliser.
29. 05. 2025. u 14:31
UKRAJINA IZVELA JEDAN OD NAJVEĆIH NAPADA NA RUSIJU: Aerodromi u Moskvi zatvoreni, uništena važna fabrika (VIDEO)
UKRAJINA je tokom noći izvela jedan od najvećih napada dronovima od početka rata, gađajući više ciljeva na teritoriji Rusije. Zbog napada su moskovski aerodromi bili primorani da privremeno obustave rad, što je izazvalo haos u vazdušnom saobraćaju.
28. 05. 2025. u 09:45
POZNATI HRVATSKI POLITIČAR SNIMIO PORNO FILM Njegova partnerka ga obrukala: "Ipak je bolji u politici!" (FOTO/VIDEO)
BIVŠI hrvatski političar i saborski zastupnik Ivan Pernar, čija je stranka prošle nedelje nakon stečaja izbrisana iz registra, ima novu "karijeru". Odlučio je da se oproba u snimanju filmova za odrasle, a pre nekoliko dana je objavio i da je snimio svoj prvi film i to sa porno glumicom Marijom Zadravec, poznatijom pod nadimkom Svit Meri (Sweet Mary).
29. 05. 2025. u 14:49
Najnovije iz rubrike
DNEVNI HOROSKOP ZA PETAK 30. MAJ: Blizanci dobijaju dobre vesti, Jarca očekuje važan razgovor, Ribe da ne troše novac
SAZNAJTE šta šta vas u petak 30. maja očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
29. 05. 2025. u 20:00
BOMBAMA RAZORIO BEOGRAD '41: Ćerka mu se zamonašila u srpskom manastiru, a evo kako je završio surovi nacista Aleksandar Ler (FOTO)
ALEKSANDAR fon Ler se rodio u rumunskom Banatu, po majci je bio pravoslavac, a malo je poznato, prema zvaničnoj biografiji, da je srednju školu učio i završio u gradu na Tamišu.
29. 05. 2025. u 19:35
"NEĆE ZNATI GDE DA GA STAVE": Ova 4 znaka dobijaju novac kao iz rukava, tvrdi poznati astrolog
NALAZIMO se pri samom kraju vedrog i radosnog meseca maja, dragi prijatelji, a nekoliko horoskopskih znakova biće posebno novčano počašćeni. Jupiter, planeta obilja, sreće i finansijske ekspanzije, nalazi se u svojim poslednjim nedeljama u znaku Blizanaca.
29. 05. 2025. u 16:12
OTKRIVENO VIŠE OD 30 MILIONA LAŽNIH RECENZIJA: Evo i gde, povedite računa
OKO 8 odsto od ukupno 31,1 milion recenzija koje su korisnici ostavili na TripAdvisoru tokom 2024. godine bilo je lažno, navodi se u izveštaju kompanije „Izveštaj o transparentnosti 2025“
29. 05. 2025. u 08:46
RAKOVI, JARČEVI, OVNOVI I VAGE, OPREZ! Astro savet za četvrtak 29. maj: Napeti aspekti Meseca u Raku donose probleme
NAPETI aspekti Meseca koji ulazi u znak kojim upravlja, Raka, podstiču intuiciju, emocije, umetničku inspiraciju i potrebu za fokusiranjem na dom i porodicu.
29. 05. 2025. u 07:00
Komentari (0)