DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja
NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.
Foto Shutterstock
Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.
Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.
Metodologija istraživanja
Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.
Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.
Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.
Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.
Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.
Integracija podataka
Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.
Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.
Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.
(b92)
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
POLICIJA ISTUKLA BLOKADERE KO VOLOVE U KUPUSU: Sprečen haos na fakultetu u Amsterdamu (VIDEO)
POLICIJA u civilu je žestoko istukla studente koji su pokušali da blokiraju fakultet u Amsterdamu.
15. 04. 2025. u 18:14
HIT SCENA U "POTERI": Kiks Princeze od znanja - Gagu Mirković pomešala sa ovim legendarnim glumcem
EPIZODA je bila posebna po tome što su u njoj učestvovale isključivo žene.
15. 04. 2025. u 09:40
OGLASIO SE ŠVAJNŠTAJGER: Nemac poslao prvu poruku nakon glasina o razvodu od Ane Ivanović
Nemačku i Srbiju je iznenadila informacija o rastanku nekadašnjeg fudbalera i nekadašnje teniserke koja još uvek nije zvanično potvrđena.
16. 04. 2025. u 11:22
PRE TAČNO 113 GODINA POTONUO JE TITANIK: Jedan od čudom preživelih je potom postao olimpijski šampion - i to posle neverovatnih dešavanja
Čuveni brod Titanik potonuo je na ovaj dan. A sada, 113 godina kasnije, malo je poznato da je jedan od brodolomnika postao nakon toga - olimpijski šampion.
15. 04. 2025. u 19:59
LUKAŠENKOVA POSETA RAZORENOM BEOGRADU '99: Tokom razgovora sa Miloševićem odjekivale NATO bombe (FOTO/VIDEO)
ČETRNAESTOG dana aprila 1999. godine u toku najžešćeg bombardovanja Savezne Republike Jugoslavije (SRJ) od strane NATO alijanse, predsednik Belorusije Aleksandar Lukašenko posetio je Beograd, a na aerodromu ga je lično dočekao predsednik SRJ Slobodan Milošević.
15. 04. 2025. u 10:49
KALINIĆ OTKRIO DETALjE CEREMONIJE SVOG KUMA: "Milan će organizovati veliko slavlje na Kosovu i Metohiji"
GLUMAC Milan Vasić u tajnosti se oženio prošlog vikenda, a venčani kum mu je bio Milan Kalinić.
16. 04. 2025. u 09:13
DžEJ DI VENS UDARIO NA ZELENSKOG: To što on radi je apsurdno
U INTERVJUU za internet portal UnHerd , američki potpredsednik Džej Di Vens nazvao je napade ukrajinskog predsednika Volodimira Zelenskog na SAD „neproduktivnom retorikom“ i „apsurdnim“.
15. 04. 2025. u 10:27
MAKRON POSLE RUSKOG NAPADA: Hitno nam je potreban mir
RUSKI raketni napad na grad Sumi na severu Ukrajine naglašava hitnu potrebu za nametanjem primirja Rusiji, izjavio je danas predsednik Francuske Emanuel Makron.
13. 04. 2025. u 15:34
"SINA SMO SAHRANILI U NIKŠIĆU" Željko Samardžić o najvećoj životnoj tragediji: "To je bila tuga za sve nas"
PEVAČ progovorio o bolnoj temi.
15. 04. 2025. u 10:18
Najnovije iz rubrike
DOSTA STVARI SE OBISTINILO: Kako je Tesla predvideo budućnost
NIKOLA Tesla bio je mnogo više od izumitelja, bio je vizionar koji je svojim idejama oblikovao svet u kojem danas živimo.
16. 04. 2025. u 10:34
NIŠTA BEZ ADVOKATA Astro savet za 16. april: Merkur je u Ovnu do 10. maja – Evo kako će da utiče na vaš znak horoskopa
MERKUR, planeta biznisa, učenja, kraćih putovanja i flerta,koji se proteklih meseci, zbog retrogradnog hoda, šetao između vodenog znaka Riba i vatrenog Ovna, posle šest nedelja, vraća se u Ovna, gde ostaje do 10. maja.
16. 04. 2025. u 07:00
SUMORNA BUDUĆNOST: Okeani su nekad bili zeleni, u budućnosti će biti ljubičasti ili crveni
SKORO tri četvrtine naše planete prekrivaju okeani, pa iz svemira ona izgleda kao plavi kliker.
16. 04. 2025. u 00:33
PEDESET HILJADA DREVNIH KUĆA POD LUPOM NAUČNIKA: Veliko otkriće otvara veliku temu za čovečanstvo
ŽIVIMO u vremenima kada je jaz između bogatih i siromašnih dramatičan i nastavlja da se povećava. Ali nejednakost nije ništa novo, pa su naučnici rešili da je prouče tako što su izmerili i uporedili kuće na više od 1.000 nalazišta širom sveta i to iz poslednjih 10.000 godina.
16. 04. 2025. u 00:21
NIJE SVE ZA FRIŽIDER: Ovim namirnicama sobna temperatura više prija
VEĆINA nas bez razmišljanja skladišti hranu u frižideru, jer ne verujemo da to može imati negativan efekat - verujemo da se sigurno neće pokvariti, da će biti sveža i spremna za jelo.
16. 04. 2025. u 00:00
Komentari (0)