Panorama

DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja

Jovana Švedić

22. 03. 2025. u 10:23

NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.

ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања

Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.

Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.

Metodologija istraživanja

Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.

Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.

Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.

Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.

Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.

Integracija podataka

Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.

Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.

Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.

(b92)

Pratite nas i putem iOS i android aplikacije

Pratite vesti prema vašim interesovanjima

TRAMP OTKRIO KOLIKO LJUDI NEDELJNO GINE U UKRAJINI: Putin ubija mnogo ukrajinskih vojnika

Svet

1 12

TRAMP OTKRIO KOLIKO LjUDI NEDELjNO GINE U UKRAJINI: "Putin ubija mnogo ukrajinskih vojnika"

PREDSEDNIK Sjedinjenih Američkih Država Donald Tramp izjavio je danas da je nezadovoljan ponašanjem ruskog predsednika Vladimira Putina i naveo da razmatra nove sankcije protiv Rusije.

08. 07. 2025. u 20:36

SKANDAL! PLENKOVIĆ O USTAŠKOM KONCERTU TOMPSONA: Ponosni smo, jedino on može da okupi pola miliona

Region

3 27

SKANDAL! PLENKOVIĆ O USTAŠKOM KONCERTU TOMPSONA: "Ponosni smo, jedino on može da okupi pola miliona"

PREMIJER Hrvatske Andrej Plenković održao je konferenciju za medije nakon sednice Predsedništva Hrvatske demokratske zajednice (HDZ). Glavna tema bila je koncert Marka Perkovića Tompsona na Hipodromu i ustaška ikonografija koja se tamo mogla videti, ali i čuti.

07. 07. 2025. u 18:33

KINEZI NAPALI NEMAČKI AVION LASEROM? Berlin potvrdio - brod je naciljao lovca, ambasador hitno pozvan na razgovor

Svet

0 0

KINEZI NAPALI NEMAČKI AVION LASEROM? Berlin potvrdio - brod je naciljao lovca, ambasador hitno pozvan na razgovor

KINESKI ratni brod laserski je ciljao nemački avion iznad Crvenog mora tokom misije EU, tvrdi nemačka vlada. Berlin je ocenio incident kao ozbiljan bezbednosni propust i pozvao kineskog ambasadora na hitan razgovor.

10. 07. 2025. u 12:53