ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања
НИЈЕДАН од 16 водећих детектора не може поуздано да идентификује лажне фотографије у стварном свету, открили су аустралијски и јужнокорејски истраживачи.
Фото Shutterstock
Недавно објављени рад на порталу arXiv, који су заједнички израдили аустралијска национална научна агенција ЦСИРО и јужнокорејски Универзитет Сунгкјункван, открио је озбиљне рањивости у постојећим дипфејк (deepfake) детекторима.
Истраживање је проценило 16 водећих детектора и показало да ниједан од њих није у стању да поуздано идентификује deepfake у стварним условима.
Методологија истраживања
Истраживачи су развили оквир у пет корака за процену алата који укључује тип дипфејка, методу детекције, припрему података, обуку модела и валидацију.
Притом су идентификовали и 18 фактора који утичу на тачност детектора који су тестирани у различитим сценаријима, укључујући црну, белу и сиву кутију.
Постојећи детектори показују озбиљне слабости, посебно када се суочавају с радовима који се не налазе у њиховим тренираним подацима, запажају истраживачи.
На пример ИЦТ (Identity Consistent Transformer), детектор трениран на лицима познатих особа, није био ефикасан у детекцији дипфејка с непознатим особама.
Детектори су пали на испиту, небитно да ли је у питању "synthesis deepfake" који генерише потпуно нова синтетичка лица, "faceswap deepfake" радовима у којима се лице једне особе замењује другим или " reeanactment deepfake" у којем се задржавају црте лица неке особе, али се мењају њени изрази.
Интеграција података
Истраживачи позивају на хитна побољшања, предлажу развој више детектора и коришћење различитих извора података како би се побољшала тачност детекције.
Наглашавају и потребу интеграције аудио, текстуалних и мета података у моделе за детекцију, као и примену стратегија попут фингерпринтинга, односно уградње вештачких и ГАН отисака у слике и видео снимке како би се боље пратило порекло дипфејка.
Прва метода укључује уградњу јединствених ознака у тренинг податке генеративних модела који се препознају у генерисаним дипфејк радовима, а друга на природне ознаке које генеративни модели остављају у генерисаним садржајима.
(б92)
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
УПОЗОРЕЊЕ ИНДИЈСКИХ АСТРОЛОГА: Сутра КАРМА ИСПОСТАВЉА РАЧУНЕ - и никог неће штедети! Стиже "Shani Amavasya"
Ретрогардни Сатурн је на снази од 13. јула до 27. септембра, али ће оваква позиција планете карме бити најизраженија 23. августа, када ће се дести "Shani Amavasya", како ту ноћ називају индијски астролози.
22. 08. 2025. у 15:24
САМО СА 4 РАЗРЕДА ШКОЛЕ: Како је Добрица Ерић написао најпотреснију песму о Србији?
Нико адекватнији није био да носи име Добрица од нашег писца Добрице Ерића који је написао невероватне песме о Србији, преточивши их у чист мелем за душу.
22. 08. 2025. у 16:52
КАКО ЈЕ ВЕСНА ОД "ЈОРГОВАНA" ЗАРАДИЛА 500.000€? Дино отпевао свој део и отишао љут: "Ово ништа не ваља..."
ДУЕТ Дина Мерлина и Весне Змијанац био је и остао један од највољенијих и најслушанијих, а многи не знају како је песма заправо настала
22. 08. 2025. у 09:45
ИСПУЊЕНА ПОСЛЕДЊА ЖЕЉА ГАБИ НОВАК: У вечност, међу своје
ПЕВАЧИЦА Габи Новак је сахрањена у понедељак у кругу породице, у складу са њеним жељама.
22. 08. 2025. у 13:55
Американац оженио Српкињу, онда упознао "њене" - "За то се код нас иде у полицију!"
АМЕРИКАНАЦ који живи у Београду са супругом и децом, говори о разликама између живота у Србији и САД. Од односа са тазбином, паркова и вртића, до приватности, кафана и „америчког сна“ у Србији.
22. 08. 2025. у 11:27
ТУРСКИ НАЧИН ПРАЊА ПЕШКИРА: Биће мекани и нежни без омекшивача - све што вам је потребно је намирница коју већ имате код куће
Прање пешкира није тако једноставно како изгледа.
22. 08. 2025. у 16:29
ДОДИК ЖЕСТОКО УДАРИО НА СТАНИВУКОВИЋА: Докле ћеш бити полтрон најгоре врсте?
ПРЕДСЕДНИК Милорад Додик упитао је данас градоначелника Бањалуке Драшка Станивуковића "докле ће бити полтрон најгоре врсте који се свакодневно додворава Сарајеву, а оптужује Републику Српску".
21. 08. 2025. у 19:40
"СРАМ ВАС БИЛО ЗА СВЕ ШТО РАДИТЕ" Вучић са презиром одговорио Жаклини Таталовић на добацивања и упадице
ПРЕДСЕДНИК Србије Александар Вучић одговорио је на упадице и добацивања новинарки Н1 Жаклини Таталовић.
17. 08. 2025. у 14:28
Да ли је она најзгоднија водитељка на РТС-у? Објавила фотке у бикинију са плаже
ВОДИТЕЉКА Драгана Косјерина привлачи пажњу својим атрактивним изгледом где год се појави.
22. 08. 2025. у 13:24
Најновије из рубрике
ВЕЛИКО НАУЧНО ОТКРИЋЕ: Крављи зуб решава мистерију градње Стоунхенџа
НАЈНОВИЈЕ откриће добијено анализом зуба потврдило је да је крава пронађена у близини неолитског споменика Стоунхенџ потицала из Велса, што је додатно поткрепило теорије да је стока коришћена као главни начин за преношење огромних камених блокова коришћених за изградњу овог објекта.
23. 08. 2025. у 00:45
ЛИСТЕ "МЕСТА КОЈА МОРАМО ДА ВИДИМО" ИДУ У ЗАБОРАВ: Време је за путовања која имају другачији смисао
У ДОБА виралних туристичких трендова, наше листе жеља све више личе једна на другу - масовно се букира Рим, Венеција, Париз, Барселона. Ипак, ове популарне дестинације се томе супротстављају - локалци јасно бојкотују, инфраструктура постаје из дана у дан све више нарушена.
23. 08. 2025. у 00:33
"БЛИЗАНАЧКА ТЕЛЕПАТИЈА" ИЛИ НЕШТО ДРУГО? Ево шта наука каже о необичној вези између близанаца
ЈЕДАН од најпознатијих митова везаних за близанце је такозвана "близаначка телепатија", то јест веровање да близанци, посебно једнојајчани, могу на даљину да осете мисли, емоције или физичке сензације једно другог, без употребе пет чула.
23. 08. 2025. у 00:00
ЗАШТО ЧОКОЛАДА ИМА ТАКО ДОБАР УКУС: Научници објаснили
КАД загризете комадић чоколаде, можете да осетите њене различите укусе. Група научника је током истраживања установила да је контролисањем ферментације могуће створити „дизајнерске“ чоколаде са посебним укусима.
22. 08. 2025. у 23:22
НИЈЕ ЛАКОВЕРНОСТ, ВЕЋ КАРАКТЕР: Ови типови личности олако поверују опасним велнес трендовима
МНОГИ од нас претпостављају да само наивни или недовољно информисаним људи прате велнес трендове, без правих доказа о томе колико су заиста ефикасни и безбедни.
22. 08. 2025. у 23:00
Коментари (0)