ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања
НИЈЕДАН од 16 водећих детектора не може поуздано да идентификује лажне фотографије у стварном свету, открили су аустралијски и јужнокорејски истраживачи.
Фото Shutterstock
Недавно објављени рад на порталу arXiv, који су заједнички израдили аустралијска национална научна агенција ЦСИРО и јужнокорејски Универзитет Сунгкјункван, открио је озбиљне рањивости у постојећим дипфејк (deepfake) детекторима.
Истраживање је проценило 16 водећих детектора и показало да ниједан од њих није у стању да поуздано идентификује deepfake у стварним условима.
Методологија истраживања
Истраживачи су развили оквир у пет корака за процену алата који укључује тип дипфејка, методу детекције, припрему података, обуку модела и валидацију.
Притом су идентификовали и 18 фактора који утичу на тачност детектора који су тестирани у различитим сценаријима, укључујући црну, белу и сиву кутију.
Постојећи детектори показују озбиљне слабости, посебно када се суочавају с радовима који се не налазе у њиховим тренираним подацима, запажају истраживачи.
На пример ИЦТ (Identity Consistent Transformer), детектор трениран на лицима познатих особа, није био ефикасан у детекцији дипфејка с непознатим особама.
Детектори су пали на испиту, небитно да ли је у питању "synthesis deepfake" који генерише потпуно нова синтетичка лица, "faceswap deepfake" радовима у којима се лице једне особе замењује другим или " reeanactment deepfake" у којем се задржавају црте лица неке особе, али се мењају њени изрази.
Интеграција података
Истраживачи позивају на хитна побољшања, предлажу развој више детектора и коришћење различитих извора података како би се побољшала тачност детекције.
Наглашавају и потребу интеграције аудио, текстуалних и мета података у моделе за детекцију, као и примену стратегија попут фингерпринтинга, односно уградње вештачких и ГАН отисака у слике и видео снимке како би се боље пратило порекло дипфејка.
Прва метода укључује уградњу јединствених ознака у тренинг податке генеративних модела који се препознају у генерисаним дипфејк радовима, а друга на природне ознаке које генеративни модели остављају у генерисаним садржајима.
(б92)
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
После 40 година сазнао да му је сестра БИОЛОШКА МАЈКА: Џек Николсон се сломио - истину чуо од новинара
СКОРО четири деценије свог живота је провео верујући у лажи које су му сервиране одмалена. Ни слутио није да ће обрт бити такав.
25. 07. 2025. у 09:39
"ЈОШ СТРАХУЈЕМО ЗА ЊЕГОВО ЗДРАВЉЕ" Жика после можданог удара на специјалном програму опоравка: "Радујемо се повратку, улаже огромне напоре"
"ЈОШ СТРАХУЈЕМО ЗА ЊЕГОВО ЗДРАВЉЕ" Жика Јакшић је после можданог удара на специјалном програму опоравка: "Радујемо се његовом повратку, улаже огромне напоре"
25. 07. 2025. у 11:26
"ЖЕНЕ СЛИКАЈУ ИНТИМНЕ ДЕЛОВЕ ПАЋЕНИЦИМА, А ЈА..." Позната фолкерка покосила: "Свако показује своје вредности! А моја косилица ради на гурку"
"ДА СЕ и ја усликам, без филтера, овако лепа, али с нечим што је тотално другачије! Морам да изрекламирам косилицу – добро коси!"
25. 07. 2025. у 12:34
ТРЕСЕ СЕ ЕСТРАДА Откривена права ИСТИНА зашто је Босанац напустио "Звезде Гранда", он се огласио: "Ја нисам аматер - професионалац сам"
ДРАГАН Стојковић Босанац напустио је "Звезде Гранда" где је био дугогодишњи члан жирија и прешао у музичко такмичење "Пинкове звезде".
25. 07. 2025. у 13:19
МАРИЋЕВА ЖЕНА У КУПАЋЕМ: Еликсир младости Весне Радусиновић (ФОТО)
УЖИВАЈУ на летовању.
25. 07. 2025. у 14:06
ПОРОДИЦЕ У ШОКУ НАКОН ШТО СУ ОТВОРИЛЕ КОВЧЕГЕ СА ТЕЛИМА: Нове бизарности након пада авиона у Индији
СИН жене која је погинула у паду авиона компаније Air India изјавио је за Би-Би-Си да су у ковчегу с телом његове мајке пронађени и „други остаци“.
23. 07. 2025. у 16:49
ЕКСКЛУЗИВНИ СНИМЦИ ХАПШЕЊА ШИПТАРСКОГ ТЕРОРИСТЕ: Овако је пао бивши припадник ОВК у Свилајнцу, ево за шта се сумњичи (ВИДЕО)
ШИПТАРСКИ терориста и бивши истакнути припадник терористичке ОВК Халили Лулзин, ухапшен је данас у Свилајнцу, у заједничкој акцији Безбедносно-информативне агенције, Службе за откривање ратних злочина УКП МУП-а Републике Србије, а у сарадњи са Тужилаштвом за ратне злочине.
22. 07. 2025. у 20:54
НАУЧНИЦИ У СТРАХУ - РИЗИК ОД НЕСТАНКА: Ада Бојана и Бококоторски залив у опасности - море никада није било такво
НИВО Јадранског мора ће, према пројекцијама, до краја века порасти 35 центиметара (цм), што ће угрозити обалска подручја, посебно подручје Аде Бојане и делове Бококоторског залива, наводи се у прошлогодишњем Нацрту Националног плана Црне Горе за прилагођавање на климатске промене.
25. 07. 2025. у 08:55
Најновије из рубрике
ДАН ЗА ДРУЖЕЊЕ С БЛИСКИМ ОСОБАМА Астро савет за суботу, 26. јул: Пријатељски аспект Месеца и Венере подстиче комуникацију и креативност
ПРИЈАТЕЉСКИ аспект Венере у Близанцима и Месеца у Лаву данас подстиче потребу за комуникацијом и дружењем у неком пријатном амбијенту.
26. 07. 2025. у 07:00
ДВА ХОРОСКОПСКА ЗНАКА ЋЕ БАНКРОТИРАТИ ДО 1. АВГУСТА: Ретроградни Меркур ће их довести до просјачког штапа
НА небу су ретроградни Сатурн, Нептун, Меркур и Плутон, што ће итекако пољуљати финансијску ситуацију Лавова и Девица, па лако могу и да остану без новца у наредних седам дана.
26. 07. 2025. у 01:44
ПРОНАЂЕНА НАЈМАЊА ЗМИЈА НА СВЕТУ: Нико је није видео две деценије (ФОТО)
НАКОН готово две деценије без потврђеног контакта, научници су поново пронашли најмању змију на свету - Tetracheilostoma carlae, ендемску врсту са Барбадоса.
26. 07. 2025. у 00:33
БАЗЕН НЕ БИ ТРЕБАЛО ДА МИРИШЕ: Јак мирис хлора није добар знак
ТОКОМ врелих летњих дана у граду мало тога је освежавајуће као улазак у базен. Али да ли је вода у базену заиста чиста? Јак мирис хлора није добар знак, а чист базен не би требало да има било какав мирис.
26. 07. 2025. у 00:00
ОТВАРА СЕ ШКОЛА ЗА - РОБОТЕ: У Кини се отвара центар за обуку робота
У ЈУГОЗАПАДНОЈ кинеској провинцији Сечуан отворен је нови полигон за обуку и усавршавање хуманоидних робота који раде помоћу вештачке интелигенције, што представља важан корак ка унапређењу високотехнолошке роботике у земљи.
25. 07. 2025. у 23:00
Коментари (0)