ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања
НИЈЕДАН од 16 водећих детектора не може поуздано да идентификује лажне фотографије у стварном свету, открили су аустралијски и јужнокорејски истраживачи.
Фото Shutterstock
Недавно објављени рад на порталу arXiv, који су заједнички израдили аустралијска национална научна агенција ЦСИРО и јужнокорејски Универзитет Сунгкјункван, открио је озбиљне рањивости у постојећим дипфејк (deepfake) детекторима.
Истраживање је проценило 16 водећих детектора и показало да ниједан од њих није у стању да поуздано идентификује deepfake у стварним условима.
Методологија истраживања
Истраживачи су развили оквир у пет корака за процену алата који укључује тип дипфејка, методу детекције, припрему података, обуку модела и валидацију.
Притом су идентификовали и 18 фактора који утичу на тачност детектора који су тестирани у различитим сценаријима, укључујући црну, белу и сиву кутију.
Постојећи детектори показују озбиљне слабости, посебно када се суочавају с радовима који се не налазе у њиховим тренираним подацима, запажају истраживачи.
На пример ИЦТ (Identity Consistent Transformer), детектор трениран на лицима познатих особа, није био ефикасан у детекцији дипфејка с непознатим особама.
Детектори су пали на испиту, небитно да ли је у питању "synthesis deepfake" који генерише потпуно нова синтетичка лица, "faceswap deepfake" радовима у којима се лице једне особе замењује другим или " reeanactment deepfake" у којем се задржавају црте лица неке особе, али се мењају њени изрази.
Интеграција података
Истраживачи позивају на хитна побољшања, предлажу развој више детектора и коришћење различитих извора података како би се побољшала тачност детекције.
Наглашавају и потребу интеграције аудио, текстуалних и мета података у моделе за детекцију, као и примену стратегија попут фингерпринтинга, односно уградње вештачких и ГАН отисака у слике и видео снимке како би се боље пратило порекло дипфејка.
Прва метода укључује уградњу јединствених ознака у тренинг податке генеративних модела који се препознају у генерисаним дипфејк радовима, а друга на природне ознаке које генеративни модели остављају у генерисаним садржајима.
(б92)
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
"ИЗГУБИО САМ ОБА РОДИТЕЉА У 4 ДАНА": Сергеј Ћетковић отворио душу - "Тада је неко поцепао део мене"
ПЕВАЧ Сергеј Ћетковић каже да је кроз неколико дана изгубио оба родитеља.
17. 04. 2025. у 14:44
ВОДИТЕЉКА УМРЛА У БЕОГРАДУ Огласила се њена ћерка: "Профил остаје!"
ПРЕРАН одлазак младе водитељке.
17. 04. 2025. у 19:40
УНИШТЕН ГРОБ СЛАЂАНЕ МИЛОШЕВИЋ: Црна фарба премазана преко њеног имена
ДА ЛИ је у питању чин вандала или неког Слађаниног пријатеља којег је грешка на споменику разљутила, показаће истрага.
17. 04. 2025. у 16:21
УНИШТЕН ГРОБ СЛАЂАНЕ МИЛОШЕВИЋ: Црна фарба премазана преко њеног имена
ДА ЛИ је у питању чин вандала или неког Слађаниног пријатеља којег је грешка на споменику разљутила, показаће истрага.
17. 04. 2025. у 16:21
БРЕНА ОЧАЈНА ЗБОГ ВИКТОРА: "За све смо криви Боба и ја!"
ВИКТОР Живојиновић, млађи син Лепе Брене и Бобе Живојиновића, дуго се борио с вишком килограма. У једном периоду своје битке са прекомерном килажом, Виктор је имао чак 163 килограма.
17. 04. 2025. у 19:20
"БОЉЕ НЕГО СПОНЗОРУША" Некада светски позната Српкиња, данас ради у - пекари (ФОТО)
НАПУСТИЛА је свет моде и посветила се једноставнијим стварима.
17. 04. 2025. у 18:24 >> 18:30
ВЕЛИКА ПРОМЕНА У ШКОЛАМА У СРБИЈИ: Од данас ништа неће бити исто, односи се на родитеље
РОДИТЕЉИ школараца у Србији од данас добијају аутоматска звучна обавештења када наставник у електронски дневник упише изостанак детета са часа или нову оцену. Мада су деца годинама налазила начине да не кажу родитељима баш сва дешавања у школи, то сада више неће бити могуће.
17. 04. 2025. у 11:29
МАКРОН ПОСЛЕ РУСКОГ НАПАДА: Хитно нам је потребан мир
РУСКИ ракетни напад на град Суми на северу Украјине наглашава хитну потребу за наметањем примирја Русији, изјавио је данас председник Француске Емануел Макрон.
13. 04. 2025. у 15:34
"КОМПЛИТЛИ ФРИ ОФ ЧАРЏ": Да ли сте чули како Путин прича енглески? (ВИДЕО)
РУСКИ председник Владимир Путин имао је у фебруару телефонски разговор с америчким председником Доналдом Трампом о окончању рата у Украјини, а иако тада није саопштено којим су језиком причала двојица државника вероватно се свако користио својим матерњим и ослонио на преводиоце.
17. 04. 2025. у 15:25
Најновије из рубрике
ОТКРИВЕНА АРХЕОЛОШКА ТАЈНА: Ево шта је пронађено у долини Дунава
АУСТРИЈСКА академија наука саопштила је да је долини Дунав откривен права археолошка тајна – истраживачи су први пут успели да докажу постојање римских мостобрана на аустријском тлу.
17. 04. 2025. у 23:30
ДНЕВНИ ХОРОСКОП ЗА ПЕТАК 18. АПРИЛ: Вагу да избегне свађу са партнером, Јарац да пази на трошкове, Рибе очекује романтичан сусрет
САЗНАЈТЕ шта вас у петак 18. априла очекује на послу, у љубави, у дому и породици, како ће да вас служи здравље, хоћете ли се слагати са укућанима и пријатељима…
17. 04. 2025. у 20:00
ДРУГА ШАНСА КУЦА НА ВРАТА: Ово су знаци Зодијака којима је судбина спрема да намигне, могу све да исправе
С ВРЕМЕНА на време живот зна да пружи руку са новом приликом - оном коју нисмо искористили, нисмо препознали, или нисмо тада имали храбрости да зграбимо. За Близанце, Лавове и Јарчеве ово је време када треба да обрате пажњу. Јер када добре прилике други пут покуцају на врата, није ред да их пустимо да опет оду!
17. 04. 2025. у 15:19
''ДИСАЊЕ БАЈКАЛА'' Необична појава оставља туристе без даха (ВИДЕО)
БАЈКАЛСКО језеро је једно од оних мистичних места на планети које пркоси логичним објашњењима и непрестано изнова буди машту код људи. Испод дебелог зимског леда, који понекад достиже невероватних два метра, Бајкал крије једну од својих највећих тајни - своје "дисање", феномен је толико необичан и упечатљив да је у њега лакше поверовати него га објаснити.
17. 04. 2025. у 14:09
НЕ СОЛИТЕ ХРАНУ И НЕ КОРИСТИТЕ НОЖ: Стари СРПСКИ обичаји и народна веровања на Велики петак
ХРИШЋАНИ Велики петак сматрају најтужнијим даном јер је на тај дан разапет Исус Христ, па је због тога важно и да знамо обичаје које треба да испоштујемо.
17. 04. 2025. у 08:48 >> 13:47
Коментари (0)