Панорама

ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања

Јована Шведић

22. 03. 2025. у 10:23

НИЈЕДАН од 16 водећих детектора не може поуздано да идентификује лажне фотографије у стварном свету, открили су аустралијски и јужнокорејски истраживачи.

ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања

Недавно објављени рад на порталу arXiv, који су заједнички израдили аустралијска национална научна агенција ЦСИРО и јужнокорејски Универзитет Сунгкјункван, открио је озбиљне рањивости у постојећим дипфејк (deepfake) детекторима.

Истраживање је проценило 16 водећих детектора и показало да ниједан од њих није у стању да поуздано идентификује deepfake у стварним условима.

Методологија истраживања

Истраживачи су развили оквир у пет корака за процену алата који укључује тип дипфејка, методу детекције, припрему података, обуку модела и валидацију.

Притом су идентификовали и 18 фактора који утичу на тачност детектора који су тестирани у различитим сценаријима, укључујући црну, белу и сиву кутију.

Постојећи детектори показују озбиљне слабости, посебно када се суочавају с радовима који се не налазе у њиховим тренираним подацима, запажају истраживачи.

На пример ИЦТ (Identity Consistent Transformer), детектор трениран на лицима познатих особа, није био ефикасан у детекцији дипфејка с непознатим особама.

Детектори су пали на испиту, небитно да ли је у питању "synthesis deepfake" који генерише потпуно нова синтетичка лица, "faceswap deepfake" радовима у којима се лице једне особе замењује другим или " reeanactment deepfake" у којем се задржавају црте лица неке особе, али се мењају њени изрази.

Интеграција података

Истраживачи позивају на хитна побољшања, предлажу развој више детектора и коришћење различитих извора података како би се побољшала тачност детекције.

Наглашавају и потребу интеграције аудио, текстуалних и мета података у моделе за детекцију, као и примену стратегија попут фингерпринтинга, односно уградње вештачких и ГАН отисака у слике и видео снимке како би се боље пратило порекло дипфејка.

Прва метода укључује уградњу јединствених ознака у тренинг податке генеративних модела који се препознају у генерисаним дипфејк радовима, а друга на природне ознаке које генеративни модели остављају у генерисаним садржајима.

(б92)

Пратите нас и путем иОС и андроид апликације

Pratite vesti prema vašim interesovanjima

НА СТОЛУ СУ РАТНИ ПРЕДЛОЗИ, БРИСЕЛ ХОЋЕ РАТ! Орбан се хитно јавио из Копенхагена

Свет

0 12

"НА СТОЛУ СУ РАТНИ ПРЕДЛОЗИ, БРИСЕЛ ХОЋЕ РАТ!" Орбан се хитно јавио из Копенхагена

МАЂАРСКИ премијер Виктор Орбан навео је из Копенхагена, где учествује на самиту Европске политичке заједнице, да је ситуација озбиљна и да се на столу налазе, "отворени, ратно оријентисани предлози".

02. 10. 2025. у 08:59

(МАПЕ) ОВАКО ЋЕ СЕ КРЕТАТИ НЕВРЕМЕ У СРБИЈИ: Погледајте из часа у час, стижу снег и киша (ФОТО)

Друштво

0 2

(МАПЕ) ОВАКО ЋЕ СЕ КРЕТАТИ НЕВРЕМЕ У СРБИЈИ: Погледајте из часа у час, стижу снег и киша (ФОТО)

ПОГЛЕДАЈТЕ како ће се ледени облак кретати над Србијом и које крајеве кад погађа невреме. Данас и сутра облачно са кишом и хладно, осим на северозападу Војводине где ће се задржати суво време, најавио је РХМЗ.

02. 10. 2025. у 10:47