ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања

Јована Шведић

22. 03. 2025. у 10:23

НИЈЕДАН од 16 водећих детектора не може поуздано да идентификује лажне фотографије у стварном свету, открили су аустралијски и јужнокорејски истраживачи.

ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања

Фото Shutterstock

Недавно објављени рад на порталу arXiv, који су заједнички израдили аустралијска национална научна агенција ЦСИРО и јужнокорејски Универзитет Сунгкјункван, открио је озбиљне рањивости у постојећим дипфејк (deepfake) детекторима.

Истраживање је проценило 16 водећих детектора и показало да ниједан од њих није у стању да поуздано идентификује deepfake у стварним условима.

Методологија истраживања

Истраживачи су развили оквир у пет корака за процену алата који укључује тип дипфејка, методу детекције, припрему података, обуку модела и валидацију.

Притом су идентификовали и 18 фактора који утичу на тачност детектора који су тестирани у различитим сценаријима, укључујући црну, белу и сиву кутију.

Постојећи детектори показују озбиљне слабости, посебно када се суочавају с радовима који се не налазе у њиховим тренираним подацима, запажају истраживачи.

На пример ИЦТ (Identity Consistent Transformer), детектор трениран на лицима познатих особа, није био ефикасан у детекцији дипфејка с непознатим особама. 

Детектори су пали на испиту, небитно да ли је у питању "synthesis deepfake" који генерише потпуно нова синтетичка лица, "faceswap deepfake" радовима у којима се лице једне особе замењује другим или " reeanactment deepfake" у којем се задржавају црте лица неке особе, али се мењају њени изрази.

Интеграција података

Истраживачи позивају на хитна побољшања, предлажу развој више детектора и коришћење различитих извора података како би се побољшала тачност детекције.

Наглашавају и потребу интеграције аудио, текстуалних и мета података у моделе за детекцију, као и примену стратегија попут фингерпринтинга, односно уградње вештачких и ГАН отисака у слике и видео снимке како би се боље пратило порекло дипфејка.

Прва метода укључује уградњу јединствених ознака у тренинг податке генеративних модела који се препознају у генерисаним дипфејк радовима, а друга на природне ознаке које генеративни модели остављају у генерисаним садржајима.

(б92)

Пратите нас и путем иОС и андроид апликације

Pratite vesti prema vašim interesovanjima

Novosti Google News
ХРВАТИ ВЕЛИКИ И ЈАКИ ЖАЛЕ СЕ ЦЕНТРАЛИ НАТО ЗБОГ СРПСКИХ РАКЕТА: А не смета им војни савез Загреб-Тирана-Приштина

ХРВАТИ "ВЕЛИКИ И ЈАКИ" ЖАЛЕ СЕ ЦЕНТРАЛИ НАТО ЗБОГ СРПСКИХ РАКЕТА: А не смета им војни савез Загреб-Тирана-Приштина

ПРЕМИЈЕР Хрватске Андреј Пленковић рекао је данас, коментаришући то што Војска Србије располаже новом хиперсоничном квазибалистичком ракетом кинеске производње ЦМ-400, да ће "разговарати са партнерима у НАТО и упозорити их на такво наоружање".

12. 03. 2026. у 19:25

ИРАНЦИ ТВРДЕ - НЕТАНЈАХУ ЈЕ УБИЈЕН: Шта се десило Бибију? Први пут од почетка рата и Иранци изађите на улице

ИРАНЦИ ТВРДЕ - НЕТАНЈАХУ ЈЕ УБИЈЕН: Шта се десило Бибију? Први пут од почетка рата и "Иранци изађите на улице"

СПЕКУЛАЦИЈЕ о наводној смрти израелског премијера Бењамина Нетанијахуа појавиле су се јуче на друштвеним мрежама, а пренео их је хебрејски веб-сајт иранске новинске агенције Тасним. Шта се с њим догодило - одговор је стигао дан касније. Жив је и здрав и како поручује на првој конференцији од почетка рата - спреман је да борбе приведе крају.

12. 03. 2026. у 22:29 >> 22:37

Коментари (0)

„И ЈЕДАН ЈЕ МНОГО“: Удружење приређивача игара на срећу СПИС покренуло програм едукације младих