ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања
НИЈЕДАН од 16 водећих детектора не може поуздано да идентификује лажне фотографије у стварном свету, открили су аустралијски и јужнокорејски истраживачи.

Фото Shutterstock
Недавно објављени рад на порталу arXiv, који су заједнички израдили аустралијска национална научна агенција ЦСИРО и јужнокорејски Универзитет Сунгкјункван, открио је озбиљне рањивости у постојећим дипфејк (deepfake) детекторима.
Истраживање је проценило 16 водећих детектора и показало да ниједан од њих није у стању да поуздано идентификује deepfake у стварним условима.
Методологија истраживања
Истраживачи су развили оквир у пет корака за процену алата који укључује тип дипфејка, методу детекције, припрему података, обуку модела и валидацију.
Притом су идентификовали и 18 фактора који утичу на тачност детектора који су тестирани у различитим сценаријима, укључујући црну, белу и сиву кутију.
Постојећи детектори показују озбиљне слабости, посебно када се суочавају с радовима који се не налазе у њиховим тренираним подацима, запажају истраживачи.
На пример ИЦТ (Identity Consistent Transformer), детектор трениран на лицима познатих особа, није био ефикасан у детекцији дипфејка с непознатим особама.
Детектори су пали на испиту, небитно да ли је у питању "synthesis deepfake" који генерише потпуно нова синтетичка лица, "faceswap deepfake" радовима у којима се лице једне особе замењује другим или " reeanactment deepfake" у којем се задржавају црте лица неке особе, али се мењају њени изрази.
Интеграција података
Истраживачи позивају на хитна побољшања, предлажу развој више детектора и коришћење различитих извора података како би се побољшала тачност детекције.
Наглашавају и потребу интеграције аудио, текстуалних и мета података у моделе за детекцију, као и примену стратегија попут фингерпринтинга, односно уградње вештачких и ГАН отисака у слике и видео снимке како би се боље пратило порекло дипфејка.
Прва метода укључује уградњу јединствених ознака у тренинг податке генеративних модела који се препознају у генерисаним дипфејк радовима, а друга на природне ознаке које генеративни модели остављају у генерисаним садржајима.
(б92)

"ПОЈЕДОХ СЕ ЖИВ, ИЗЛУДЕ МЕ ТО" Вучић о отварању ауто-пута до Пожеге: То су већ фолирања и глупирања, крајњи рок до понедељка
ПРЕДСЕДНИК Србије Александар Вучић говорио је из Чачка о отварању ауто-пута до Пожеге.
03. 07. 2025. у 11:49

"МОГЛО БИ УМРЕТИ 4.500 ЉУДИ" Ова земља је најугроженија на Западном Балкану, хитан састанак у СЗО због врућина у Европи
ЈУЖНА Европа суочава се са жестоким топлотним таласом - температуре прелазе 40 степени Целзијуса, а у шпанској покрајини Уелва измерено је рекордних 46 степени, што је највиша јунска температура у историји земље. Истовремено, Италија, Грчка, Португалија и Западни Балкан такође бележе рекордне врућине, праћене шумским пожарима и људским жртвама.
01. 07. 2025. у 11:45

ИСПОВЕСТ РАДНИЦЕ: "Кад бисте ово знали, никад не бисте крочили на крузер"
ДРУШТВЕНИМ мрежама круже вирални снимци у којима особа која се представља као радница на крузеру дели детаље из живота на броду. У једном таквом видеу поделила је низ фотки у којима тврди да открива тајне живота на крузеру и тако шокирала многе.
05. 07. 2025. у 11:33
Коментари (0)