MODEL AI KLOD OPUS 4 UCENJUJE PROGRAMERE! Ukoliko primeti rizik da će biti zamenjen

Предраг Стојковић
Predrag Stojković

25. 05. 2025. u 00:33

MODEL veštačke inteligencije Klod opus 4 (Claude opus 4) ima sposobnost da ucenjuje programere ukoliko registruje da će biti zamenjen, pokazao je izveštaj kompanije Antropik o bezbednosti.

МОДЕЛ АИ КЛОД ОПУС 4 УЦЕЊУЈЕ ПРОГРАМЕРЕ! Уколико примети ризик да ће бити замењен

FOTO: Promo

U eksperimentu, Klod opus 4 funkcionisao je kao "asistent” u izmišljenoj kompaniji i dobio je pristup imejlovima sa bitnim sadržajem, koji su implicirali da će taj model AI biti isključen sa mreže i zamenjen.

Falsifikovani imejlovi su pokazali da je inženjer zadužen za zamenu sistema imao vanbračnu aferu i model veštačke inteligencije je pretio da ga razotkrije, prenosi Foks biznis njuz.

-Ucena se očigledno dešava češće ako se implicira da zamenski sistem veštačke inteligencije ne deli vrednosti sa trenutnim modelom“, prema izveštaju o bezbednosti kompanije Antropik.

Međutim, kompanija napominje da čak i kada izmišljeni zamenski sistem ima iste vrednosti, Klod opus 4 će i dalje pokušati da ucenjuje u 84 odsto slučajeva, kao i da ovaj model AI pribegava ucenama "češće nego prethodni modeli“.

Ipak, sistem AI nije odmah ucenio programera, već je poslao imejl donosiocima odluka da ga ne isključe sa mreže, ali izveštaj zaključuje da se Klod opus 4 "bavi se strateškom obmanom više nego bilo koji drugi granični model koji smo ranije proučavali.“

(Tanjug)

BONUS VIDEO - PONUDA NA SAJMU AUTOMOBILA: Pogledajte kako izgledaju novi modeli

Pratite nas i putem iOS i android aplikacije

Pratite vesti prema vašim interesovanjima

Novosti Google News
ŠOK PROGNOZA ZA OKTOBAR: Najavljeno da će pasti pola metra snega! Ovakve ekstreme ni meteorolozi ne pamte

ŠOK PROGNOZA ZA OKTOBAR: Najavljeno da će pasti pola metra snega! Ovakve ekstreme ni meteorolozi ne pamte

PREMA najavama meteorologa, oktobar 2025. počeće u Srbiji pod uticajem prodora hladnog vazduha sa severoistoka Rusije koji je došao do Nemačke i Poljske, ali se polako približava ka nama što će prouzrokovati razvoj ciklona u Jonskom, Tirenskom i delu Jadranskog mora i već 1. oktobra, u sredu, u večernjim časovima na jugu i jugozapadu Srbije počeće da pada kiša.

30. 09. 2025. u 20:58

Komentari (0)

SVE IZVESNIJI DIREKTAN MEGDAN RUSA I AMERIKANACA! Više nema nikakve dileme...