MODEL AI KLOD OPUS 4 UCENJUJE PROGRAMERE! Ukoliko primeti rizik da će biti zamenjen
MODEL veštačke inteligencije Klod opus 4 (Claude opus 4) ima sposobnost da ucenjuje programere ukoliko registruje da će biti zamenjen, pokazao je izveštaj kompanije Antropik o bezbednosti.

FOTO: Promo
U eksperimentu, Klod opus 4 funkcionisao je kao "asistent” u izmišljenoj kompaniji i dobio je pristup imejlovima sa bitnim sadržajem, koji su implicirali da će taj model AI biti isključen sa mreže i zamenjen.
Falsifikovani imejlovi su pokazali da je inženjer zadužen za zamenu sistema imao vanbračnu aferu i model veštačke inteligencije je pretio da ga razotkrije, prenosi Foks biznis njuz.
-Ucena se očigledno dešava češće ako se implicira da zamenski sistem veštačke inteligencije ne deli vrednosti sa trenutnim modelom“, prema izveštaju o bezbednosti kompanije Antropik.
Međutim, kompanija napominje da čak i kada izmišljeni zamenski sistem ima iste vrednosti, Klod opus 4 će i dalje pokušati da ucenjuje u 84 odsto slučajeva, kao i da ovaj model AI pribegava ucenama "češće nego prethodni modeli“.
Ipak, sistem AI nije odmah ucenio programera, već je poslao imejl donosiocima odluka da ga ne isključe sa mreže, ali izveštaj zaključuje da se Klod opus 4 "bavi se strateškom obmanom više nego bilo koji drugi granični model koji smo ranije proučavali.“
(Tanjug)
BONUS VIDEO - PONUDA NA SAJMU AUTOMOBILA: Pogledajte kako izgledaju novi modeli
Preporučujemo

TESLA ROBOT MESIO TESTO I KUVAO VEČERU: Evo šta sve Optimus sada ume da radi
21. 05. 2025. u 23:33

MASK PORUČIO: Tesla planira probni rad robotaksija u Ostinu u Teksasu do kraja juna
21. 05. 2025. u 00:30

"POJEDOH SE ŽIV, IZLUDE ME TO" Vučić o otvaranju auto-puta do Požege: To su već foliranja i glupiranja, krajnji rok do ponedeljka
PREDSEDNIK Srbije Aleksandar Vučić govorio je iz Čačka o otvaranju auto-puta do Požege.
03. 07. 2025. u 11:49

"MOGLO BI UMRETI 4.500 LjUDI" Ova zemlja je najugroženija na Zapadnom Balkanu, hitan sastanak u SZO zbog vrućina u Evropi
JUŽNA Evropa suočava se sa žestokim toplotnim talasom - temperature prelaze 40 stepeni Celzijusa, a u španskoj pokrajini Uelva izmereno je rekordnih 46 stepeni, što je najviša junska temperatura u istoriji zemlje. Istovremeno, Italija, Grčka, Portugalija i Zapadni Balkan takođe beleže rekordne vrućine, praćene šumskim požarima i ljudskim žrtvama.
01. 07. 2025. u 11:45

ISPOVEST RADNICE: "Kad biste ovo znali, nikad ne biste kročili na kruzer"
DRUŠTVENIM mrežama kruže viralni snimci u kojima osoba koja se predstavlja kao radnica na kruzeru deli detalje iz života na brodu. U jednom takvom videu podelila je niz fotki u kojima tvrdi da otkriva tajne života na kruzeru i tako šokirala mnoge.
05. 07. 2025. u 11:33
Komentari (0)