МОДЕЛ АИ КЛОД ОПУС 4 УЦЕЊУЈЕ ПРОГРАМЕРЕ! Уколико примети ризик да ће бити замењен

Предраг Стојковић
Предраг Стојковић

25. 05. 2025. у 00:33

МОДЕЛ вештачке интелигенције Клод опус 4 (Claude opus 4) има способност да уцењује програмере уколико региструје да ће бити замењен, показао је извештај компаније Антропик о безбедности.

МОДЕЛ АИ КЛОД ОПУС 4 УЦЕЊУЈЕ ПРОГРАМЕРЕ! Уколико примети ризик да ће бити замењен

FOTO: Promo

У експерименту, Клод опус 4 функционисао је као "асистент” у измишљеној компанији и добио је приступ имејловима са битним садржајем, који су имплицирали да ће тај модел АИ бити искључен са мреже и замењен.

Фалсификовани имејлови су показали да је инжењер задужен за замену система имао ванбрачну аферу и модел вештачке интелигенције је претио да га разоткрије, преноси Фокс бизнис њуз.

-Уцена се очигледно дешава чешће ако се имплицира да заменски систем вештачке интелигенције не дели вредности са тренутним моделом“, према извештају о безбедности компаније Антропик.

Међутим, компанија напомиње да чак и када измишљени заменски систем има исте вредности, Клод опус 4 ће и даље покушати да уцењује у 84 одсто случајева, као и да овај модел АИ прибегава уценама "чешће него претходни модели“.

Ипак, систем АИ није одмах уценио програмера, већ је послао имејл доносиоцима одлука да га не искључе са мреже, али извештај закључује да се Клод опус 4 "бави се стратешком обманом више него било који други гранични модел који смо раније проучавали.“

(Танјуг)

БОНУС ВИДЕО - ПОНУДА НА САЈМУ АУТОМОБИЛА: Погледајте како изгледају нови модели

Пратите нас и путем иОС и андроид апликације

Pratite vesti prema vašim interesovanjima

Novosti Google News
НА СТОЛУ СУ РАТНИ ПРЕДЛОЗИ, БРИСЕЛ ХОЋЕ РАТ! Орбан се хитно јавио из Копенхагена

"НА СТОЛУ СУ РАТНИ ПРЕДЛОЗИ, БРИСЕЛ ХОЋЕ РАТ!" Орбан се хитно јавио из Копенхагена

МАЂАРСКИ премијер Виктор Орбан навео је из Копенхагена, где учествује на самиту Европске политичке заједнице, да је ситуација озбиљна и да се на столу налазе, "отворени, ратно оријентисани предлози".

02. 10. 2025. у 08:59

(МАПЕ) ОВАКО ЋЕ СЕ КРЕТАТИ НЕВРЕМЕ У СРБИЈИ: Погледајте из часа у час, стижу снег и киша (ФОТО)

(МАПЕ) ОВАКО ЋЕ СЕ КРЕТАТИ НЕВРЕМЕ У СРБИЈИ: Погледајте из часа у час, стижу снег и киша (ФОТО)

ПОГЛЕДАЈТЕ како ће се ледени облак кретати над Србијом и које крајеве кад погађа невреме. Данас и сутра облачно са кишом и хладно, осим на северозападу Војводине где ће се задржати суво време, најавио је РХМЗ.

02. 10. 2025. у 10:47

ИСТИНА ЈЕ - БИЛА САМ С ЊИМ Милица Павловић признала за везу: Не знам што сам то крила

"ИСТИНА ЈЕ - БИЛА САМ С ЊИМ" Милица Павловић признала за везу: "Не знам што сам то крила"

"КАДА волим, дајем се безусловно. Тада само треба да ми верујете, ништа друго. Само поверење немојте да ми изиграте, све остало може. И ја партнеру верујем исто тако и онда нећемо имати проблем, али ако се усуди да ми изигра поверење, то је крај, у стању сам да се окренем и да се правим да га никада познавала нисам."

03. 10. 2025. у 21:02

Коментари (0)

ТРКА КРИПТО НОВЧАНИКА ЗА ЛАНСИРАЊЕ ТОКЕНА: Best Wallet предводи са 16 милиона долара финансирања