МОДЕЛ АИ КЛОД ОПУС 4 УЦЕЊУЈЕ ПРОГРАМЕРЕ! Уколико примети ризик да ће бити замењен

Предраг Стојковић
Предраг Стојковић

25. 05. 2025. у 00:33

МОДЕЛ вештачке интелигенције Клод опус 4 (Claude opus 4) има способност да уцењује програмере уколико региструје да ће бити замењен, показао је извештај компаније Антропик о безбедности.

МОДЕЛ АИ КЛОД ОПУС 4 УЦЕЊУЈЕ ПРОГРАМЕРЕ! Уколико примети ризик да ће бити замењен

FOTO: Promo

У експерименту, Клод опус 4 функционисао је као "асистент” у измишљеној компанији и добио је приступ имејловима са битним садржајем, који су имплицирали да ће тај модел АИ бити искључен са мреже и замењен.

Фалсификовани имејлови су показали да је инжењер задужен за замену система имао ванбрачну аферу и модел вештачке интелигенције је претио да га разоткрије, преноси Фокс бизнис њуз.

-Уцена се очигледно дешава чешће ако се имплицира да заменски систем вештачке интелигенције не дели вредности са тренутним моделом“, према извештају о безбедности компаније Антропик.

Међутим, компанија напомиње да чак и када измишљени заменски систем има исте вредности, Клод опус 4 ће и даље покушати да уцењује у 84 одсто случајева, као и да овај модел АИ прибегава уценама "чешће него претходни модели“.

Ипак, систем АИ није одмах уценио програмера, већ је послао имејл доносиоцима одлука да га не искључе са мреже, али извештај закључује да се Клод опус 4 "бави се стратешком обманом више него било који други гранични модел који смо раније проучавали.“

(Танјуг)

БОНУС ВИДЕО - ПОНУДА НА САЈМУ АУТОМОБИЛА: Погледајте како изгледају нови модели

Пратите нас и путем иОС и андроид апликације

Pratite vesti prema vašim interesovanjima

Novosti Google News
РУСИ ДОНЕЛИ ОДЛУКУ: Нафтна компанија продаје своју имовину у иностранству због санкција САД-а

РУСИ ДОНЕЛИ ОДЛУКУ: Нафтна компанија продаје своју имовину у иностранству због санкција САД-а

РУСКА нафтна компанија Лукоил саопштила је данас да, због увођења рестриктивних мера неких држава против те фирме и њених подружница, намерава да прода своју имовину у иностранству.

27. 10. 2025. у 21:49

ЦЕЦИН СИНЕ, ЋУТИ И УДАРАЈ, ЗА БОЉЕ И НИСИ! Водитељка одбрусила Вељку - Озбиљан комплекс!

"ЦЕЦИН СИНЕ, ЋУТИ И УДАРАЈ, ЗА БОЉЕ И НИСИ!" Водитељка одбрусила Вељку - "Озбиљан комплекс!"

НАКОН што је боксер Вељко Ражнатовић покушао да исмеје перформанс водитељке Јоване Јеремић, који је уприличила током прославе њеног рођендана, она му је брзо јавно узвратила, у свом стилу.

26. 10. 2025. у 10:48

Коментари (0)

НЕКА ЈЕСЕН БОЉЕ ЗВУЧИ УЗ АУДИО БМ