МОДЕЛ АИ КЛОД ОПУС 4 УЦЕЊУЈЕ ПРОГРАМЕРЕ! Уколико примети ризик да ће бити замењен
МОДЕЛ вештачке интелигенције Клод опус 4 (Claude opus 4) има способност да уцењује програмере уколико региструје да ће бити замењен, показао је извештај компаније Антропик о безбедности.
FOTO: Promo
У експерименту, Клод опус 4 функционисао је као "асистент” у измишљеној компанији и добио је приступ имејловима са битним садржајем, који су имплицирали да ће тај модел АИ бити искључен са мреже и замењен.
Фалсификовани имејлови су показали да је инжењер задужен за замену система имао ванбрачну аферу и модел вештачке интелигенције је претио да га разоткрије, преноси Фокс бизнис њуз.
-Уцена се очигледно дешава чешће ако се имплицира да заменски систем вештачке интелигенције не дели вредности са тренутним моделом“, према извештају о безбедности компаније Антропик.
Међутим, компанија напомиње да чак и када измишљени заменски систем има исте вредности, Клод опус 4 ће и даље покушати да уцењује у 84 одсто случајева, као и да овај модел АИ прибегава уценама "чешће него претходни модели“.
Ипак, систем АИ није одмах уценио програмера, већ је послао имејл доносиоцима одлука да га не искључе са мреже, али извештај закључује да се Клод опус 4 "бави се стратешком обманом више него било који други гранични модел који смо раније проучавали.“
(Танјуг)
БОНУС ВИДЕО - ПОНУДА НА САЈМУ АУТОМОБИЛА: Погледајте како изгледају нови модели
Препоручујемо
ТЕСЛА РОБОТ МЕСИО ТЕСТО И КУВАО ВЕЧЕРУ: Ево шта све Оптимус сада уме да ради
21. 05. 2025. у 23:33
МАСК ПОРУЧИО: Тесла планира пробни рад роботаксија у Остину у Тексасу до краја јуна
21. 05. 2025. у 00:30
РУСИ ДОНЕЛИ ОДЛУКУ: Нафтна компанија продаје своју имовину у иностранству због санкција САД-а
РУСКА нафтна компанија Лукоил саопштила је данас да, због увођења рестриктивних мера неких држава против те фирме и њених подружница, намерава да прода своју имовину у иностранству.
27. 10. 2025. у 21:49
КАКО СЕ УРУШИО УКРАЈИНСКИ ФРОНТ? Стигло упозорење: Руси ће на пролеће кренути у нову офанзиву
ПОСЛЕ два и по месеца жестоких борби, црвена ознака на војној карти у Доњецкој области, позната као „зечије уши“, коначно је нестала.
27. 10. 2025. у 21:17
"ЦЕЦИН СИНЕ, ЋУТИ И УДАРАЈ, ЗА БОЉЕ И НИСИ!" Водитељка одбрусила Вељку - "Озбиљан комплекс!"
НАКОН што је боксер Вељко Ражнатовић покушао да исмеје перформанс водитељке Јоване Јеремић, који је уприличила током прославе њеног рођендана, она му је брзо јавно узвратила, у свом стилу.
26. 10. 2025. у 10:48
Коментари (0)