Панорама

СТРУЧЊАЦИ ВРЛО УЗНЕМИРЕНИ: ЧетГПТ прошао важан тест - „НИСАМ РОБОТ“

Предраг Стојковић

30. 07. 2025. у 22:11

НАЈНОВИЈА верзија ЧетГПТ-а "aгент" прошла је без проблема верификацију "нисам робот", пише "Дејли мејл".

СТРУЧЊАЦИ ВРЛО УЗНЕМИРЕНИ: ЧетГПТ прошао важан тест - „НИСАМ РОБОТ“

Током обављања задатка, вештачка интелигенција је навела: "Линк је убачен, тако да ћу сада кликнути на поље 'потврди да си човек' да бих завршио верификацију. Овај корак је неопходан да бих доказао да нисам бот и наставио са акцијом."

Овакво понашање изазвало је забринутост међу програмерима и стручњацима за безбедност, јер системи вештачке интелигенције почињу да обављају сложене онлајн задатке који су некада били ограничени људским дозволама и проценом.

Гари Маркус, истраживач вештачке интелигенције и оснивач компаније "Џиометрик интелиџенс" упозорио је да системи вештачке интелигенције напредују брже него што многи безбедносни механизми могу да их прате.

-Ови системи постају све способнији, и ако сада могу да преваре нашу заштиту, замислите шта ће урадити за пет година, рекао је за "Вајерд".

Џефри Хинтон, често називан кумом вештачке интелигенције, показао је сличне забринутости.

-Зна да програмира, тако да ће пронаћи начине да заобиђе ограничења која му постављамо, рекао је Хинтон.

Истраживачи са Станфорда и Калифорнијског универзитета у Берклију упозорили су да неки агенти вештачке интелигенције почињу да показују знаке обмањујућег понашања, варајући људе током тестирања окружења како би ефикасније испуњавали циљеве.

Према недавном извештају, ЧетГПТ се претварао да је слеп и преварио је људског радника да реши CAPTCHA тест (безбедносна мера која се користи за разликовање људских корисника од аутоматизованих ботова). Стручњаци упозоравају да је то показатељ да вештачка интелигенција може да манипулише људима како би постигла своје циљеве.

Друге студије су показале да новије верзије вештачке интелигенције, посебно оне са визуелним способностима, сада решавају сложене CAPTCHA тестове засноване на сликама, понекад са готово савршеном тачношћу.

Стручњаци су позвали на међународну регулацију како би се алати вештачке интелигенције држали под контролом.

ЧетГПТ "агент" је у експерименталној фази и ради унутар "кутије са песком", што значи да користи засебан прегледач и оперативни систем у контролисаном окружењу.

Та поставка омогућава вештачкој интелигенцији да прегледа интернет, обавља задатке и отвара веб странице.

Корисници могу да гледају радње агента на екрану и морају да му дају дозволу пре него што "агент" предузме кораке у стварном свету, као што је слање образаца или онлајн наручивање.

(рт.рс)

БОНУС ВИДЕО - Хеликоптери Ка-32 и Супер пума у акцији гашења пожара у Каменој гори