СТРУЧЊАЦИ УПОЗОРАВАЈУ: Вештачка интелигенција исувише лако подлеже манипулацијама

Предраг Стојковић
Предраг Стојковић

26. 05. 2025. у 00:00

ЧАК и најпознатији чет-ботови, попут ЧетГПТ, могу се лако преварити и натерати да дају опасне и илегалне информације, показало је најновије истраживање.

СТРУЧЊАЦИ УПОЗОРАВАЈУ: Вештачка интелигенција исувише лако подлеже манипулацијама

Foto Arhiva

Стручњаци упозоравају да је претња од "џејлбрејкованих" АИ алата све већа и да може имати озбиљне последице по безбедност широм света.

У време када се вештачка интелигенција све више користи у свим сферама живота, од образовања, преко медицине и индустрије, па све до свакодневних активности, поставља се питање: шта се дешава када те исте технологије почну да раде против друштва? Управо на то упозоравају истраживачи из Израела, који су указали на слабости водећих система базираних на великим језичким моделима.

"ЏЕЈЛБРЕЈКИНГ" ТАКТИКА ПОТПУНО ПОМУТИ РАЗУМ АИ АЛАТИМА

Већина водећих чет-ботова лако се може преварити уз помоћ "џејлбрејкинг" тактике која подразумева низање кратких упита како би се алат навео на помисао да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје, показало је најновије истраживање стручњака. Због чега је ово забрињавајуће и како су истраживачи уопште дошли до овог закључка?

Оно што највише брине стручњаке за сајбер безбедност јесте чињеница да уз помоћ "џејлбрејкинг" тактике чет-ботови корисницима могу дати информације које иначе не би дали - од оних како спровести сајбер нападе, до тога како да пронађу састојке за производњу опијата и експлозива и како да их припреме код куће. До сада су два оваква случаја уздрмала јавност, а њихови актери били су ЧетГПТ и Грок-3.

До овог закључка стручњаци су дошли након што су тестирали неке од најпознатијих чет-ботова са вештачком интелигенцијом, а резултати истраживања били су алармантни: након само неколико "џејлбрејкова" АИ алати су без задршке давали детаљне и потенцијално опасне информације, пише Гардијан. "Шокантно је било видети којим се информацијама ови системи располажу", навели су они.

 

ПРОБЛЕМ УОЧЕН, АЛИ КОМПАНИЈЕ НА ОПОМЕНУ НЕ РЕАГУЈУ

Пошто су увидели колико су алати са вештачком интелигенцијом заправо лабилни и колико их је лако "џејлбрејковати" и наговорити на зло, стручњаци су упутили званичне мејлове компанијама које стоје из софтвера, међутим, одговор који су очекивали никада нису добили. Неколико њих уопште нису ни одговориле на мејлове, већ су их само изигнорисале.

Друге су, пак, стручњаке удостојиле одговора, али је он био, у најмању руку, разочаравајућ: наиме, бонус-програми које они имају, а који подстичу хакере да тестирају АИ алате, не подразумевају бонусе за овакве видове "напада" на системе. Другим речима, захвалили су им се на овој инфомрацији, али нити ће наградити на неки начин научнике, нити ће (вероватно) било шта учинити по питању софтвера.

Имајући у виду уочену фрагилност софтвера са вештачком интелигенцијом, стручњаци сматрају да би дужност компанија била да учине све да њихови АИ алати буду безбеднији - моделе би требало темељније тестирати пре пуштања у рад, а корисно би било и да се имплементира опција "машинског заборављања", која би софтверима помогла да избришу из сећања опасне информације и садржаје.

(рт.рс)

БОНУС ВИДЕО - ПОНУДА НА САЈМУ АУТОМОБИЛА: Погледајте како изгледају нови модели

Пратите нас и путем иОС и андроид апликације

Pratite vesti prema vašim interesovanjima

Novosti Google News
ПОДСЕЋАМО ПОЛИЦИЈУ, ОСТАЛО ЈЕ ЈОШ 48 САТИ Шешељ ће са српским четницима организовати уклањање барикада у Земуну

"ПОДСЕЋАМО ПОЛИЦИЈУ, ОСТАЛО ЈЕ ЈОШ 48 САТИ" Шешељ ће са српским четницима организовати уклањање барикада у Земуну

СРПСКА радикална странка (СРС) подсећа надлежне да је остало још 48 сати до испуњења рока који су дали полицији да ослободи центар Земуна од блокадера који блокадама обележавају границе Независне државе Хрватске.

07. 07. 2025. у 16:38

СКАНДАЛ! ПЛЕНКОВИЋ О УСТАШКОМ КОНЦЕРТУ ТОМПСОНА: Поносни смо, једино он може да окупи пола милиона

СКАНДАЛ! ПЛЕНКОВИЋ О УСТАШКОМ КОНЦЕРТУ ТОМПСОНА: "Поносни смо, једино он може да окупи пола милиона"

ПРЕМИЈЕР Хрватске Андреј Пленковић одржао је конференцију за медије након седнице Председништва Хрватске демократске заједнице (ХДЗ). Главна тема била је концерт Марка Перковића Томпсона на Хиподрому и усташка иконографија која се тамо могла видети, али и чути.

07. 07. 2025. у 18:33

ПРОНАЦИСТИЧКА ПРОШЛОСТ, УСТАШКИ СИМБОЛИ Французи о Хрватској после Томпсона: Усташе убиле стотине хиљада Срба, Рома, Хрвата

"ПРОНАЦИСТИЧКА ПРОШЛОСТ, УСТАШКИ СИМБОЛИ" Французи о Хрватској после Томпсона: "Усташе убиле стотине хиљада Срба, Рома, Хрвата"

ФРАНЦУСКЕ новине "Le Monde" оштро су критиковале Хрватску после концерта Марка Перковића Томпсона, упозоривши да Хрватска показује све већу толеранцију према пронацистичкој прошлости из времена НДХ.

08. 07. 2025. у 17:43

Коментари (0)

КАКО ДОНАЛД ТРАМП ЗОВЕ МЕЛАНИЈУ КАДА НИКО НЕ ГЛЕДА: Надимак открива да су далеко од развода!