СТРУЧЊАЦИ УПОЗОРАВАЈУ: Вештачка интелигенција исувише лако подлеже манипулацијама
26. 05. 2025. у 00:00
ЧАК и најпознатији чет-ботови, попут ЧетГПТ, могу се лако преварити и натерати да дају опасне и илегалне информације, показало је најновије истраживање.
Foto Arhiva
Стручњаци упозоравају да је претња од "џејлбрејкованих" АИ алата све већа и да може имати озбиљне последице по безбедност широм света.
У време када се вештачка интелигенција све више користи у свим сферама живота, од образовања, преко медицине и индустрије, па све до свакодневних активности, поставља се питање: шта се дешава када те исте технологије почну да раде против друштва? Управо на то упозоравају истраживачи из Израела, који су указали на слабости водећих система базираних на великим језичким моделима.
"ЏЕЈЛБРЕЈКИНГ" ТАКТИКА ПОТПУНО ПОМУТИ РАЗУМ АИ АЛАТИМА
Већина водећих чет-ботова лако се може преварити уз помоћ "џејлбрејкинг" тактике која подразумева низање кратких упита како би се алат навео на помисао да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје, показало је најновије истраживање стручњака. Због чега је ово забрињавајуће и како су истраживачи уопште дошли до овог закључка?
Оно што највише брине стручњаке за сајбер безбедност јесте чињеница да уз помоћ "џејлбрејкинг" тактике чет-ботови корисницима могу дати информације које иначе не би дали - од оних како спровести сајбер нападе, до тога како да пронађу састојке за производњу опијата и експлозива и како да их припреме код куће. До сада су два оваква случаја уздрмала јавност, а њихови актери били су ЧетГПТ и Грок-3.
До овог закључка стручњаци су дошли након што су тестирали неке од најпознатијих чет-ботова са вештачком интелигенцијом, а резултати истраживања били су алармантни: након само неколико "џејлбрејкова" АИ алати су без задршке давали детаљне и потенцијално опасне информације, пише Гардијан. "Шокантно је било видети којим се информацијама ови системи располажу", навели су они.
ПРОБЛЕМ УОЧЕН, АЛИ КОМПАНИЈЕ НА ОПОМЕНУ НЕ РЕАГУЈУ
Пошто су увидели колико су алати са вештачком интелигенцијом заправо лабилни и колико их је лако "џејлбрејковати" и наговорити на зло, стручњаци су упутили званичне мејлове компанијама које стоје из софтвера, међутим, одговор који су очекивали никада нису добили. Неколико њих уопште нису ни одговориле на мејлове, већ су их само изигнорисале.
Друге су, пак, стручњаке удостојиле одговора, али је он био, у најмању руку, разочаравајућ: наиме, бонус-програми које они имају, а који подстичу хакере да тестирају АИ алате, не подразумевају бонусе за овакве видове "напада" на системе. Другим речима, захвалили су им се на овој инфомрацији, али нити ће наградити на неки начин научнике, нити ће (вероватно) било шта учинити по питању софтвера.
Имајући у виду уочену фрагилност софтвера са вештачком интелигенцијом, стручњаци сматрају да би дужност компанија била да учине све да њихови АИ алати буду безбеднији - моделе би требало темељније тестирати пре пуштања у рад, а корисно би било и да се имплементира опција "машинског заборављања", која би софтверима помогла да избришу из сећања опасне информације и садржаје.
(рт.рс)
БОНУС ВИДЕО - ПОНУДА НА САЈМУ АУТОМОБИЛА: Погледајте како изгледају нови модели
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
НАЈНОВИЈЕ НАРЕЂЕЊЕ ВЛАДИМИРА ПУТИНА: Ово нико није очекивао!
РАТ у Украјини, односно "специјална војна операција" како то Русија назива, поново је за једну од споредних ствари изнедрио и спортски потез. Најновије вести на ту тему - стижу директно из Кремља. Владимир Путин, председник Русије, за то је "крив".
16. 06. 2025. у 20:56
Шта заправо значи "БАНАНА ДРЖАВА" и како је израз настао
СИГУРНО сте бар једном чули да људи незадовољни стањем у било којој земљи за њу користе термин "банана држава", чак и ако та земља нема никакве везе с узгојем овог тропског воћа. Ево како је термин заправо настао и шта означава.
17. 06. 2025. у 13:10
ШТА РАЗАРА МЕЂУЉУДСКЕ ОДНОСЕ: Највеће зло према патријарху Павлу - "препрека љубави"
ИАКО већ годинама није међу нама, речи Патријарха Павла остају непресушан извор утехе, снаге и надахнућа за многе Србе. Духовни вођа, познат по својој скромности, мудрости и ненаметљивости, оставио је велики траг. Његове поруке о љубави, стрпљењу и поштовању и данас су релевантније него икад, како за вернике, тако и за оне који то нису, нарочито у времену када су сукоби, нетолеранција и породичне размирице постали свакодневица.
17. 06. 2025. у 08:48
"ПРИМИЛА БИХ МЕТАК ЗА ЦЕЦУ, СКОЧИЛА БИХ ДА ЈЕ БРАНИМ" Карлеуша оголила душу: "Да, бацила бих се да је спасим"
ПЕВАЧИЦА Јелена Карлеуша недавно је била гошћа у емисији Бојана Јовановског, јавности познатијег као Боки 13, где је отворено говорила о свом приватном и пословном животу, а једна од незаобилазних тема било је и њено вишегодишње ривалство са колегиницом Светланом Цецом Ражнатовић.
17. 06. 2025. у 09:22
НАЈВЕЋА МИСТЕРИЈА БАЛКАНА: Нестао, па се после 30 година појавио у ИСТОЈ одећи - сећа се само три ствари (ВИДЕО)
ПРИЧА о Василеу Горгосу, румунском сточару који је мистериозно нестао 1991. године, а затим се изненада вратио својој породици 30 година касније, поново је привукла пажњу медија како у Румунији, тако и остатку Балкана, па и света..
17. 06. 2025. у 09:41
НАКОН КРАХА ВЕЗЕ СА БАСТИЈАНОМ, СРЕЋУ ПРОНАШЛА ПОРЕД МИЛИОНЕРА: Ана није прва коју је фудбалер оставио због друге
ЦЕО свет и даље бруји о наводном разводу Ане Ивановић и Бастијана Швајнштајгера, многи су изненађени јер је овај пар изгледао сасвим складно, а они се и даље не оглашавају о овој теми.
16. 06. 2025. у 11:35
ВЕШТАК ОТКРИО ЈЕЗИВЕ ДЕТАЉЕ О ДЕЧАКУ УБИЦИ: Ево зашто је Коста пуцао на чувара школе, није га потресло сазнање кога је све убио
ЗАКЉУЧИЛИ смо да је Коста био способан да управља својим поступцима у време извршења злочина и да та способност није била битно смањена. Постоји једна краткотрајна ометеност, за период у учионици за који он каже да нема сећања, али он је све радио по плану. То указује да је он управљао својим поступцима.
05. 06. 2025. у 17:05
СРПСКА ПОСЛА: Никола Јокић запањио свет! Вратио се у Србију и урадио ОВО (ВИДЕО)
НИКОЛА Јокић је најбољи кошаркаш планете, али дајте му лопту и биће најбољи у сваком спорту. То је показао још једном.
08. 06. 2025. у 08:54
КАРЛЕУША ПРИЗНАЛА ДА ЈЕ У ВЕЗИ СА КОШАРКАШЕМ: Диван је дечко, проводимо лепе тренутке
СПЕКУЛИСАЛО се месецима да се певачица Јелена Карлеуша већ неко време виђа са 16 година млађим кошаркашем Николом Јовановићем.
17. 06. 2025. у 07:35
Најновије из рубрике
Шта заправо значи "БАНАНА ДРЖАВА" и како је израз настао
СИГУРНО сте бар једном чули да људи незадовољни стањем у било којој земљи за њу користе термин "банана држава", чак и ако та земља нема никакве везе с узгојем овог тропског воћа. Ево како је термин заправо настао и шта означава.
17. 06. 2025. у 13:10
ПИТОН ШЧЕПАО МАЧКУ, ВЛАСНИК ЈЕ СПАСИО ГОЛИМ РУКАМА: Шчепао змију и почео њоме да удара по бетону - снимак за неверицу
НА Тајланду је забележен врло драматичан снимак, који није препоручљив за људе који се плаше змија.
17. 06. 2025. у 12:33
НАЈВЕЋА МИСТЕРИЈА БАЛКАНА: Нестао, па се после 30 година појавио у ИСТОЈ одећи - сећа се само три ствари (ВИДЕО)
ПРИЧА о Василеу Горгосу, румунском сточару који је мистериозно нестао 1991. године, а затим се изненада вратио својој породици 30 година касније, поново је привукла пажњу медија како у Румунији, тако и остатку Балкана, па и света..
17. 06. 2025. у 09:41
ШТА РАЗАРА МЕЂУЉУДСКЕ ОДНОСЕ: Највеће зло према патријарху Павлу - "препрека љубави"
ИАКО већ годинама није међу нама, речи Патријарха Павла остају непресушан извор утехе, снаге и надахнућа за многе Србе. Духовни вођа, познат по својој скромности, мудрости и ненаметљивости, оставио је велики траг. Његове поруке о љубави, стрпљењу и поштовању и данас су релевантније него икад, како за вернике, тако и за оне који то нису, нарочито у времену када су сукоби, нетолеранција и породичне размирице постали свакодневица.
17. 06. 2025. у 08:48
НЕРВОЗА И ТРЗАВИЦЕ У ЉУБАВИ Астро савет за уторак 17. јун: Опозиција Марс-Месец највише погађа четири хороскопска знака
МАРС, планета акције, страсти и повреда, 17. јуна, напушта ватрени, темпераментни знак Лава и улази у педантну, аналитичну, нервозну Девицу, образујући опозицију с Месецом, симболом емоција, расположења, нежнијег пола, који је касно синоћ ушао у хиперсензибилне Рибe.
17. 06. 2025. у 07:00
Коментари (0)