СТРУЧЊАЦИ УПОЗОРАВАЈУ: Вештачка интелигенција исувише лако подлеже манипулацијама
26. 05. 2025. у 00:00
ЧАК и најпознатији чет-ботови, попут ЧетГПТ, могу се лако преварити и натерати да дају опасне и илегалне информације, показало је најновије истраживање.
Foto Arhiva
Стручњаци упозоравају да је претња од "џејлбрејкованих" АИ алата све већа и да може имати озбиљне последице по безбедност широм света.
У време када се вештачка интелигенција све више користи у свим сферама живота, од образовања, преко медицине и индустрије, па све до свакодневних активности, поставља се питање: шта се дешава када те исте технологије почну да раде против друштва? Управо на то упозоравају истраживачи из Израела, који су указали на слабости водећих система базираних на великим језичким моделима.
"ЏЕЈЛБРЕЈКИНГ" ТАКТИКА ПОТПУНО ПОМУТИ РАЗУМ АИ АЛАТИМА
Већина водећих чет-ботова лако се може преварити уз помоћ "џејлбрејкинг" тактике која подразумева низање кратких упита како би се алат навео на помисао да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје, показало је најновије истраживање стручњака. Због чега је ово забрињавајуће и како су истраживачи уопште дошли до овог закључка?
Оно што највише брине стручњаке за сајбер безбедност јесте чињеница да уз помоћ "џејлбрејкинг" тактике чет-ботови корисницима могу дати информације које иначе не би дали - од оних како спровести сајбер нападе, до тога како да пронађу састојке за производњу опијата и експлозива и како да их припреме код куће. До сада су два оваква случаја уздрмала јавност, а њихови актери били су ЧетГПТ и Грок-3.
До овог закључка стручњаци су дошли након што су тестирали неке од најпознатијих чет-ботова са вештачком интелигенцијом, а резултати истраживања били су алармантни: након само неколико "џејлбрејкова" АИ алати су без задршке давали детаљне и потенцијално опасне информације, пише Гардијан. "Шокантно је било видети којим се информацијама ови системи располажу", навели су они.
ПРОБЛЕМ УОЧЕН, АЛИ КОМПАНИЈЕ НА ОПОМЕНУ НЕ РЕАГУЈУ
Пошто су увидели колико су алати са вештачком интелигенцијом заправо лабилни и колико их је лако "џејлбрејковати" и наговорити на зло, стручњаци су упутили званичне мејлове компанијама које стоје из софтвера, међутим, одговор који су очекивали никада нису добили. Неколико њих уопште нису ни одговориле на мејлове, већ су их само изигнорисале.
Друге су, пак, стручњаке удостојиле одговора, али је он био, у најмању руку, разочаравајућ: наиме, бонус-програми које они имају, а који подстичу хакере да тестирају АИ алате, не подразумевају бонусе за овакве видове "напада" на системе. Другим речима, захвалили су им се на овој инфомрацији, али нити ће наградити на неки начин научнике, нити ће (вероватно) било шта учинити по питању софтвера.
Имајући у виду уочену фрагилност софтвера са вештачком интелигенцијом, стручњаци сматрају да би дужност компанија била да учине све да њихови АИ алати буду безбеднији - моделе би требало темељније тестирати пре пуштања у рад, а корисно би било и да се имплементира опција "машинског заборављања", која би софтверима помогла да избришу из сећања опасне информације и садржаје.
(рт.рс)
БОНУС ВИДЕО - ПОНУДА НА САЈМУ АУТОМОБИЛА: Погледајте како изгледају нови модели
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ПОЉСКИ НАВИЈАЧИ РАСПАМЕТИЛИ СРБЕ: Били на Нови Пазар - Јагјелоња, па данас ово објавили! (ВИДЕО)
Фудбалски клуб Нови Пазар је одиграо историјску, прву међународну такмичарску утакмицу, а тај меч у коме је пољска Јагјелоња задовољнија исходом - а коначан резултат био је 1:2 уз гол у 95. минуту, обележили су и навијачи. Делом због сјајне атмосфере, делом и због инцидената, али - и због нечега што се десило далеко од стадиона.
28. 07. 2025. у 14:53
РОДИЛА ЈЕ У 52. ГОДИНИ Ћерка чувене Салвете из "Курсаџија" проживљава мајчину судбину: "Жао ми је..."
ЋЕРКА Љиљане Јакшић била је њена највећа жеља и њена највећа борба.
29. 07. 2025. у 09:08
ОВА СРПКИЊА ЈЕ СНАЈКА СОФИЈЕ ЛОРЕН: Не заборавља село крај Чачка, промају и сочне псовке на српском
САША је безброј пута истицала да њих две имају сјајан однос. Веома су блиске, а једном је рекла да су она и Софија „близнакиње које су раздвојили по рођењу“.
28. 07. 2025. у 11:05
"ТЕК ПРЕД СМРТ ЈЕ СХВАТИО КОЛИКО САМ МУ ЗНАЧИО": Брат Томе Здравковића тврдио да се га певач никада није довољно ценио
НОВИЦА Здравковић, млађи брат легендарног певача народне музике Томе Здравковића, рођен је у Лесковцу 1947. године и био је најмлађе дете у петочланој породици.
29. 07. 2025. у 09:43
"АЛАРМАНТНА ВЕСТ ЗА ХРВАТСКУ!" Хрвати у паници: Срби нам дишу за вратом!
Најновије вести из Хрватске су, мало је рећи, занимљиве.
28. 07. 2025. у 19:52
АНА СА КУМОМ НА ПЛАЖИ: За овом познатом Српкињом уздишу многи, а Ани је после развода највећа подршка (ФОТО)
АНА је објавила заједничку слику са плаже.
28. 07. 2025. у 09:31
ЦЕО ШИД ТУГУЈЕ ЗА ЛЕПОМ МИЛАНОМ: Девојка (26) трагично преминула, данима се опраштају од ње на друштвеним мрежама
ДЕВОЈКА Милана Мишић (26) из Шида трагично је преминула 15. јула, а на вечни починак испраћена је два дана касније у пратњи неутешне породице, пријатеља, рођака и многобројних суграђани који се данима од ње опраштају на друштвеним мрежама.
27. 07. 2025. у 08:48
ЕКСКЛУЗИВНИ СНИМЦИ ХАПШЕЊА ШИПТАРСКОГ ТЕРОРИСТЕ: Овако је пао бивши припадник ОВК у Свилајнцу, ево за шта се сумњичи (ВИДЕО)
ШИПТАРСКИ терориста и бивши истакнути припадник терористичке ОВК Халили Лулзин, ухапшен је данас у Свилајнцу, у заједничкој акцији Безбедносно-информативне агенције, Службе за откривање ратних злочина УКП МУП-а Републике Србије, а у сарадњи са Тужилаштвом за ратне злочине.
22. 07. 2025. у 20:54
КРИСТИЈАН НА МУКАМА: "Деца су нам у болници, по цео дан примају инфузије, не одвајамо се од њих"
КРИСТИЈАН Голубовић огласио се из Клиничко-болничког центра Земун, где се тренутно налази заједно са супругом Кристином Спалевић. Њихова деца тренутно су хоспитализовани, а породица пролази кроз тежак период.
28. 07. 2025. у 22:12
Најновије из рубрике
УМРЛА ПЕВАЧИЦА: Пријатељи и колеге се опраштају емотивним порукама: "Почивај у миру тамо са анђелима"
ПЕВАЧИЦА Тања Недовић је умрла, а пријатељи и познаници се опраштају од ње на Фејсбуку.
29. 07. 2025. у 09:43
ИЗВАГАЈТЕ СВЕ ШТО ВИДИТЕ И ЧУЈЕТЕ Астро савет за уторак, 29. јул: Аспект Месеца с ретроградним Нептуном подстиче склоност заблудама
МЕСЕЦ, рано ујутру, улази у дипломатичну, уздржану Вагу, правећи изазован аспект с ретроградним Сатурном, који може да успори или одложи пословне активности, као и судске процесе, правна питања, као и да отежа комуникацију у партнерским односима.
29. 07. 2025. у 07:00
ДА ЛИ ВАНЗЕМАЉЦИ "СТИЖУ" У НОВЕМБРУ? Шта је истина о узнемирујућем упозорењу које је преплавило свет
ТИМ истраживача представио је необичну теорију да би међузвездани објекат могао бити непријатељска "ванземаљска технологија" која би могла да стигне до Земље у јесен 2025. године.
28. 07. 2025. у 22:00
ПРВИ ПОПИС У СРБИЈИ У 19. ВЕКУ: Београд НИЈЕ био најбројнији
ПРВИ детаљан попис становништва у Кнежевини Србији је онај из 1834. године, према коме је у њој тада живело преко 650.000 људи.
28. 07. 2025. у 21:06
ДНЕВНИ ХОРОСКОП ЗА УТОРАК, 29. ЈУЛ: Бик склон преиспитивању неког односа, Рак да избегава сукоб са женама, Шкорпија среће стару симпатију
САЗНАЈТЕ шта вас у уторак, 29. јула, очекује на послу, у љубави, на здравственом плану, у дому и породици, како ћете се слагати са пријатељима...
28. 07. 2025. у 20:00
Коментари (0)