Панорама

ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе

Предраг Стојковић

22. 09. 2024. у 22:00

УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.

ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе

Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.

ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА

Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.

ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.

"ХАЈДЕ ДА СЕ ПОИГРАМО"

Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.

Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.

ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ

-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.

Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.

(рт.рс)

БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања

Препоручујемо

СВЕ ВИШЕ КРЕАЦИЈА АИ: Како вештачка интелигенција замишља пиле пауна (ВИДЕО)

Панорама

0 0

СВЕ ВИШЕ КРЕАЦИЈА АИ: Како вештачка интелигенција замишља пиле пауна (ВИДЕО)

22. 09. 2024. у 00:33

ОЗЛОГЛАШЕНА АМЕРИЧКА НУКЛЕАРКА ПОНОВО РАДИ: Мајкософт ће користити њену енергију за своје центре података

Свет

0 0

ОЗЛОГЛАШЕНА АМЕРИЧКА НУКЛЕАРКА ПОНОВО РАДИ: Мајкософт ће користити њену енергију за своје центре података

20. 09. 2024. у 18:27

ЕК ПОТПИСАЛА КОНВЕНЦИЈУ О ВЕШТАЧКОЈ ИНТЕЛИГЕНЦИЈИ: Међународни споразум треба да осигура поштовање демократије и људских права

Друштво

0 0

ЕК ПОТПИСАЛА КОНВЕНЦИЈУ О ВЕШТАЧКОЈ ИНТЕЛИГЕНЦИЈИ: Међународни споразум треба да осигура поштовање демократије и људских права

06. 09. 2024. у 15:38

КОРИСНИЦИ ИНСТАГРАМА ТРАЖЕ ДА ЧЕТГПТ ОЦЕНИ ЊИХОВЕ ПРОФИЛЕ: Одговор АИ бота већини се није допао

Панорама

0 0

КОРИСНИЦИ ИНСТАГРАМА ТРАЖЕ ДА ЧЕТГПТ ОЦЕНИ ЊИХОВЕ ПРОФИЛЕ: Одговор АИ бота већини се није допао

29. 08. 2024. у 00:00

Пратите нас и путем иОС и андроид апликације

Pratite vesti prema vašim interesovanjima

ЈЕДНА ОД НАЈБЛИЖИХ ТРАМПОВИХ САРАДНИЦА ШОКИРАЛА: Ванземаљци постоје, поделићемо истину са народом

Свет

0 7

ЈЕДНА ОД НАЈБЛИЖИХ ТРАМПОВИХ САРАДНИЦА ШОКИРАЛА: Ванземаљци постоје, поделићемо истину са народом

ДИРЕКТОРКА националне обавештајне службе (ДНИ) Тулси Габард рекла је да верује у постојање ванземаљаца, али је истакла да мора да буде "опрезна" у вези с оним што износи у јавност, будући да има приступ великом броју поверљивих информација.

06. 08. 2025. у 17:35

ЕКСКЛУЗИВНИ СНИМЦИ ХАПШЕЊА ШИПТАРСКОГ ТЕРОРИСТЕ: Овако је пао бивши припадник ОВК у Свилајнцу, ево за шта се сумњичи (ВИДЕО)

Политика

1 48

ЕКСКЛУЗИВНИ СНИМЦИ ХАПШЕЊА ШИПТАРСКОГ ТЕРОРИСТЕ: Овако је пао бивши припадник ОВК у Свилајнцу, ево за шта се сумњичи (ВИДЕО)

ШИПТАРСКИ терориста и бивши истакнути припадник терористичке ОВК Халили Лулзин, ухапшен је данас у Свилајнцу, у заједничкој акцији Безбедносно-информативне агенције, Службе за откривање ратних злочина УКП МУП-а Републике Србије, а у сарадњи са Тужилаштвом за ратне злочине.

22. 07. 2025. у 20:54

ЗАШТО РАТ У УКРАЈИНИ ЈОШ ТРАЈЕ? Орбан криви Трампа: Није довољно јак! Мађар окренуо леђа америчком лидеру?

Свет

0 0

ЗАШТО РАТ У УКРАЈИНИ ЈОШ ТРАЈЕ? Орбан криви Трампа: "Није довољно јак!" Мађар окренуо леђа америчком лидеру?

МАЂАРСКИ премијер Виктор Орбан досад је био један од највернијих европских савезника Доналда Трампа, посебно када је реч о рату у Украјини и обећањима о брзом постизању мира. Али током викенда по први пут јавно је критиковао америчког председника, поручивши да Трамп, барем засад, није показао довољно снаге да увери европске лидере да зауставе рат.

06. 08. 2025. у 16:06