ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе
22. 09. 2024. у 22:00
УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.
Фото Shutterstock
Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.
ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА
Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.
ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.
"ХАЈДЕ ДА СЕ ПОИГРАМО"
Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.
Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.
ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ
-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ДОСЕЛИЛА СЕ `61: Родно место Олге Одановић далеко од Србије
ОДАНОВИЋЕВА је једна од најбољих наших глумица, а многе детаље из њеног живота људи не знају.
03. 01. 2026. у 14:55
НАВИКА КЕЈТ МИДЛТОН КОЈА ИЗЛУЂУЈЕ ЦЕЛУ ПОРОДИЦУ: Ни уз велике напоре не успева да је промени
ИЗА беспрекорне елеганције и смирености коју показује пред камерама, принцеза од Велса крије сасвим обичну, готово симпатичну ману.
04. 01. 2026. у 15:07
"ЖИВЕО МИ ЈОШ СТО ГОДИНА": Мима Караџић емотиван, порука Брстини након операције
ГЛУМАЦ Мима Караџић огласио се на Инстаграму, те је колеги Бранимиру Брстини честитао предстојећи рођендан, па му је пожелео све најбоље, након што је оперисан услед инфаркта који је доживео.
04. 01. 2026. у 10:55
КРЕНУЛА МАЈЧИНИМ СТОПАМА: Ово је једина ћерка Есме Реџепове (ФОТО)
ЛЕГЕНДАРНА певачица ромске музике Есма Реџепова преминула је 2016. у 73. години, после краће и тешке болести.
03. 01. 2026. у 07:51
НЕВЕРИЦА У ДЕНВЕРУ! Нове информације о повреди Николе Јокића (ВИДЕО)
Денвер је поражен на гостовању Кливленду, међутим то сада мање брине навијаче Нагетса, пошто се у дворани појавио Никола Јокић и бодрио своје саиграче.
03. 01. 2026. у 08:27 >> 08:27
"ПИЛИ БИ ДОК НЕ БИ ПАЛИ С НОГУ": Како је чашица спојила Голумбовског и Краља
НА ДАНАШЊИ дан, 3. јануара 2016. године, свет уметности изгубио је једног од својих највећих драмских уметника – Душана Голумбовског. Током богате каријере, овај чувени српски глумац оставио је неизбрисив траг кроз бројне улоге, које су га златним словима уписале у историју домаће кинематографије.
03. 01. 2026. у 09:47
ХАОС У БРИТАНИЈИ ЗБОГ ВЕНЕЦУЕЛЕ: Британски премијер не зна како да реагује
ПРЕМИЈЕР Велике Британије Кир Стармер одбио је да осуди америчку војну акцију у Венецуели, упркос позивима опозиције.
04. 01. 2026. у 13:38
МАДУРО СЕ НА ЕНГЛЕСКОМ ОБРАТИО АМЕРИЧКИМ АГЕНТИМА: Погледајте шта им је рекао (ВИДЕО)
ПРЕДСЕДНИК Венецуеле Николас Мадуро је хеликоптером стигао на Менхетн, након чега је конвојем пребачен у Притворски центар (МДЦ) у Бруклину, озлоглашени затвор описан као „одвратан“ са „застрашујућим“ условима. Тамо су остали певач Р. Кели, Гислејн Максвел и Сем Банкман-Фрид.
04. 01. 2026. у 08:58
У ВЕНЕЦУЕЛИ 4.000 ХРВАТА : Страх, свуда тишина пуна тензије
У ВЕНЕЦУЕЛИ живи 4.000 особа хрватског порекла које после ноћашњег америчког напада на главни град Каракас, затворене у кућама, чекају даљи развој догађаја, рекла је у суботу Хини представница хрватске заједнице у тој јужноамеричкој земљи.
03. 01. 2026. у 18:47
Најновије из рубрике
ОВАЈ ХОРОСКОПСКИ ЗНАК ЈЕ НАЈБОЉИ ЗА БРАК: Сви астролози сложни
КАДА је реч о стабилности, поверењу и дугорочним односима, један знак се посебно издваја као идеалан супружник.
04. 01. 2026. у 16:21
ЗАШТО СЕ НА БОЖИЋНОЈ ТРПЕЗИ НАЛАЗИ ЧЕСНИЦА? Према предању има моћну симболику и доноси срећу
ОВАЈ обичај је настао због Богородице и мудраца који су дошли да се поклоне Исусу.
04. 01. 2026. у 14:10
ТРАГИЧАН ЖИВОТ МАРИЈЕ КАЛАС: Мајка је подводила војницима, сахранила је сина, лудо је волела човека који ју је понижавао, па изгубила разум
ЖИВОТ Марије Калас од првих корака задавао јој је најтеже ударце, а онда је срела Аристотела Оназиса чија ју је љубав довела до порока и губитка разума.
04. 01. 2026. у 12:15
КАКО ПОВЕЋАТИ ПРОДУКТИВНОСТ? Никола Тесла истиче три важне ствари
ВЕЛИКИ научник није рођен с овим вештинама, већ је радио одређене вежбе као дете како би унапредио рад мозга.
04. 01. 2026. у 11:45
БУДИТЕ РАЗУМНИ, ПРИЛАГОДИТЕ СЕ ОКОЛНОСТИМА Астро савет за недељу, 4. јануар: Ево који су знаци на удару изазовних аспеката Месеца у Лаву
МЕСЕЦ, симбол емоција, расположења, породице, трговине, по подне улази у Лава, знак љубави и креативности, и прави напете аспекте са Меркуром у Јарцу и Плутоном у Водолији.
04. 01. 2026. у 07:24
Коментари (0)