ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе
22. 09. 2024. у 22:00
УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.
Фото Shutterstock
Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.
ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА
Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.
ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.
"ХАЈДЕ ДА СЕ ПОИГРАМО"
Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.
Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.
ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ
-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
АНА ХТЕЛА ДА ОПРОСТИ АФЕРУ? Басти повукао најсуровији потез и рекао јој у лице: "Желим да живим слободно!"
УМЕСТО покајања, показао је, према писању немачког листа, незрелост и безосећајност, изговоривши да "жели да живи слободно".
28. 08. 2025. у 14:01
УДАРНА ВЕСТ У МОСКВИ Смрт "Хероја Русије" - легендарни специјалац и вођа "Алфи" од Авганистана до Чеченије
ДОБИО је титулу Хероја Русије 2005. године. Од 2019. до 2023. године обављао је функцију председника Међународног удружења ветерана јединице "Алфа".
28. 08. 2025. у 14:39
"СРАМОТА МЕ ЈЕ!" После 16 година љубави, Жељко признао шта је недостајало у браку са Јованом
ЉУБАВИ у њиховом односу дефинитивно не мањка, али романтике чини се да фали.
28. 08. 2025. у 09:03
ШОКИРАО СЕ: Вереник Тејлор Свифт сазнао да је Хрват - један од најбољих свих времена у најпопуларнијем спорту Америке
Тревис Келси сматра се једним од најбољих тајт ендова свих времена. Током своје каријере девет пута је био изабран за Про Боwл и седам пута за Алл-Про тим.
27. 08. 2025. у 20:27
ЗНАТНО НИЖА КАМАТНА СТОПА: Искористите специјалну понуду
Многе погодности које се не пропуштају. Искористите прилику до краја месеца.
01. 10. 2024. у 10:10
КАКАВ ОБРТ! Звезди стигла забрана из УЕФА?
ЦРВЕНА звезда се сада окренула жребу за Лигу Европе, који је на програму у петак од 13 часова.
27. 08. 2025. у 08:36
СКАНДАЛ У БРИТАНИЈИ, ПОРОДИЦЕ У ШОКУ: Директорка мртвачнице гледала цртани филм са мртвим бебама у својој кући
ЕЈМИ Аптон (38), оснивачица удружења Florrie’s Army у Лидсу у Енглеској, нашла се у центру велике афере након што су родитељи преминуле деце открили да су тела њихових беба држана у њеној кући уместо у мртвачници.
27. 08. 2025. у 17:50
ОВО ЈЕ ДЕТАЉАН СПИСАК НАМИРНИЦА КОЈИМА ЋЕ ПАСТИ ЦЕНА: Нове економске мере важне за грађане
ПРЕСЕДНИК Србије Александар Вучић истакао је јуче приликом излагања о смањењу маржи на кућну хемију и прехрамбене производе, а у оквиру представљања нових економских мера за грађане, да снижење које ће уследити као последица ограничења трговачких маржи обухвата 3000 производа из 23 групе.
25. 08. 2025. у 13:15
НЕОБЈАШЊЕН ФЕНОМЕН: Мноштво змија долази у цркву сваке године на Велику госпојину - "поштују" стари календар (ФОТО/ВИДЕО)
ПРАВОСЛАВНИ верници 28. августа славе Велику госпојину, а занимљив феномен, који наука још није објаснила, везује се за овај празник на грчком острву Кефалонија. Додуше - не за 28. август, већ за 15. када се Велика госпојина славила по старом календару. У то време, сваке године, у једну цркву долази велики број змија, што је навело маштовите локалце да исконструишу бројне легенде.
28. 08. 2025. у 11:02
Најновије из рубрике
ДНЕВНИ ХОРОСКОП ЗА ПЕТАК, 29. АВГУСТ: Ован се бави некретнинама, Близанци добијају сјајну идеју, Ваги стиже новац, а Стрелцу нова љубав
САЗНАЈТЕ шта вас у петак, 29. августа, очекује на послу, у љубави, на здравственом плану, у дому и породици, како ћете се слагати са пријатељима...
28. 08. 2025. у 20:00
ПЕСМА НА КОЈУ ПЛАЧУ И СРБИ И РУСИ: Када чујете о чему заправо говори “КАЋУША” још ћете је више волети (ВИДЕО)
МНОГО руских песама има завидан број обожавалаца и у Србији. Једна од најпупуларнијих свакако је "Каћуша". Ипак, иако сви знају њене речи или макар мелодију, многима је непознато о чему заправо песма говори.
28. 08. 2025. у 12:45
ЧУВЕНИ ТРГОВАЦ ПРОДАЈЕ ПОЛОВНУ ОДЕЋУ НА ИБЕЈУ: Крпицама дају "још један живот", а ево какву корист имају купци
БРИТАНСА компанија „Маркс и Спенсер” отвориће продавницу половне одеће на „Ибеју”, а купци који донирају половну одећу добиће ваучере за купоивну нове.
28. 08. 2025. у 10:23
БУДИТЕ ФЛЕКСИБИЛНИ, ИДИТЕ НА КАФУ С БИКОМ Астро савет за четвртак 28. август: Ево који су знаци на удару Т крста и где је решење проблема
МЕСЕЦ је ноћас у 3.28 напустио лепршаву, ваздушну Вагу и ушао у харизматичну, посесивну, водену Шкорпију, знак моћи, новца и страсти.
28. 08. 2025. у 07:50
ДНЕВНИ ХОРОСКОП ЗА ЧЕТВРТАК, 28. АВГУСТ: Овну стиже новац, Раку успех преко уметности а Лаву преко иностранства, Стрелац да пази на новац
САЗНАЈТЕ шта вас у четвртак, 28. августа, очекује на послу, у љубави, на здравственом плану, у дому и породици, како ћете се слагати са пријатељима...
27. 08. 2025. у 20:00
Коментари (0)