ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе
22. 09. 2024. у 22:00
УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.
Фото Shutterstock
Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.
ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА
Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.
ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.
"ХАЈДЕ ДА СЕ ПОИГРАМО"
Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.
Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.
ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ
-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
Деа се ХИТНО огласила након Младеновог саопштења о РАСКИДУ
"РАСТАЛИ смо се у пријатељским односима, уз пуно поштовања."
15. 11. 2024. у 15:49
ШЕФ МУП-А У ВРЕМЕ ЂИНЂИЋА: Где је данас Душан Михајловић? (ФОТО)
НА ДУЖНОСТИ потпредседника владе био је до 3. марта 2004. године.
15. 11. 2024. у 19:21
Овим хороскопским знацима 2025. биће најбоља година у животу
ДА ли сте међу њима?
15. 11. 2024. у 14:07
КРАХ: Раскинули Деа Ђурђевић и Младен - Мијатовић објавио саопштење
МЛАДЕН је на свом Инстграму објавио да су ставили тачку на њихов емотивни однос.
15. 11. 2024. у 15:26
УКУЋАНИМА ЈЕ ЈЕДНО СТРОГО БРАНИО: Унука Снежана о сећању на патријарха Павла - и данас памти његове речи
ПАТРИЈАРХ Павле, који се упокојио 15. новембра, пре 15 година, и после смрти ужива огромну љубав и поштовање у народу. Сећање на овог, по многима светог човека, његова унука преточила је у књигу "Мој деда патријарх Павле".
16. 11. 2024. у 07:51
ЧУЈТЕ КАКО ТРАМПОВ СИН ПРИЧА: Прави Балканац, изразит НАГЛАСАК - откривено да он стоји иза бројних акција (ВИДЕО)
КОРИСНИЦИ друштвених мрежа постали су опседнути ретким снимком Барона Трампа, сином Доналда Трампа, како говори када је имао само четири године.
15. 11. 2024. у 13:25 >> 13:37
КАКО ЈЕ РУСКА РАКЕТА "ПРЕВАРИЛА" НАТО У УКРАЈИНИ? Мистериозно нестајала са радара, генерал Попов открио о чему је реч
РУСКА ракета која је мистериозно нестајала са НАТО радара током овонедељног напада на Кијев је „модернизованa ракетa Х-101“, открива за Спутњик заслужни војни пилот, генерал-мајор руске армије Владимир Попов. Према његовим речима, ракета jе преварила НАТО јер може привремено да нестане са радара.
15. 11. 2024. у 23:36
"ТО БИ ДОВЕЛО ДО ПОЧЕТКА ТРЕЋЕГ СВЕТСКОГ РАТА" Фицо дао реч: До краја ћу се борити да Украјина не буде члан НАТО-а
СЛОВАЧКИ премијер Роберт Фицо ће се до краја одупирати уласку Украјине у НАТО, рекао је у интервјуу за кинески CGTN.
15. 11. 2024. у 19:38
ЧИТУЉА КОСТИЋУ ОД ДЕЦЕ: "Живиш кроз нас - настављамо с поносом"
МИОДРАГ Костић, оснивач и председник МК Групе, преминуо је у среду ујутру.
14. 11. 2024. у 12:46
Најновије из рубрике
АСТРО САВЕТ ЗА СУБОТУ 16. НОВЕМБАР: Опозиција Месеца у Близанцима и ретроградног Меркура у Стрелцу упозорава - Чувајте вредне ситнице
МЕСЕЦ данас у 9.10 улази у трећи зодијачки знак, Близанце, правећи опозицију са ретроградним Меркуром у Стрелцу, која подстиче нестрпљивост, конфузију, расејаност.
16. 11. 2024. у 07:00
ПРИМЕР ХРАБРОСТИ И ВОЈНИЧКЕ ВЕШТИНЕ: Пре 110 година почела Колубарска битка
На данашњи дан, 16. новембра 1914. године, почела је Колубарска битка - једна од најзначајнијих и највећих битака које је српска војска водила у Првом светском рату.
16. 11. 2024. у 06:15
СПОРА ВЕЗА, ОГЛАСИ, ПОРУКЕ: Седам знакова да неко користи ваш Вај-Фај без дозволе
AКО ваш кућни Вај-Фај добро функционише и немате проблема са везом, то је сјајно - али да ли сте сигурни да и неко други такође не ужива у њему?
15. 11. 2024. у 22:43
БИСТА КУПЉЕНА ЗА 6 ДОЛАРА САДА ВРЕДИ МИЛИОНЕ: Власници је користили за придржавање врата у шупи!
БИСТА купљена за само 5 фунти (6 долара), која је коришћена као потпора за врата могла би достићи цену од 2,5 милиона фунти (3,2 милиона долара) након што је суд у Шкотској одобрио њену продају.
15. 11. 2024. у 20:41
ДНЕВНИ ХОРОСКОП ЗА СУБОТУ 16. НОВЕМБАР: Близанци да не доносе никакве одлуке, Девицу очекује сусрет са старом љубави, Јарца мучи несаница
САЗНАЈТЕ шта вам доноси улазак Месеца у знак Близанаца, шта вас у суботу 16. новембра очекује на послу, у љубави, на здравственом плану, у дому и породици, односу са пријатељима...
15. 11. 2024. у 20:30
Коментари (0)