ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе
22. 09. 2024. у 22:00
УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.
Фото Shutterstock
Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.
ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА
Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.
ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.
"ХАЈДЕ ДА СЕ ПОИГРАМО"
Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.
Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.
ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ
-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
БРАТ ЈЕ ПРОНАШАО У БЕСВЕСНОМ СТАЊУ: Шта је претходило смрти Неде Арнерић
ДА подсетимо, Неда је била психички лабилна, а више пута се причало како је и сама дигла руку на себе
19. 12. 2024. у 09:45
ТРАМПОВА НОВА ФРИЗУРА: Мреже се усијале од коментара - расправе због зализане косе (ВИДЕО)
АМЕРИЧКИ председник Доналд Трамп због једног снимка постао је тема бројних расправа. На X-у (бившри Твитер) се, наиме, појавио снимак која га приказује са новом фризуром.
19. 12. 2024. у 08:37
У овом делу Србије Светог Николу СЛАВЕ МРСНО - који је разлог
ИЗ овог разлога су и сами свештеници СПЦ почели да прихватају мрсну трпезу на Светог Николу...
19. 12. 2024. у 07:44
"НИСМО ПАЗИЛИ": Чувени југословенски глумац у 92. добио дете са 56 година млађом
ХРВАТСКИ и југословенски позоришни и филмски глумац и режисер Звонимир Рогоз доживео је дубоку старост. Последњу улогу одиграо је као стогодишњак у серији "Глембајеви" далеке 1988. године, у којој је и преминуо.
18. 12. 2024. у 15:01
БРЕД ПИТ ДАНАС ПУНИ 61. ГОДИНУ: Каријеру почео у Југославији, излазио у СКЦ и навијао за Звезду
"БРЕД се одушевио када је видео 100.000 људи на стадиону и из свег гласа је навијао за Звезду!"
18. 12. 2024. у 17:30
Седам јеврејских правила како да увек имате новца
ЈЕВРЕЈИ су познати као народ који зна с парама. На Форбсовој листи најмоћнијих људи, половину чине управо Јевреји.
18. 12. 2024. у 19:57
ЈЕЗИВА ПРЕТЊА МЕДВЕДЕВА: Уредници британског листа "Тајмс" су легитимна војна мета
БИВШИ руски председник Дмитриј Медведев данас је означио уреднике британског листа "Тајмс" као "легитимну војну мету", реагујући на њихово писање о убиству руског генерала Игора Кирилова, пренели су британски медији.
19. 12. 2024. у 09:50
УТИЦАЈ ОРЕШНИКА НА ЛОНДОН: Руски амбасадор – Натерани су да заузму уравнотеженији став
ЛАНСИРАЊЕ руске балистичке ракете средњег домета „орешник“ на територију Украјине натерало је Лондон да заузме уравнотеженији став по питању извођења напада оружјем дугог домета у дубину руске територије, изјавио је амбасадор Русије у Великој Британији Андреј Келин.
18. 12. 2024. у 17:25
ТРАМПОВА НОВА ФРИЗУРА: Мреже се усијале од коментара - расправе због зализане косе (ВИДЕО)
АМЕРИЧКИ председник Доналд Трамп због једног снимка постао је тема бројних расправа. На X-у (бившри Твитер) се, наиме, појавио снимак која га приказује са новом фризуром.
19. 12. 2024. у 08:37
Најновије из рубрике
ПРОМЕНЕ ПЛАНОВА, НЕРВОЗА, РАСПРАВЕ СА ЖЕНАМА Астро савет за 19. децембар: Аспекти планета упозоравају - Чувајте се повреда
МЕСЕЦ у ватреном знаку Лава образује данас тригон са Меркуром у ватреном знаку Стрелца.
19. 12. 2024. у 07:00
ОД БОРЦА ДО ВЕЛИКОГ ВАЈАРА: Пола века од смрти Риста Стијовића
ПРЕ пола века преминуо је Ристо Стијовић, један од најзначајнијих српских вајара 20. века. Познат по приказима деликатно моделованих женских фигура и анималистичких мотива, академик и вајар оставио је озбиљан траг на нашој уметничкој сцени.
19. 12. 2024. у 06:00
АСТРОНОМИ ОТКРИЛИ: Нешто узнемирујуће око звезда сличних Сунцу и што се догађа једном у сто година
ИСТРАЖИВАЊА показују да звезде налик Сунцу испуштају огромне супербакље отприлике једном у 100 година, а те соларне бакље упоређују се по ослобођеној енергији са експлозијом билион хидрогенских бомби.
19. 12. 2024. у 00:00
ЛОВЦА УСМРТИО МЕДВЕД: Животиња пала са дрвета
ЈЕДНОГ ловца у Вирџинији усмртио је медвед који је пао с дрвета погођен метком другог ловца, пренели су данас амерички медији.
18. 12. 2024. у 23:00
КИНЕСКИ АСТРОНАУТИ ОБОРИЛИ СВЕТСКИ РЕКОРД: Претекли америчке космонауте у свемирској шетњи (ВИДЕО)
ДВОЈИЦА кинеских астронаута оборила су светски рекорд у свемирској шетњи која је трајала дуже од девет сати.
18. 12. 2024. у 22:01
Коментари (0)