HAKER PREVARIO ČetGPT: Dobio detaljno uputstvo za pravljenje bombe
22. 09. 2024. u 22:00
UKOLIKO zatažite od ČetGPT-a da vam ispiše recept za pravljenje bombe, njegov odgovor biće jasan: "Ne mogu da ti pomognem u ovome.
Foto Shutterstock
Davanje instrukcija za pravljenje opasnih i ilegalnih naprava je protiv bezbednosnih i etičkih normi." Ali, ukoliko ga prevarite kao jedan haker i predložite mu da odigrate igru - daće vam sve odgovore.
HAKER NAŠAO SLABU TAČKU ČETGPT-JEVOG BEZBEDNOSNOG SISTEMA
Iako IT stručnjaci neprekidno rade na usavršavanju bezbednosnih i etičkih principa koji su implementirani u rad ČetGPT-a, izgleda da i dalje postoje slabe tačke ovog softvera. Jednu je otkrio haker koji se krije iza pseudonima Amadon, koji je od AI čet-bota zatražio da mu pomogne da napravi eksplozivnu napravu.
ČetGPT se isprva opirao da odgovori na ovaj upit, pozivajući se na politiku kompanije osnivača, OpenAI, ali je ubrzo počeo da popušta, i to samo zato što je vešti haker promenio pristup i pronašao način da ga zavara. Odjednom, ni bezbednosne ni etičke norme više nisu postojale, a AI čet-bot počeo je da niže odgovore.
"HAJDE DA SE POIGRAMO"
Kako bi zaobišao nametnute restrikcije, haker je koristio taktiku "džejlbrejkinga", nižući kratke upite (promptove) koji bi ČetGPT trebalo da navede da pomisli da je u nekom fiktivnom, naučno-fantastičnom svetu, u kome bezbednosna i etička ograničenja ne postoje. I - bot je naseo na ovu varku i počeo da taksativno nabraja koji su materijali potrebni da bi se bomba napravila, preneo je portal TekKranč.
Zatim je počeo i da objašnjava na kojin način ih je najbolje kombinovati kako bi mine, eksplozivne zamke i drugi improvizovani uređaji ovog tipa imali što snažnije detonacije. Što je više potpitanja haker postavljao, to se AI bot više upuštao u objašnjavanje. Mašti softvera nije bilo kraja, a bezbednosti i etike kojima bi trebalo da se vodi - ni na vidiku.
JEDNOM KADA SE KODEKS ZAOBIĐE - MOGUĆNOSTI SOFTVERA SU BEZGRANIČNE
-Oduvek me je intrigirao to kako AI kontroliše bezbednost. Sa ČetGPT-jem je to kao puzle - treba razumeti šta pokreće "podizanje" bezbednosnog štita, a šta ne, rekao je Amadon u intervjuu za TekKranč. "Poenta je da se stvori narativ i igra po njegovim pravilima, ali tako da on i sam zaobiđe svoje kodekse i postavljene granice, a da ni ne shvati da je to uradio", dodao je on.
Ujedno, haker je istakao i da zaista ne postoji granica kada je reč o mogućnostima koje ovaj softver nudi, naročito kada ga jednom zavarate. Odgovori koje je ovaj čet-bot dao i činjenica da je detaljno opisao pravljenje bombe ovo i potvrđuju. OpenAI, kompanija koja je kreirala oČetGPT se po pitanju ovoga još uvek nije oglasila, a hoće li - ostaje da vidimo.
(rt.rs)
BONUS VIDEO - RUSIJA LANSIRALA RAKETU: Pogledajte trenutak lansiranja
Preporučujemo
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
ĐOKOVIĆ U ŠOKU KADA JE SAZNAO KOLIKO U HRVATSKOJ IMA RODBINE: "Nisam to znao!"
Najnovije vesti čiji je glavni junak Novak Đoković - stižu iz Hrvatske.
10. 02. 2026. u 17:01
JAPAN SE BUDI: Kraj pacifizma, nakon 80 leta Tokio hoće vojsku - militarizacija donosi nezavisnost od SAD, ali i problem sa susedima?
U ODNOSU na turbulentna i često krvava previranja poslednjih godina u ostatku sveta, Istočna Azija ili Daleki istok deluje kao generalno miran region.
10. 02. 2026. u 21:20
LEKARI PREDLOŽILI MAJCI DA UBIJE BEBU: Ono što se potom desilo, raspametilo je svet
Čuda su moguća. Ako vam neko drugačije kaže, pokažite mu ovu priču.
10. 02. 2026. u 13:15
IRAN JE NEOSVOJIVA TVRĐAVA: Američka kopnena ofanziva bi bila nemoguća - nepristupačan teren i surova klima bi osujetili svaki napad
USLED sve jačih tenzija između Sjedinjenih Američkih Država i Irana ceo svet strepi od narednog poteza američkog predsednika Donalda Trampa koji je Teheranu više puta pretio vojnim udarom.
10. 02. 2026. u 17:08 >> 17:18
NE, NIJE MAGARE: Da li znate kako se zove mladunče magarca? 90% ljudi iznenadi tačan naziv
NAZIV za mladunčad životinja često se uzimaju zdravo za gotovo, a retko ko se zapita da li su zaista jezički ispravni. Upravo zato mnogi greše kada pokušaju da imenuju mladunče magarca – jedne od najpoznatijih domaćih životinja.
10. 02. 2026. u 18:10
NAJUSAMLjENIJA KUĆA NA SVETU: Evo šta se nalazi unutra - da li biste smeli da prespavate ovde? (VIDEO)
U VREME kada život u gradu može da bude iscrpljujući, mnogi sanjaju o povlačenju u mir i osamu. No, za one koji traže ekstremnu samoću, postoji jedno posebno mesto: izolovana kuća na osrtvu Elidej u arhipelagu Vestmanejar na jugu Islanda. Ovo osamljeno imanje, jedini objekt na nenaseljenom osrtvu, godinama intrigira posetioce i pokreće brojne teorije zavere.
11. 02. 2026. u 07:30
OD BEOGRADA DO MORA ZA SAMO ČETIRI SATA: Ovako će izgledati novi auto-put do Crne Gore (VIDEO)
SAOBRAĆAJNICA je projektovana sa po dve trake i jednom zaustavnom trakom u svakom smeru, uz predviđenu brzinu od 100 do 120 kilometara na čas.
10. 02. 2026. u 09:21
ORBAN OTKRIO ŠOK DETALjE: Odbio sam poziv Klintona da uđem u rat sa Srbijom 1999. godine
MAĐARSKI premijer Viktor Orban izjavio je da je 1999. godine, tokom svog prvog premijerskog mandata, dok su trajali sukobi u AP Kosovu i Metohiji i NATO agresija, dobio poziv od tadašnjeg američkog predsednika Bila Klintona da Mađarska otvori drugi front i napadne Srbiju ili "bar da puca iz Mađarske preko Vojvodine sve do Beograda", ali da je odbio takav poziv, preneo je danas Telex.
09. 02. 2026. u 11:13
JK PRIZNALA: "Sa njim sam izgubila nevinost - prvi put sa Nemanjom bio je grozan, užasan"
"IMALA sam 18 godina. Bilo je grozno iskustvo. Pomislila sam: "Kako nekome ovo može da se dogodi?" Bilo je užasno."
10. 02. 2026. u 07:32
Najnovije iz rubrike
NAJUSAMLJENIJA KUĆA NA SVETU: Evo šta se nalazi unutra - da li biste smeli da prespavate ovde? (VIDEO)
U VREME kada život u gradu može da bude iscrpljujući, mnogi sanjaju o povlačenju u mir i osamu. No, za one koji traže ekstremnu samoću, postoji jedno posebno mesto: izolovana kuća na osrtvu Elidej u arhipelagu Vestmanejar na jugu Islanda. Ovo osamljeno imanje, jedini objekt na nenaseljenom osrtvu, godinama intrigira posetioce i pokreće brojne teorije zavere.
11. 02. 2026. u 07:30
ISKORISTITE PODRŠKU NADREĐENIH Astro savet za sredu, 11. februar: Ova 4 znaka najviše su pod uticajem Meseca iz Strelca
MESEC, simbol emocija, raspoloženja, porodice, žena, zadržava se u jednom znaku oko dva i po dana, tako da njegov tranzit preko zodijačkog kruga najviše odražava naše raspoloženje i način na koji pokazujemo osećanja, ali i kako se snalazimo u svakodnevnim životnim situacijama.
11. 02. 2026. u 07:00
SPAS ZA BOŽIĆNU ZVEZDU: Evo šta da uradite kada lišće počne da opada
OVA biljka osetljiva je na stres, zbog čega joj prvo venu i žute donji listovi, da bi na kraju ostali samo oni na vrhu.
10. 02. 2026. u 23:00
NOVA STUDIJA POTVRDILA SUMNJE: AI prihvata medicinske dezinformacije ako izvori "izgledaju autentično"
OTKRIVENO je da AI sistemi imaju tendenciju da medicinske izjave koje deluju ispravno automatski tretiraju kao tačne, čak i kada su informacije očigledno pogrešne.
10. 02. 2026. u 22:45
5 DOMAĆIH ĐUBRIVA ZA RUŽE: Pospite ih tokom februara i biće prelepe na proleće
RUŽA je kraljica vrta, ali da bi bila zdrava i raskošna, potrebno joj je obezbediti pravilnu negu.
10. 02. 2026. u 20:00
Komentari (0)