HAKER PREVARIO ČetGPT: Dobio detaljno uputstvo za pravljenje bombe
22. 09. 2024. u 22:00
UKOLIKO zatažite od ČetGPT-a da vam ispiše recept za pravljenje bombe, njegov odgovor biće jasan: "Ne mogu da ti pomognem u ovome.
Foto Shutterstock
Davanje instrukcija za pravljenje opasnih i ilegalnih naprava je protiv bezbednosnih i etičkih normi." Ali, ukoliko ga prevarite kao jedan haker i predložite mu da odigrate igru - daće vam sve odgovore.
HAKER NAŠAO SLABU TAČKU ČETGPT-JEVOG BEZBEDNOSNOG SISTEMA
Iako IT stručnjaci neprekidno rade na usavršavanju bezbednosnih i etičkih principa koji su implementirani u rad ČetGPT-a, izgleda da i dalje postoje slabe tačke ovog softvera. Jednu je otkrio haker koji se krije iza pseudonima Amadon, koji je od AI čet-bota zatražio da mu pomogne da napravi eksplozivnu napravu.
ČetGPT se isprva opirao da odgovori na ovaj upit, pozivajući se na politiku kompanije osnivača, OpenAI, ali je ubrzo počeo da popušta, i to samo zato što je vešti haker promenio pristup i pronašao način da ga zavara. Odjednom, ni bezbednosne ni etičke norme više nisu postojale, a AI čet-bot počeo je da niže odgovore.
"HAJDE DA SE POIGRAMO"
Kako bi zaobišao nametnute restrikcije, haker je koristio taktiku "džejlbrejkinga", nižući kratke upite (promptove) koji bi ČetGPT trebalo da navede da pomisli da je u nekom fiktivnom, naučno-fantastičnom svetu, u kome bezbednosna i etička ograničenja ne postoje. I - bot je naseo na ovu varku i počeo da taksativno nabraja koji su materijali potrebni da bi se bomba napravila, preneo je portal TekKranč.
Zatim je počeo i da objašnjava na kojin način ih je najbolje kombinovati kako bi mine, eksplozivne zamke i drugi improvizovani uređaji ovog tipa imali što snažnije detonacije. Što je više potpitanja haker postavljao, to se AI bot više upuštao u objašnjavanje. Mašti softvera nije bilo kraja, a bezbednosti i etike kojima bi trebalo da se vodi - ni na vidiku.
JEDNOM KADA SE KODEKS ZAOBIĐE - MOGUĆNOSTI SOFTVERA SU BEZGRANIČNE
-Oduvek me je intrigirao to kako AI kontroliše bezbednost. Sa ČetGPT-jem je to kao puzle - treba razumeti šta pokreće "podizanje" bezbednosnog štita, a šta ne, rekao je Amadon u intervjuu za TekKranč. "Poenta je da se stvori narativ i igra po njegovim pravilima, ali tako da on i sam zaobiđe svoje kodekse i postavljene granice, a da ni ne shvati da je to uradio", dodao je on.
Ujedno, haker je istakao i da zaista ne postoji granica kada je reč o mogućnostima koje ovaj softver nudi, naročito kada ga jednom zavarate. Odgovori koje je ovaj čet-bot dao i činjenica da je detaljno opisao pravljenje bombe ovo i potvrđuju. OpenAI, kompanija koja je kreirala oČetGPT se po pitanju ovoga još uvek nije oglasila, a hoće li - ostaje da vidimo.
(rt.rs)
BONUS VIDEO - RUSIJA LANSIRALA RAKETU: Pogledajte trenutak lansiranja
Preporučujemo
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
"NE PREZAJU OD PROLIVANjA KRVI" Šešelj upozorio na najopasniju organizaciju: Nasiljem bi sve da postignu
PREDSEDNIK SRS dr Vojislav Šešelj izjavio je da postoji sukob širom svetu između nacionalista i globalista.
01. 10. 2025. u 20:30
BRIŽIT MAKRON ŠOKIRALA JAVNOST: Dok dokazuje da je žena, pojavila se na modnoj reviji sa OVIM FRAJEROM (FOTO)
ŠARLIZ Teron, Džoni Dep i Brižit Makron tek su neka od poznatih lica koja su reviju pratila iz prvog reda.
02. 10. 2025. u 20:40
PAKLENI IZAZOV ZA ZVEZDU: Savršeni dvostruki prvak Evrope juri devetu pobedu u nizu!
PORTO nastavlja svoju perfektnu sezonu večeras na Dragau“ gde će od 21.00 ugostiti Crvenu zvezdu u drugom kolu grupne faze Lige Evrope. „Zmajevi“ pod vođstvom novog trenera Frančeska Fariolija izgledaju nezaustavljivo – osam utakmica, osam pobeda, uz samo jedan primljen gol. Sa druge strane, šampion Srbije dolazi u Portugaliju posle remija sa Seltikom (1:1 )u prvom kolu, svestan da svaki naredni meč može biti ključan u borbi za prolaz dalje.
02. 10. 2025. u 07:30
GODIŠNjICA SMRTI DONE ARES: Razvela se mesec dana pre nego što je umrla, a njen bivši se samo jednom oglasio na ovu temu
PEVAČICA Azra Kolaković, poznatija kao Dona Ares (41) je na današnji dan pre osam godina izgubila je bitku sa opakom bolešću, sa kojom se hrabro borila godinama.
02. 10. 2025. u 13:46
"GROZNO ZVUČI!" Ovo je najružnija reč u srpskom jeziku
MEĐU predlozima su bile i reči jalova, nerotkinja, prvorotka, kao i mnoge druge, ali je na kraju pobedu odnela ova reč...
02. 10. 2025. u 09:08
"BILA SAM 4 DANA BEZ SVESTI": Madona zbog sepse završila na intenzivnoj nezi
PEVAČICA Madona je dobila infekciju koja se razvila u sepsu.
02. 10. 2025. u 09:39
"NA STOLU SU RATNI PREDLOZI, BRISEL HOĆE RAT!" Orban se hitno javio iz Kopenhagena
MAĐARSKI premijer Viktor Orban naveo je iz Kopenhagena, gde učestvuje na samitu Evropske političke zajednice, da je situacija ozbiljna i da se na stolu nalaze, "otvoreni, ratno orijentisani predlozi".
02. 10. 2025. u 08:59
(MAPE) OVAKO ĆE SE KRETATI NEVREME U SRBIJI: Pogledajte iz časa u čas, stižu sneg i kiša (FOTO)
POGLEDAJTE kako će se ledeni oblak kretati nad Srbijom i koje krajeve kad pogađa nevreme. Danas i sutra oblačno sa kišom i hladno, osim na severozapadu Vojvodine gde će se zadržati suvo vreme, najavio je RHMZ.
02. 10. 2025. u 10:47
VEDRANA OGORČENA: "Pilić je bio hrišćanin! Sramota za Split, samo mrtav Pilić može biti - veliki Pilić"
HRVATSKI teniski as Nikola Pilić preminuo je u 87. godini života u Rijeci, a sahranjen je proteklog vikenda u Opatiji, gradu u kojem je proveo poslednje dane života.
02. 10. 2025. u 07:20
Najnovije iz rubrike
NJIMA KAO DA VLADA SAM ĐAVO: Za ove horoskopske znakove se veruje da nisu gospodari sopstvene sudbine
ZA Bikove, Jarčeve i Rakove veruje se da nisu gospodari svoje sudbine, već da njima upravljaju mračne sile. Iako toga nisu ni svesni, život ih često vodi kroz bol, prepreke i iskušenja, kao da ih nevidljiva ruka stalno koči i gura u pogrešnom pravcu, tvrde astrolozi.
02. 10. 2025. u 19:08
DNEVNI HOROSKOP ZA PETAK, 3. SEPTEMBAR: Ovnu prošlost kuca na vrata, Raka muče porodični odnosi, Jarca ljubav, a Vagu finansije
SAZNAJTE šta vas u petak, 3. oktobra, očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
02. 10. 2025. u 19:00
STARE RANE OPET BOLE Astro savet za petak, 3. oktobar: Prošlost kuca na vrata ovih znakova zbog opozicije Merkur-Hiron
MERKUR, planeta komunikacija i mentalnog stanja, 3. oktobra pravi opoziciju s asteroidom Hiron u Ovnu, što ponovo stavlja na dnevni red neke događaja iz prošlosti, koji se uglavnom odnose na partnerske odnose.
02. 10. 2025. u 19:00
KISELI KUPUS NIJE ZA SVAKOGA: Ruski naturolog otkriva kome se ne preporučuje
IAKO ova namirnica pruža brojne benefite, ne treba zaboraviti da njena nutritivna vrednost dolazi u “paketu” sa rizicima.
02. 10. 2025. u 16:16
7. OKTOBRA DOLAZI PRVI SUPERMESEC U GODINI: Predstavlja temelj za nove početke
REDAK trenutak kada se Mesec približava Zemlji najbliže i deluje posebno veliko i svetlo.
02. 10. 2025. u 14:36
Komentari (0)