HAKER PREVARIO ČetGPT: Dobio detaljno uputstvo za pravljenje bombe
22. 09. 2024. u 22:00
UKOLIKO zatažite od ČetGPT-a da vam ispiše recept za pravljenje bombe, njegov odgovor biće jasan: "Ne mogu da ti pomognem u ovome.
Foto Shutterstock
Davanje instrukcija za pravljenje opasnih i ilegalnih naprava je protiv bezbednosnih i etičkih normi." Ali, ukoliko ga prevarite kao jedan haker i predložite mu da odigrate igru - daće vam sve odgovore.
HAKER NAŠAO SLABU TAČKU ČETGPT-JEVOG BEZBEDNOSNOG SISTEMA
Iako IT stručnjaci neprekidno rade na usavršavanju bezbednosnih i etičkih principa koji su implementirani u rad ČetGPT-a, izgleda da i dalje postoje slabe tačke ovog softvera. Jednu je otkrio haker koji se krije iza pseudonima Amadon, koji je od AI čet-bota zatražio da mu pomogne da napravi eksplozivnu napravu.
ČetGPT se isprva opirao da odgovori na ovaj upit, pozivajući se na politiku kompanije osnivača, OpenAI, ali je ubrzo počeo da popušta, i to samo zato što je vešti haker promenio pristup i pronašao način da ga zavara. Odjednom, ni bezbednosne ni etičke norme više nisu postojale, a AI čet-bot počeo je da niže odgovore.
"HAJDE DA SE POIGRAMO"
Kako bi zaobišao nametnute restrikcije, haker je koristio taktiku "džejlbrejkinga", nižući kratke upite (promptove) koji bi ČetGPT trebalo da navede da pomisli da je u nekom fiktivnom, naučno-fantastičnom svetu, u kome bezbednosna i etička ograničenja ne postoje. I - bot je naseo na ovu varku i počeo da taksativno nabraja koji su materijali potrebni da bi se bomba napravila, preneo je portal TekKranč.
Zatim je počeo i da objašnjava na kojin način ih je najbolje kombinovati kako bi mine, eksplozivne zamke i drugi improvizovani uređaji ovog tipa imali što snažnije detonacije. Što je više potpitanja haker postavljao, to se AI bot više upuštao u objašnjavanje. Mašti softvera nije bilo kraja, a bezbednosti i etike kojima bi trebalo da se vodi - ni na vidiku.
JEDNOM KADA SE KODEKS ZAOBIĐE - MOGUĆNOSTI SOFTVERA SU BEZGRANIČNE
-Oduvek me je intrigirao to kako AI kontroliše bezbednost. Sa ČetGPT-jem je to kao puzle - treba razumeti šta pokreće "podizanje" bezbednosnog štita, a šta ne, rekao je Amadon u intervjuu za TekKranč. "Poenta je da se stvori narativ i igra po njegovim pravilima, ali tako da on i sam zaobiđe svoje kodekse i postavljene granice, a da ni ne shvati da je to uradio", dodao je on.
Ujedno, haker je istakao i da zaista ne postoji granica kada je reč o mogućnostima koje ovaj softver nudi, naročito kada ga jednom zavarate. Odgovori koje je ovaj čet-bot dao i činjenica da je detaljno opisao pravljenje bombe ovo i potvrđuju. OpenAI, kompanija koja je kreirala oČetGPT se po pitanju ovoga još uvek nije oglasila, a hoće li - ostaje da vidimo.
(rt.rs)
BONUS VIDEO - RUSIJA LANSIRALA RAKETU: Pogledajte trenutak lansiranja
Preporučujemo
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
"SMEJALI SU MI SE!": Kako je Srđan Todorović dobio nadimak Žika?
GLUMAC i muzičar Srđan Žika Todorović već godinama je na javnoj sceni, ali da li ste se ikad zapitali zašto čuvenog glumca zovu baš Žika?
20. 11. 2024. u 17:03
TOTALNO NEVEROVATNO: Otkrivena evidencija! Evo kako je Nikola Jokić trenirao kao klinac
NIKOLA Jokić glavna je tema u NBA lige, a američki novinari utrkuju se u pohvalama na njegov račun. Majk Singer i Brajan Vindhorst govorili su o centru Denver Nagetsa, dotakavši se samih njegovih početaka.
20. 11. 2024. u 20:46 >> 20:46
ANĐEO GA UDARIO KRILOM I OTIŠAO: Kako je, po narodnom predanju, car Dušan naljutio arhangela Mihaila - mesecima pokušavao da mu se umilostivi
SRPSKA pravoslavna crkva i njeni vernici slave danas, 21. novembra, praznik Svetog arhangela Mihaila poznatijeg kao Aranđelovdan, koja je druga najčešća slava u Srbiji, odmah posle Svetog Nikole.
21. 11. 2024. u 10:16
ŠEŠELj O UŽASNOM SNIMKU KOJI JE SVE ZAPREPASTIO: Devojčica nije zaslužila batine (VIDEO)
PREDSEDNIK SRS dr Vojislav Šešelj izjavio je da je akt nasilja kada je tekvondo trener sa Kosova i Metohije šamara osmogodišnju takmičarku koja je u finalu turnira u Tirani izgubila od Srpkinje Nine Savić "životinjski postupak".
20. 11. 2024. u 17:07
TURNEJA JK U MINUSU Nema ništa od zarade: "Uložila sam sve što sam stekla za 30 godina, zato sam sa fanovima u plusu"
"POTRUDIĆU se da budem u ovom istom obliku, posetiću najbolje plastične hirurge i da me održavaju barem narednih 15 godina u ovom stanju."
21. 11. 2024. u 14:38
"NE DAJ BOŽE NIKOME!" Ceca otvoreno o preljubi
PEVAČICA Svetlana Ceca Ražnatović odlično snašla u ulozi voditeljke, a njen šou svakom epizodom privlači sve veću pažnju.
21. 11. 2024. u 07:48
MERKELOVA PROGOVORILA O PUTINU: Jednu stvar posebno istakla - "Imao je osećaj za to"
BIVŠA nemačka kancelarka Angela Merkel opisala je u svojim memoarima prvi susret sa Donaldom Trampom, a takođe je govorila o ruskom predsedniku Vladimiru Putinu i Ukrajini. Odlomke iz knjige objavili su nemački mediji.
21. 11. 2024. u 11:45
RUSIJA POSTALA GLAVNI "IGRAČ" U EVROPI: Ovo se desilo prvi put od proleća 2022. godine
RUSIJA je u septembru prvi put od proleća 2022. postala glavni snabdevač gasom Evropske unije, prenosi RIA Novosti, pozivajući se na podatke Evrostata.
21. 11. 2024. u 11:32
MNOGI NE ZNAJU: Šta knez Mihailo pokazuje prstom
SPOMENIK knezu Mihailu Obrenoviću na Trgu republike postao je glavno gradsko sastajalište Beograđana i njihovih gostiju. Međutim, od mnogih ćete čuti da se sastaju ne kod Kneza već “kod konja”.
21. 11. 2024. u 09:47
Najnovije iz rubrike
JEROTIĆ: Zašto je drugi brak gotovo uvek gori od prvog, a treći još gori od drugog
TOKOM jednog od svojih brojnih predavanja srpski neuropsihijatar, psihoterapeut, filozof, književnik i akademik Vladeta Jerotić osvrnuo se na - izbor partnera, koji ima veliki uticaj na dinamiku u primarnoj porodici. U svom obraćanju Jerotić opisuje kako je taj izbor nekad izgledao i kavu je ulogu u tome imala glava porodice.
21. 11. 2024. u 11:50
ANĐEO GA UDARIO KRILOM I OTIŠAO: Kako je, po narodnom predanju, car Dušan naljutio arhangela Mihaila - mesecima pokušavao da mu se umilostivi
SRPSKA pravoslavna crkva i njeni vernici slave danas, 21. novembra, praznik Svetog arhangela Mihaila poznatijeg kao Aranđelovdan, koja je druga najčešća slava u Srbiji, odmah posle Svetog Nikole.
21. 11. 2024. u 10:16
MNOGI NE ZNAJU: Šta knez Mihailo pokazuje prstom
SPOMENIK knezu Mihailu Obrenoviću na Trgu republike postao je glavno gradsko sastajalište Beograđana i njihovih gostiju. Međutim, od mnogih ćete čuti da se sastaju ne kod Kneza već “kod konja”.
21. 11. 2024. u 09:47
ČUVAJTE SE POVREDA Astro savet za četvrtak, 21. novembar: Mars i Mesec u opoziciji sa Plutonom donose uzavrele strasti
KONJUNKCIJA Meseca, simbola emocija, raspoloženja, majke, nežnijeg pola, porodice, naroda, i Marsa, planete akcije ali i sukoba, u Lavu, danas donosi uzavrele strasti, borbenost, pristrasne reakcije, ali i podložnost fizičkim povredama.
21. 11. 2024. u 07:00
SOCIJALISTIČKA ČELIČNA DAMA: Pre 100 godina rođena je Milka Planinc
BILA je prva žena u istoriji na mestu predsednika vlade neke socijalističke zemlje - u fotelji predsednice Saveznog izvršnog veća (SIV - nekadašnji naziv za vladu) bila je ceo mandat od 1982. do 1986. godine.
21. 11. 2024. u 06:00
Komentari (0)