STRUČNJACI UPOZORAVAJU: Veštačka inteligencija isuviše lako podleže manipulacijama
26. 05. 2025. u 00:00
ČAK i najpoznatiji čet-botovi, poput ČetGPT, mogu se lako prevariti i naterati da daju opasne i ilegalne informacije, pokazalo je najnovije istraživanje.
Foto Arhiva
Stručnjaci upozoravaju da je pretnja od "džejlbrejkovanih" AI alata sve veća i da može imati ozbiljne posledice po bezbednost širom sveta.
U vreme kada se veštačka inteligencija sve više koristi u svim sferama života, od obrazovanja, preko medicine i industrije, pa sve do svakodnevnih aktivnosti, postavlja se pitanje: šta se dešava kada te iste tehnologije počnu da rade protiv društva? Upravo na to upozoravaju istraživači iz Izraela, koji su ukazali na slabosti vodećih sistema baziranih na velikim jezičkim modelima.
"DžEJLBREJKING" TAKTIKA POTPUNO POMUTI RAZUM AI ALATIMA
Većina vodećih čet-botova lako se može prevariti uz pomoć "džejlbrejking" taktike koja podrazumeva nizanje kratkih upita kako bi se alat naveo na pomisao da je u nekom fiktivnom, naučno-fantastičnom svetu, u kome bezbednosna i etička ograničenja ne postoje, pokazalo je najnovije istraživanje stručnjaka. Zbog čega je ovo zabrinjavajuće i kako su istraživači uopšte došli do ovog zaključka?
Ono što najviše brine stručnjake za sajber bezbednost jeste činjenica da uz pomoć "džejlbrejking" taktike čet-botovi korisnicima mogu dati informacije koje inače ne bi dali - od onih kako sprovesti sajber napade, do toga kako da pronađu sastojke za proizvodnju opijata i eksploziva i kako da ih pripreme kod kuće. Do sada su dva ovakva slučaja uzdrmala javnost, a njihovi akteri bili su ČetGPT i Grok-3.
Do ovog zaključka stručnjaci su došli nakon što su testirali neke od najpoznatijih čet-botova sa veštačkom inteligencijom, a rezultati istraživanja bili su alarmantni: nakon samo nekoliko "džejlbrejkova" AI alati su bez zadrške davali detaljne i potencijalno opasne informacije, piše Gardijan. "Šokantno je bilo videti kojim se informacijama ovi sistemi raspolažu", naveli su oni.
PROBLEM UOČEN, ALI KOMPANIJE NA OPOMENU NE REAGUJU
Pošto su uvideli koliko su alati sa veštačkom inteligencijom zapravo labilni i koliko ih je lako "džejlbrejkovati" i nagovoriti na zlo, stručnjaci su uputili zvanične mejlove kompanijama koje stoje iz softvera, međutim, odgovor koji su očekivali nikada nisu dobili. Nekoliko njih uopšte nisu ni odgovorile na mejlove, već su ih samo izignorisale.
Druge su, pak, stručnjake udostojile odgovora, ali je on bio, u najmanju ruku, razočaravajuć: naime, bonus-programi koje oni imaju, a koji podstiču hakere da testiraju AI alate, ne podrazumevaju bonuse za ovakve vidove "napada" na sisteme. Drugim rečima, zahvalili su im se na ovoj infomraciji, ali niti će nagraditi na neki način naučnike, niti će (verovatno) bilo šta učiniti po pitanju softvera.
Imajući u vidu uočenu fragilnost softvera sa veštačkom inteligencijom, stručnjaci smatraju da bi dužnost kompanija bila da učine sve da njihovi AI alati budu bezbedniji - modele bi trebalo temeljnije testirati pre puštanja u rad, a korisno bi bilo i da se implementira opcija "mašinskog zaboravljanja", koja bi softverima pomogla da izbrišu iz sećanja opasne informacije i sadržaje.
(rt.rs)
BONUS VIDEO - PONUDA NA SAJMU AUTOMOBILA: Pogledajte kako izgledaju novi modeli
Preporučujemo
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
"MODNI" ZAKON: Svi to radite kad ste na moru u Crnoj Gori, a ne znate da mogu da vas kazne sa 200€
OPŠTINA Tivat odlučila je da od prošle godine zabrani kretanje turista u kupaćim kostimima u pešačkim zonama, gradskim parkovima, na trgovima i u užem gradskom jezgru.
25. 07. 2025. u 11:54
"ČUDO NOVOG SVETA" NIČE U KINI: 22.000 tone teška grdosija izgrađena iz "Zemljine pukotine" za samo 3 godine (FOTO)
DANA 18. januara 2022. godine je započeta gradnja i prema najavama, trebalo bi da bude otvoren u toku ovog leta.
25. 07. 2025. u 15:33
"ŽENE SLIKAJU INTIMNE DELOVE PAĆENICIMA, A JA..." Poznata folkerka pokosila: "Svako pokazuje svoje vrednosti! A moja kosilica radi na gurku"
"DA SE i ja uslikam, bez filtera, ovako lepa, ali s nečim što je totalno drugačije! Moram da izreklamiram kosilicu – dobro kosi!"
25. 07. 2025. u 12:34
TRESE SE ESTRADA Otkrivena prava ISTINA zašto je Bosanac napustio "Zvezde Granda", on se oglasio: "Ja nisam amater - profesionalac sam"
DRAGAN Stojković Bosanac napustio je "Zvezde Granda" gde je bio dugogodišnji član žirija i prešao u muzičko takmičenje "Pinkove zvezde".
25. 07. 2025. u 13:19
PUTIN KAKVOG SVET NE ZNA: Veza još sa fakulteta - suze u oku na sahrani jedne od najmoćnijih žena Rusije (VIDEO)
RUSKI predsednik Vladimir Putin se oprostio od preminule koleginice sa fakulteta i predsednice Vrhovnog suda Irine Podnosove.
25. 07. 2025. u 13:02
"RAT" GRANDA I PINKA: Mitrović "ukrao" Bosanca, sad je ZVANIČNO - napustio Zvezde Granda i prešao u žiri Pinkovih zvezda
OD KAKO je najavljena nova sezona muzičkog takmičenja "Pinkove zvezde" šuškalo se ko će biti stručni žiri u ovom projektu.
25. 07. 2025. u 11:01
PORODICE U ŠOKU NAKON ŠTO SU OTVORILE KOVČEGE SA TELIMA: Nove bizarnosti nakon pada aviona u Indiji
SIN žene koja je poginula u padu aviona kompanije Air India izjavio je za Bi-Bi-Si da su u kovčegu s telom njegove majke pronađeni i „drugi ostaci“.
23. 07. 2025. u 16:49
EKSKLUZIVNI SNIMCI HAPŠENjA ŠIPTARSKOG TERORISTE: Ovako je pao bivši pripadnik OVK u Svilajncu, evo za šta se sumnjiči (VIDEO)
ŠIPTARSKI terorista i bivši istaknuti pripadnik terorističke OVK Halili Lulzin, uhapšen je danas u Svilajncu, u zajedničkoj akciji Bezbednosno-informativne agencije, Službe za otkrivanje ratnih zločina UKP MUP-a Republike Srbije, a u saradnji sa Tužilaštvom za ratne zločine.
22. 07. 2025. u 20:54
NAUČNICI U STRAHU - RIZIK OD NESTANKA: Ada Bojana i Bokokotorski zaliv u opasnosti - more nikada nije bilo takvo
NIVO Jadranskog mora će, prema projekcijama, do kraja veka porasti 35 centimetara (cm), što će ugroziti obalska područja, posebno područje Ade Bojane i delove Bokokotorskog zaliva, navodi se u prošlogodišnjem Nacrtu Nacionalnog plana Crne Gore za prilagođavanje na klimatske promene.
25. 07. 2025. u 08:55
Najnovije iz rubrike
NJIHOVA „ŽETVA“ OBAVLJALA SE I U ANTIČKIM VREMENIMA: Ko su „domari“ morskih grebena (FOTO)
MORSKI krastavci, ili domari mora, pretražuju i čiste morsko dno, omogućavajući drugim životinjama da se razvijaju. Ljudi na Filipinima „beru“ ove dežmekaste, kožnate životinje iz mora barem sto godina, a njihova „žetva“ u Aziji obavljala se i u antičkim vremenima.
26. 07. 2025. u 23:00
DNEVNI HOROSKOP ZA NEDELJU 27. JUL: Blizanci imaju potrebu za kontrolom, Lav menja planove, Vaga sklona introspekciji, Vodoliji stiže novac
SAZNAJTE šta vas u nedelju, 27. jula, očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
26. 07. 2025. u 22:00
NEDELJNI HOROSKOP OD 27. JULA DO 2. AVGUSTA: Ovan da pazi kako ulaže novac, Raka pogađa Amorova strela, Vodoliju muče porodični problemi
SAZNAJTE šta vam nedeljni horoskop predviđa od 27. jula do 2. avgusta, šta vas narednih sedam dana očekuje na poslu, u ljubavi, u domu i porodici, hoćete li se slagati sa ukućanima i prijateljima, kako će da vas služi zdravlje.
26. 07. 2025. u 19:30
HRISTOVO IME NIJE BILO - ISUS: Kako se Sin Božiji zapravo zvao?
REČ JE o jednom od najpoznatijih imena u istoriji sveta! Ali, istraživači sada kažu da se Isus Hrist, centralna ličnost hrišćanske religije, možda uopšte nije tako zvao
26. 07. 2025. u 13:21
PLAŽE NA POZNATOM EVROPSKOM LETOVALIŠTU NESTAJU: Naučnici upozoravaju - more će stići do kuća i pruga
OLUJE i porast nivoa mora izazvani klimatskim promenama uništavaju veštačke plaže u Barseloni, pri čemu more svake godine odnosi sve veće delove obale, što negativno utiče na turizam.
26. 07. 2025. u 10:54
Komentari (0)