STRUČNJACI UPOZORAVAJU: Veštačka inteligencija isuviše lako podleže manipulacijama
26. 05. 2025. u 00:00
ČAK i najpoznatiji čet-botovi, poput ČetGPT, mogu se lako prevariti i naterati da daju opasne i ilegalne informacije, pokazalo je najnovije istraživanje.
Foto Arhiva
Stručnjaci upozoravaju da je pretnja od "džejlbrejkovanih" AI alata sve veća i da može imati ozbiljne posledice po bezbednost širom sveta.
U vreme kada se veštačka inteligencija sve više koristi u svim sferama života, od obrazovanja, preko medicine i industrije, pa sve do svakodnevnih aktivnosti, postavlja se pitanje: šta se dešava kada te iste tehnologije počnu da rade protiv društva? Upravo na to upozoravaju istraživači iz Izraela, koji su ukazali na slabosti vodećih sistema baziranih na velikim jezičkim modelima.
"DžEJLBREJKING" TAKTIKA POTPUNO POMUTI RAZUM AI ALATIMA
Većina vodećih čet-botova lako se može prevariti uz pomoć "džejlbrejking" taktike koja podrazumeva nizanje kratkih upita kako bi se alat naveo na pomisao da je u nekom fiktivnom, naučno-fantastičnom svetu, u kome bezbednosna i etička ograničenja ne postoje, pokazalo je najnovije istraživanje stručnjaka. Zbog čega je ovo zabrinjavajuće i kako su istraživači uopšte došli do ovog zaključka?
Ono što najviše brine stručnjake za sajber bezbednost jeste činjenica da uz pomoć "džejlbrejking" taktike čet-botovi korisnicima mogu dati informacije koje inače ne bi dali - od onih kako sprovesti sajber napade, do toga kako da pronađu sastojke za proizvodnju opijata i eksploziva i kako da ih pripreme kod kuće. Do sada su dva ovakva slučaja uzdrmala javnost, a njihovi akteri bili su ČetGPT i Grok-3.
Do ovog zaključka stručnjaci su došli nakon što su testirali neke od najpoznatijih čet-botova sa veštačkom inteligencijom, a rezultati istraživanja bili su alarmantni: nakon samo nekoliko "džejlbrejkova" AI alati su bez zadrške davali detaljne i potencijalno opasne informacije, piše Gardijan. "Šokantno je bilo videti kojim se informacijama ovi sistemi raspolažu", naveli su oni.
PROBLEM UOČEN, ALI KOMPANIJE NA OPOMENU NE REAGUJU
Pošto su uvideli koliko su alati sa veštačkom inteligencijom zapravo labilni i koliko ih je lako "džejlbrejkovati" i nagovoriti na zlo, stručnjaci su uputili zvanične mejlove kompanijama koje stoje iz softvera, međutim, odgovor koji su očekivali nikada nisu dobili. Nekoliko njih uopšte nisu ni odgovorile na mejlove, već su ih samo izignorisale.
Druge su, pak, stručnjake udostojile odgovora, ali je on bio, u najmanju ruku, razočaravajuć: naime, bonus-programi koje oni imaju, a koji podstiču hakere da testiraju AI alate, ne podrazumevaju bonuse za ovakve vidove "napada" na sisteme. Drugim rečima, zahvalili su im se na ovoj infomraciji, ali niti će nagraditi na neki način naučnike, niti će (verovatno) bilo šta učiniti po pitanju softvera.
Imajući u vidu uočenu fragilnost softvera sa veštačkom inteligencijom, stručnjaci smatraju da bi dužnost kompanija bila da učine sve da njihovi AI alati budu bezbedniji - modele bi trebalo temeljnije testirati pre puštanja u rad, a korisno bi bilo i da se implementira opcija "mašinskog zaboravljanja", koja bi softverima pomogla da izbrišu iz sećanja opasne informacije i sadržaje.
(rt.rs)
BONUS VIDEO - PONUDA NA SAJMU AUTOMOBILA: Pogledajte kako izgledaju novi modeli
Preporučujemo
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
Zašto su se POTUKLI Miroslav i Halid? Rat oko žene i skandal u beogradskom klubu
"DUGO sam se družio s njom i nikada nije bila pod uticajem alkohola. Kad se ta frka završila, Miroslav i Halid su nastavili da piju, nigde nisu odlazili."
05. 07. 2025. u 21:44
USTAŠKI PIR: Objavljeno koliko je ljudi na koncertu Tompsona
PRIVEDENE su ukupno 44 osobe, jedna od njih zbog narušavanja javnog reda i mira, a 43 zbog pirotehnike.
05. 07. 2025. u 22:20
Ćerka jednog od najpopularnijih "ex Yu" pevača u toplesu; "Htela sam jednu nežnu. ali..." (FOTO)
"HTELA sam neku nežnu, ženstvenu fotografiju…"
05. 07. 2025. u 17:47
"O OVOME MEDIJI ĆUTE" Bivša premijerka rešila da sve iznese javno: "NDH je zločinačka država, a zvanični Zagreb joj se klanja i to usred EU"
ZA NEKE "samo koncert od pola miliona duša", a neko taj skup mora da nazove pravim imenom iako je Hrvatica i čitavog života veliča ustaše - klanjanje zločinačkoj državi NDH.
05. 07. 2025. u 14:57 >> 15:14
"UKAZALA" IM SE "GOSPA" NA NEBU Jato dronova formiralo i "križ" - veličaju ustaštvo, a ističu krst i Bogorodicu (VIDEO)
KONCERT ustaškog pevača Marka Perkovića Tompsona, a molitvu Maranatha recituje biskup Ante Ivas, s kojim je Tompson godinama blizak.
05. 07. 2025. u 23:17
UHAPŠEN U SRBIJI: Unuk ukrao babi pola miliona evra, ona UMRLA u WC-u pre početka suđenja
TOMAS je optužen za zloupotrebu poverenja i trebalo je da se pojavi pred optuženičkom klupom u avgustu 2024. Međutim, pobegao je u inostranstvo i uhapšen je u Srbiji prošlog januara.
05. 07. 2025. u 17:18
"POJEDOH SE ŽIV, IZLUDE ME TO" Vučić o otvaranju auto-puta do Požege: To su već foliranja i glupiranja, krajnji rok do ponedeljka
PREDSEDNIK Srbije Aleksandar Vučić govorio je iz Čačka o otvaranju auto-puta do Požege.
03. 07. 2025. u 11:49
"MOGLO BI UMRETI 4.500 LjUDI" Ova zemlja je najugroženija na Zapadnom Balkanu, hitan sastanak u SZO zbog vrućina u Evropi
JUŽNA Evropa suočava se sa žestokim toplotnim talasom - temperature prelaze 40 stepeni Celzijusa, a u španskoj pokrajini Uelva izmereno je rekordnih 46 stepeni, što je najviša junska temperatura u istoriji zemlje. Istovremeno, Italija, Grčka, Portugalija i Zapadni Balkan takođe beleže rekordne vrućine, praćene šumskim požarima i ljudskim žrtvama.
01. 07. 2025. u 11:45
ISPOVEST RADNICE: "Kad biste ovo znali, nikad ne biste kročili na kruzer"
DRUŠTVENIM mrežama kruže viralni snimci u kojima osoba koja se predstavlja kao radnica na kruzeru deli detalje iz života na brodu. U jednom takvom videu podelila je niz fotki u kojima tvrdi da otkriva tajne života na kruzeru i tako šokirala mnoge.
05. 07. 2025. u 11:33
Najnovije iz rubrike
VELIKO ARHEOLOŠKO OTKRIĆE Šta otkriva sarkofag od krečnjaka: U dolini Nila nađene grobnice iz ptolomejskog i rimskog vremena
ARHEOLOZI su tokom iskopavanja u Asuanu, na jugu Egipta, otkrili dobro očuvane grobnice iz ptolemejskog i rimskog perioda, saopštilo je Ministarstvo turizma i antikviteta te zemlje.
06. 07. 2025. u 00:00
PRONAĐENO DREVNO NEOLITSKO NASELJE: Ono je drugačije od drugih, evo šta su naučnici otkrili
JEDNIM drevnim neolitskim gradom u južnoj Anadoliji u Turskoj su verovatno upravljale žene, što nije bila uobičajena pojava, sugerišu arehološki nalazi.
05. 07. 2025. u 23:11
DNEVNI HOROSKOP ZA NEDELJU, 6. JUL: Lav podložan uticaju partnera, Vaga ide na put, Vodolija ima vanredne izdatke
SAZNAJTE šta šta vas u nedelju, 6. jula, očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
05. 07. 2025. u 23:00
RETROGRADNI SATURN U JULU NOSI KARMU NA SVOJIM LEĐIMA: Ova tri pripadnika Zodijaka neće zaobići
U VREMENU kada se čini da sve ide sporo, retrogradni Saturn zapravo otvara vrata: ka unutrašnjem miru, ali i ka računima koji se – ovog puta – ne naplaćuju kroz gubitke, već kroz dobitke.
05. 07. 2025. u 20:56
NEDELJNI HOROSKOP OD 6. do 12. JULA: Blizance očekuju velike životne promene, Lavove nova etapa u karijeri, Jarac osetljiv na kritike
SAZNAJTE šta vam nedeljni horoskop predviđa od 6. do 12. jula, šta vas narednih sedam dana očekuje na poslu, u ljubavi, u domu i porodici, hoćete li se slagati sa ukućanima i prijateljima, kako će da vas služi zdravlje.
05. 07. 2025. u 19:30
Komentari (0)