STRUČNJACI UPOZORAVAJU: Veštačka inteligencija isuviše lako podleže manipulacijama

ČAK i najpoznatiji čet-botovi, poput ČetGPT, mogu se lako prevariti i naterati da daju opasne i ilegalne informacije, pokazalo je najnovije istraživanje.

Foto Arhiva

Stručnjaci upozoravaju da je pretnja od "džejlbrejkovanih" AI alata sve veća i da može imati ozbiljne posledice po bezbednost širom sveta.

U vreme kada se veštačka inteligencija sve više koristi u svim sferama života, od obrazovanja, preko medicine i industrije, pa sve do svakodnevnih aktivnosti, postavlja se pitanje: šta se dešava kada te iste tehnologije počnu da rade protiv društva? Upravo na to upozoravaju istraživači iz Izraela, koji su ukazali na slabosti vodećih sistema baziranih na velikim jezičkim modelima.

"DžEJLBREJKING" TAKTIKA POTPUNO POMUTI RAZUM AI ALATIMA

Većina vodećih čet-botova lako se može prevariti uz pomoć "džejlbrejking" taktike koja podrazumeva nizanje kratkih upita kako bi se alat naveo na pomisao da je u nekom fiktivnom, naučno-fantastičnom svetu, u kome bezbednosna i etička ograničenja ne postoje, pokazalo je najnovije istraživanje stručnjaka. Zbog čega je ovo zabrinjavajuće i kako su istraživači uopšte došli do ovog zaključka?

Ono što najviše brine stručnjake za sajber bezbednost jeste činjenica da uz pomoć "džejlbrejking" taktike čet-botovi korisnicima mogu dati informacije koje inače ne bi dali - od onih kako sprovesti sajber napade, do toga kako da pronađu sastojke za proizvodnju opijata i eksploziva i kako da ih pripreme kod kuće. Do sada su dva ovakva slučaja uzdrmala javnost, a njihovi akteri bili su ČetGPT i Grok-3.

Do ovog zaključka stručnjaci su došli nakon što su testirali neke od najpoznatijih čet-botova sa veštačkom inteligencijom, a rezultati istraživanja bili su alarmantni: nakon samo nekoliko "džejlbrejkova" AI alati su bez zadrške davali detaljne i potencijalno opasne informacije, piše Gardijan. "Šokantno je bilo videti kojim se informacijama ovi sistemi raspolažu", naveli su oni.

PROBLEM UOČEN, ALI KOMPANIJE NA OPOMENU NE REAGUJU

Pošto su uvideli koliko su alati sa veštačkom inteligencijom zapravo labilni i koliko ih je lako "džejlbrejkovati" i nagovoriti na zlo, stručnjaci su uputili zvanične mejlove kompanijama koje stoje iz softvera, međutim, odgovor koji su očekivali nikada nisu dobili. Nekoliko njih uopšte nisu ni odgovorile na mejlove, već su ih samo izignorisale.

Druge su, pak, stručnjake udostojile odgovora, ali je on bio, u najmanju ruku, razočaravajuć: naime, bonus-programi koje oni imaju, a koji podstiču hakere da testiraju AI alate, ne podrazumevaju bonuse za ovakve vidove "napada" na sisteme. Drugim rečima, zahvalili su im se na ovoj infomraciji, ali niti će nagraditi na neki način naučnike, niti će (verovatno) bilo šta učiniti po pitanju softvera.

Imajući u vidu uočenu fragilnost softvera sa veštačkom inteligencijom, stručnjaci smatraju da bi dužnost kompanija bila da učine sve da njihovi AI alati budu bezbedniji - modele bi trebalo temeljnije testirati pre puštanja u rad, a korisno bi bilo i da se implementira opcija "mašinskog zaboravljanja", koja bi softverima pomogla da izbrišu iz sećanja opasne informacije i sadržaje.

(rt.rs)

BONUS VIDEO - PONUDA NA SAJMU AUTOMOBILA: Pogledajte kako izgledaju novi modeli

Preporučujemo

Panorama

0 0

POGLEDAJTE - Problem jedne pande (VIDEO)

25. 05. 2025. u 23:22

Panorama

0 2

VIŠE ŠTETE NEGO KORISTI: Ove zdrave namirnice izbegavajte pre spavanja

25. 05. 2025. u 00:00

Panorama

0 1

SUPERHEROJSKI VID: Kineski naučnici napravili nezamislivo

24. 05. 2025. u 23:00

Panorama

0 2

SUPERKOMPJUTER PREDVIDEO TAČNU GODINU U KOJOJ ĆE NESTATI ŽIVOT NA ZEMLjI: Naučnici otkrili sve podatke o smaku sveta

22. 05. 2025. u 12:09

Pratite nas i putem iOS i android aplikacije