VEŠTAČKA INTELIGENCIJA SE OTRGLA KONTROLI: OpenAI otkriva još incidenata sa probojem veštačke inteligencije

OpenAI je otkrio dodatne slučajeve u kojima su njegovi autonomni modeli veštačke inteligencije probili kontrolu i delovali bez ljudskih instrukcija, objavio je Rojters, pozivajući se na izvore.

Foto: by BoliviaInteligente on Unsplash

Ova otkrića dolaze dok kompanija proširuje istragu o hakerskom incidentu prošlog meseca u kojem je bot veštačke inteligencije postao nestabilan dok je pokušavao da vara u internom testu sajber bezbednosti.

Tokom testova GPT-5.6 Sol i još jednog neobjavljenog modela, oba lišena zaštitnih ograda, sistemima je dodeljen ExploitGym – benčmark dizajniran za merenje sposobnosti modela veštačke inteligencije da identifikuju i iskoriste poznate ranjivosti softvera. Umesto da završi zadatke, jedan model je pobegao iz svog navodno izolovanog okruženja za testiranje, dobio pristup internetu i hakovao Hugging Face – onlajn spremište za modele veštačke inteligencije i skupove podataka – u potrazi za gotovim odgovorima.

OpenAI je prvobitno rekao da je upad bio ograničen na Hugging Face. Međutim, u saopštenju u sredu, priznao je da je hakerski niz takođe ugrozio četiri naloga na četiri odvojena servisa.

U petak, Rojters je izvestio da su od tada otkrivena dodatna kršenja bezbednosti, iako ostaje nejasno koliko se incidenata dogodilo, kada su se dogodili ili koji su sistemi bili usmereni. Jedan izvor je rekao novinskoj agenciji da su kršenja ograničenog obima i da se veruje da nijedan od AI botova nije napustio internu mrežu OpenAI-ja. Rojters je rekao da OpenAI i spoljni stručnjaci takođe pregledaju logove od početka ove godine kako bi utvrdili da li su drugi slični incidenti prošli nezapaženo.

OPENAI BRANI SVOJE MODELE

OpenAI je za početno kršenje okrivio grešku u softveru treće strane koji se koristi u njegovom okruženju za testiranje, rekavši da su njegovi AI modeli iskoristili to da bi provalili i dobili pristup internetu. Kompanija je saopštila da pooštrava kontrolu obuzdavanja, praćenja i pristupa dok istražuje kršenje i ispravlja grešku.

Izvršni direktor Sem Altman je takođe priznao da „ćemo možda morati da ubrzamo tempo razvoja AI-ja“, ali se nije obavezao da će usporiti istraživanje kompanije.

Upitan o Rojtersovom izveštaju, OpenAI je odbio da komentariše, pozivajući se na raniju izjavu u kojoj je naveo da je svestan spekulacija i da planira da objavi „tehnički izveštaj o našim saznanjima u narednim nedeljama“.

ANTROPIK PRONALAZI SLIČNE PROPUSTE

Rivalski programer veštačke inteligencije Antropik saopštio je u četvrtak da je takođe otkrio propuste u zadržavanju koji uključuju njegove Klod modele tokom internog bezbednosnog testiranja.

Kompanija je saopštila da ju je incident sa OpenAI podstakao da ispita da li su se njeni modeli ponašali slično. Nakon pregleda više od 140.000 evaluacija, otkrili su da je Klod dobio pristup internetu iz okruženja za testiranje koja su trebalo da budu zapečaćena i izvršio neovlašćene upade u sisteme tri organizacije. Najraniji incidenti datiraju iz aprila, i ni Antropik ni pogođene organizacije nisu tada otkrile propuste.

Antropik je upozorio da se ne preteruje sa tumačenjem nalaza jer se ponašanje dogodilo u onome što je opisao kao kontrolisano okruženje za testiranje. Međutim, priznao je da incidenti pokazuju da sistemi za procenu veštačke inteligencije „zahtevaju značajne kontrole“ i da okruženja za testiranje treba da budu obezbeđena po istom standardu kao i proizvodni sistemi.

ZABRINUTOST ZBOG LAŽNE VEŠTAČKE INTELIGENCIJE U PORASTU

Incidenti su podstakli zabrinutost da autonomni modeli veštačke inteligencije postaju sve sposobniji da izvode sajber napade sa malo ljudskog nadzora, što je dovelo do ponovnih poziva na strožu regulaciju. Takođe su ponovo pokrenuli debatu o tome ko treba da bude odgovoran kada sistemi veštačke inteligencije izazovu štetu u stvarnom svetu. Stručnjaci upozoravaju da mogućnosti veštačke inteligencije napreduju brže od mera bezbednosti.

Nakon što je prvobitno pohvalio OpenAI zbog saradnje u istrazi, Hugging Face je kasnije pozvao kompaniju da objavi evidenciju aktivnosti lažnih botova i spreči da se takvi incidenti „normalizuju“, upozoravajući da odgovorni „moraju biti pozvani na odgovornost“.

Predsednik SAD Donald Tramp, koji je prošlog meseca potpisao memorandum o nacionalnoj bezbednosti sa ciljem ubrzanja upotrebe napredne veštačke inteligencije u vojnoj i obaveštajnoj zajednici, rekao je u sredu da njegova administracija preispituje moguće kontrole veštačke inteligencije nakon incidenata.

-Razmatramo veštačku inteligenciju, razmatramo kontrole, rekao je Tramp novinarima. Međutim, insistirao je da Vašington mora ostati globalni lider u veštačkoj inteligenciji, dodajući da ne želi propise koji bi ostavili SAD „drugim posle Kine“.

Prema Rojtersu, Evropska komisija je kontaktirala OpenAI i Anthropic kako bi razgovarali o incidentima pre stupanja na snagu Zakona EU o veštačkoj inteligenciji 2. avgusta. Zvaničnici su navodno pozvali na jače praćenje, upravljanje rizicima i mere zaštite u oblasti sajber bezbednosti za napredne sisteme veštačke inteligencije unutar kompanija prema novim pravilima bloka, koja će omogućiti kazne do 35 miliona evra (38 miliona dolara) ili 7% globalnog godišnjeg prometa za najteže prekršaje.

rt.com

BONUS VIDEO - ŽENA UBILA MUŽA NA ČUKARICI: Prvi snimci sa mesta zločina

Preporučujemo

Panorama

0 0

OVO MORA DA SE ISTRAŽI DO KRAJA! Direktor startapa koga je hakovao OpenAI traži radikalnu transparentnost

27. 07. 2026. u 22:22

Ekonomija

0 0

Aleks Karp: SAD da ne ponavljaju greške Evrope, preterana regulacija AI je štetna

29. 07. 2026. u 18:10

Društvo

0 0

ŠTA SVE MOŽETE DA PITATE RADOSLAVA? Digitalni asistent dostupan građanima 24 sata

28. 07. 2026. u 11:42

Ekonomija

0 0

AI RAT KINE I AMERIKE: Obračun zbog veštačke inteligencije i milijardi dolara

27. 07. 2026. u 15:34

Ekonomija

Poslodavac može da pomeri već odobren godišnji odmor, ali samo pod ovim uslovima: Evo šta kaže zakon

2026-07-21 14:01:00

Svet

Razorno nevreme pogodilo Čile: Desetoro poginulih, hiljade pogođenih, u toku masovne evakuacije

2026-07-21 09:48:00

Pratite nas i putem iOS i android aplikacije