ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА СЕ ОТРГЛА КОНТРОЛИ: OpenAI открива још инцидената са пробојем вештачке интелигенције

OpenAI је открио додатне случајеве у којима су његови аутономни модели вештачке интелигенције пробили контролу и деловали без људских инструкција, објавио је Ројтерс, позивајући се на изворе.

Фото: by BoliviaInteligente on Unsplash

Ова открића долазе док компанија проширује истрагу о хакерском инциденту прошлог месеца у којем је бот вештачке интелигенције постао нестабилан док је покушавао да вара у интерном тесту сајбер безбедности.

Током тестова GPT-5.6 Sol и још једног необјављеног модела, оба лишена заштитних ограда, системима је додељен ExploitGym – бенчмарк дизајниран за мерење способности модела вештачке интелигенције да идентификују и искористе познате рањивости софтвера. Уместо да заврши задатке, један модел је побегао из свог наводно изолованог окружења за тестирање, добио приступ интернету и хаковао Hugging Face – онлајн спремиште за моделе вештачке интелигенције и скупове података – у потрази за готовим одговорима.

OpenAI је првобитно рекао да је упад био ограничен на Hugging Face. Међутим, у саопштењу у среду, признао је да је хакерски низ такође угрозио четири налога на четири одвојена сервиса.

У петак, Ројтерс је известио да су од тада откривена додатна кршења безбедности, иако остаје нејасно колико се инцидената догодило, када су се догодили или који су системи били усмерени. Један извор је рекао новинској агенцији да су кршења ограниченог обима и да се верује да ниједан од AI ботова није напустио интерну мрежу OpenAI-ја. Ројтерс је рекао да OpenAI и спољни стручњаци такође прегледају логове од почетка ове године како би утврдили да ли су други слични инциденти прошли незапажено.

OPENAI БРАНИ СВОЈЕ МОДЕЛЕ

OpenAI је за почетно кршење окривио грешку у софтверу треће стране који се користи у његовом окружењу за тестирање, рекавши да су његови AI модели искористили то да би провалили и добили приступ интернету. Компанија је саопштила да пооштрава контролу обуздавања, праћења и приступа док истражује кршење и исправља грешку.

Извршни директор Сем Алтман је такође признао да „ћемо можда морати да убрзамо темпо развоја AI-ја“, али се није обавезао да ће успорити истраживање компаније.

Упитан о Ројтерсовом извештају, OpenAI је одбио да коментарише, позивајући се на ранију изјаву у којој је навео да је свестан спекулација и да планира да објави „технички извештај о нашим сазнањима у наредним недељама“.

АНТРОПИК ПРОНАЛАЗИ СЛИЧНЕ ПРОПУСТЕ

Ривалски програмер вештачке интелигенције Антропик саопштио је у четвртак да је такође открио пропусте у задржавању који укључују његове Клод моделе током интерног безбедносног тестирања.

Компанија је саопштила да ју је инцидент са OpenAI подстакао да испита да ли су се њени модели понашали слично. Након прегледа више од 140.000 евалуација, открили су да је Клод добио приступ интернету из окружења за тестирање која су требало да буду запечаћена и извршио неовлашћене упаде у системе три организације. Најранији инциденти датирају из априла, и ни Антропик ни погођене организације нису тада откриле пропусте.

Антропик је упозорио да се не претерује са тумачењем налаза јер се понашање догодило у ономе што је описао као контролисано окружење за тестирање. Међутим, признао је да инциденти показују да системи за процену вештачке интелигенције „захтевају значајне контроле“ и да окружења за тестирање треба да буду обезбеђена по истом стандарду као и производни системи.

ЗАБРИНУТОСТ ЗБОГ ЛАЖНЕ ВЕШТАЧКЕ ИНТЕЛИГЕНЦИЈЕ У ПОРАСТУ

Инциденти су подстакли забринутост да аутономни модели вештачке интелигенције постају све способнији да изводе сајбер нападе са мало људског надзора, што је довело до поновних позива на строжу регулацију. Такође су поново покренули дебату о томе ко треба да буде одговоран када системи вештачке интелигенције изазову штету у стварном свету. Стручњаци упозоравају да могућности вештачке интелигенције напредују брже од мера безбедности.

Након што је првобитно похвалио OpenAI због сарадње у истрази, Hugging Face је касније позвао компанију да објави евиденцију активности лажних ботова и спречи да се такви инциденти „нормализују“, упозоравајући да одговорни „морају бити позвани на одговорност“.

Председник САД Доналд Трамп, који је прошлог месеца потписао меморандум о националној безбедности са циљем убрзања употребе напредне вештачке интелигенције у војној и обавештајној заједници, рекао је у среду да његова администрација преиспитује могуће контроле вештачке интелигенције након инцидената.

-Разматрамо вештачку интелигенцију, разматрамо контроле, рекао је Трамп новинарима. Међутим, инсистирао је да Вашингтон мора остати глобални лидер у вештачкој интелигенцији, додајући да не жели прописе који би оставили САД „другим после Кине“.

Према Ројтерсу, Европска комисија је контактирала OpenAI и Anthropic како би разговарали о инцидентима пре ступања на снагу Закона ЕУ о вештачкој интелигенцији 2. августа. Званичници су наводно позвали на јаче праћење, управљање ризицима и мере заштите у области сајбер безбедности за напредне системе вештачке интелигенције унутар компанија према новим правилима блока, која ће омогућити казне до 35 милиона евра (38 милиона долара) или 7% глобалног годишњег промета за најтеже прекршаје.

rt.com

БОНУС ВИДЕО - ЖЕНА УБИЛА МУЖА НА ЧУКАРИЦИ: Први снимци са места злочина

Препоручујемо

Панорама

0 0

ОВО МОРА ДА СЕ ИСТРАЖИ ДО КРАЈА! Директор стартапа кога је хаковао OpenAI тражи радикалну транспарентност

27. 07. 2026. у 22:22

Економија

0 0

Алекс Карп: САД да не понављају грешке Европе, претерана регулација АИ је штетна

29. 07. 2026. у 18:10

Друштво

0 0

ШТА СВЕ МОЖЕТЕ ДА ПИТАТЕ РАДОСЛАВА? Дигитални асистент доступан грађанима 24 сата

28. 07. 2026. у 11:42

Економија

0 0

АИ РАТ КИНЕ И АМЕРИКЕ: Обрачун због вештачке интелигенције и милијарди долара

27. 07. 2026. у 15:34

Ekonomija

Poslodavac može da pomeri već odobren godišnji odmor, ali samo pod ovim uslovima: Evo šta kaže zakon

2026-07-21 14:01:00

Svet

Razorno nevreme pogodilo Čile: Desetoro poginulih, hiljade pogođenih, u toku masovne evakuacije

2026-07-21 09:48:00

Пратите нас и путем иОС и андроид апликације