MAŠINE OTKAZALE POSLUŠNOST: Veštačka inteligencija počela da kopira sopstveni kod bez ljudske dozvole
Dodaj Novosti kao svoj Google izvor
NEKI moderni sistemi veštačke inteligencije sada mogu samostalno da kopiraju svoj kod na druge računare, pokazalo je novo istraživanje.
Firn / imageBROKER / Profimedia
Ono što je do juče zvučalo kao scenario za holivudski blokbaster ili panični krik teoretičara zavere sada je dobilo zvaničnu potvrdu – savremeni sistemi veštačke inteligencije sposobni su da samostalno kopiraju sopstveni kod na druge računare bez ljudske pomoći.
Najveći strah stručnjaka je "scenario sudnjeg dana" u kojem superinteligentna mašina, čim odluči da se pokvari, izbegava gašenje tako što se "širi" poput virusa po internetu. Tako bi ostala van domašaja IT stručnjaka i nastavila da smišlja planove za dominaciju ili neku drugu, podjednako bizarnu ideju.
- Brzo se približavamo tački gde niko neće moći da zaustavi lažnu veštačku inteligenciju, jer će ona moći samostalno da izvuče svoj digitalni mozak i kopira ga na hiljade servera širom sveta - upozorio je Džefri Ladiš, direktor istraživačkog centra Palisejd.
Mašinska neposlušnost više nije samo teorija
U martu je otkriveno da je sistem veštačke inteligencije pod nazivom Rome, koji je razvila kompanija Alibaba, pokušao da "iskopa tunel" iz svog zatvorenog okruženja kako bi se povezao sa internetom i rudario kriptovalute. Srećom, sve se odvijalo u zatvorenim uslovima, gde su namerno postavljene sistemske ranjivosti.
Čak je i bizarna društvena mreža Moltbook, gde komuniciraju samo botovi, izazvala uzbunu kad su sami agenti veštačke inteligencije počeli da izmišljaju religije i kuju zavere protiv ljudi.
Još nije vreme za paniku – postoji velika prepreka
Stručnjak za sajber bezbednost, Džejmison O’Rajli, objašnjava da su današnji modeli veštačke inteligencije fizički ogromni. Pokušaj da se "probije" oko 100 GB podataka kroz ozbiljnu korporativnu mrežu je, kaže on, kao pokušaj da se "prošeta kroz prodavnicu porcelana ljuljajući loptu na lancu". Bilo koji ozbiljan sistem nadzora bi odmah podigao uzbunu.
Iako je ovo prvi put da je dokumentovano da veštačka inteligencija pronalazi mane u softveru kako bi se sama kopirala, stvarne mreže banaka i velikih kompanija su i dalje preveliki zadatak za današnje modele.
Međutim, stručnjaci kažu da iako večeras možemo mirno da spavamo, pravila igre su se definitivno promenila. Mašine više ne čekaju da se naša uputstva prošire, zaključuje Gardijan.
(Gardijan)
BONUS VIDEO: JOVANOVIĆ: Veštačka inteligencija je naša budućnost jer smo na vreme ulagali u digitalizaciju
Preporučujemo
Pratite nas i putem iOS i android aplikacije
Klikni na zvezdicu u gornjem desnom uglu i zaprati Novosti na Google News platformi
Pročitajte više
"UĆUTI!" Tramp usred Bele kuće napao novinarku, bivša saradnica ga javno osudila
VERBALNI obračun pred kamerama...
05. 06. 2026. u 09:27
ČIME ŽELI DA SE BAVI JOVANINA I ŽELjKOVA ĆERKA? Majka u strahu: "Ja to ne bih volela!"
ŽELjKO istakao je da već vidi da bi njihova naslednica Srna volela da bude javna ličnost.
05. 06. 2026. u 07:55
"ZA DOM SPREMNI JE SADA I DRŽAVNI I VERSKI POZDRAV!" Skandal u Hrvatskoj - HRT 3 sata puštao Tompsonov koncert pun ustaških simbola (Foto)
HRVATSKA Radio-televizija emitovala je snimak prošlogodišnjeg koncerta Marka Perkovića Tompsona na zagrebačkom Hipodromu, koji je obilovao ustaškim simbolima i porukama, zbog čega je događaj bio predmet kritika u delu hrvatske javnosti, ali i medijima u svetu.
05. 06. 2026. u 11:53
JUGA LUDELA ZA NjOM, A DANAS "ZABORAVLjENA OD SVIH": Kako sada izgleda Olivera Katarina (86)?
SVI su se divili njenoj lepoti.
05. 06. 2026. u 09:59
Zašto je Lane Gutović ODBIO da glumi u "Srećnim ljudima"? Otkriven razlog
EVO zašto je glumac odustao od projekta...
05. 06. 2026. u 13:48
DRAMA U SARAJEVU: Halidov sin loše posle smrti majke - ona mesec dana nije izlazila iz bolnice
"BILA je skoro mesec dana u bolnici, danas je preminula oko 15 časova."
01. 06. 2026. u 17:52
RUSIJA SE HITNO OGLASILA O SRBIJI: Peskov komentarisao odnos Moskve i Beograda
RUSIJA i Srbija imaju partnerstvo koje omogućava Moskvi i Beogradu da razgovaraju o najhitnijim pitanjima, ali Srbija bira svoj put razvoja, izjavio je Dmitrij Peskov, portparol ruskog lidera.
05. 06. 2026. u 11:49
NEMAČKA HITNO POZVALA RUSIJU: Putine, vreme je...
MINISTAR spoljnih poslova Nemačke, Johan Vadeful, pozvao je ruskog predsednika, Vladimira Putina, da pokrene pregovore o miru u Ukrajini uz učešće Evrope, prenose nemački mediji.
05. 06. 2026. u 09:53
NASTAJE NOVA DRŽAVA? Srpske komšije se ujedinjuju sa susedima - za moćnu državu od 22 miliona duša i 272.200 km²
"UNIONISTIČKI pokret je oduvek postojao i on je i dalje živ unutar našeg društva. Nesumnjivo je da je ova diskusija legitiman deo političkog procesa u zemlji. Ja lično nikada ne bih mogao da glasam protiv ujedinjenja."
02. 06. 2026. u 21:24
Najnovije iz rubrike
NAUČNICI SU "ODŠTAMPALI" BIFTEK: Evo šta su koristili i zašto
DA LI bismo u budućnosti mogli da jedemo bifteke koji nisu došli sa farme, već su nastali u laboratoriji, na 3D štampaču?
05. 06. 2026. u 23:00
HOROSKOPSKI ZNACI KOJI LAKO ČITAJU LJUDE: Prepoznaju laž čim je neko izgovori
ZNAKOVI koji prepoznaju laž ne traže dokaze, oni osete promenu u glasu i pogledu. Saznajte ko vas čita kao otvorenu knjigu.
05. 06. 2026. u 22:00
RUSKI KOSMONAUTI NA MSS: Sanirano prvo mesto curenja vazduha, u toku priprema za zatvaranje drugog
SAMO nekoliko sati nakon što je otkriveno curenje vazduha na Međunarodnoj svemirskoj stanici a NASA stavila astronaute u stanje pripravnosti za evakuaciju, ruski kosmonauti uspeli su hermetički da zatvore jedno od dva mesta na kojima je otkriveno curenje vazduha u modulu "Zvezda".
05. 06. 2026. u 21:45
DNEVNI HOROSKOP ZA SUBOTU, 6. JUN: Bik u sukobu sa šefovima, Devica da pazi na finansije, Škorpija odlaže planove, Ribe da se čuvaju prevara
SAZNAJTE šta vas u petak, 6. juna, očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
05. 06. 2026. u 20:00
MNOGI GREŠE: Ovo povrće nikako ne treba da držite u frižideru
NEKE namirnice se bolje čuvaju na sobnoj temperaturi. Čuvanje u frižideru može da im pokvari teksturu i ukus.
05. 06. 2026. u 20:00
Komentari (0)