KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
Dodaj Novosti kao svoj Google izvor
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Klikni na zvezdicu u gornjem desnom uglu i zaprati Novosti na Google News platformi
Pročitajte više
NOVAC JE BIO PROBLEM: Zašto je Vesna Dedić morala da ode sa televizije? "Ne volim da kukam..."
VESNA Dedić je otvoreno govorila o odlasku sa RTS-a, iznosu plate i životnim izazovima koje je prolazila kao samohrana majka i javna ličnost.
25. 06. 2026. u 08:35
EMOTIVNO, DžEKO RASPLAKAO SVE: Vidite kome je poklonio dres posle meča sa Katarom (VIDEO)
POGLEDAJTE video koji je nastao posle pobede BiH...
25. 06. 2026. u 11:20
NAKON DIVLjANjA ZBOG IZMENE Selektor BiH progovorio: "Edin Džeko - uvek isto!"
EDIN Džeko izazvao pažnju na meču protiv Katara kada je razbio flašicu i odgurnuo trenera.
25. 06. 2026. u 13:15 >> 18:02
"ZAUVEK ĆEŠ BITI DEO MENE..." Tuga u domu porodice Rodić, potresne reči Bogdanine sestre (FOTO)
TUŽNA vest pogodila je čitavu porodicu Rodić...
25. 06. 2026. u 09:04
KAKO RASHLADITI KUĆU BEZ KLIME? Stari indijski trik, razlika se oseti za par minuta
EVO kako su se u Indiji rashlađivali pre klima uređaja...
25. 06. 2026. u 12:10
VUK (13) SVIRA, A ROBOTI IGRAJU "MORAVAC": Pripreme za skup "Srbija jedna porodica"
VUK (13) SVIRA, A ROBOTI IGRAJU "MORAVAC": Pripreme za skup "Srbija jedna porodica"
23. 06. 2026. u 11:44
TRAMP POTPISAO NAREDBU 13219: "Dejtonski sporazum i Rezolucija 1244 se moraju poštovati"
PREDSEDNIK Sjedinjenih Američkih Država Donald Tramp produžio je danas vanredno stanje na nacionalnom nivou u vezi sa Zapadnim Balkanom, u skladu sa Zakonom o međunarodnim vanrednim ekonomskim ovlašćenjima, objavljeno je danas na sajtu Federalnog registra SAD.
24. 06. 2026. u 17:38 >> 17:45
UDARNO: Zelenski tvrdi da je Lukašenko prihvatio ultimatum
KOMUNIKACIONA oprema za koju Ukrajina tvrdi da je pomagala u podršci ruskim napadima dronova sa teritorije Belorusije prestala je da radi, rekao je predsednik Ukrajine Vladimir Zelenski novinarima danas, nekoliko dana nakon što je izdao ultimatum beloruskom predsedniku Aleksandru Lukašenku.
24. 06. 2026. u 18:41
Mesi pitao hrvatskog fudbalera: "DA LI SI NORMALAN", on kaže: "Ugasio sam ga!"
SA DVA gola u pobedi Argentine nad Austrijom, kapiten "Gaučosa" je oborio čak četiri rekorda Mundijala, od kojih je najbitniji onaj da je postao najbolji strelac svih vremena na Svetskim prvenstvima. Kota "18" - trenutna.
23. 06. 2026. u 16:05
Najnovije iz rubrike
RUSE NA FRONTU NAPALE "BABE JAGE": Ukrajina poslala nova leteća čudovišta, komandant se hitno oglasio i otkrio kako "ubiti" zveri (VIDEO)
UKRAJINA proizvodi teške dronove-koptere na optičkom vlaknu kako bi se zaštitila od sredstava za radio-elektronsku borbu (REB), a oni se obaraju, između ostalog, i protivavionskim topovima, izjavio je komandir voda PVO motorizovanog streljačkog puka grupacije „Jug“ sa pozivnim znakom Varjag.
26. 06. 2026. u 00:02
"OVAKO JE PROPAO SSSR" RUSKI OLIGARSI ŠURUJU SA UKRAJINOM: Ovako planiraju da unište Putina i njegovo nasleđe
NA nekim benzinskim pumpama u Moskvi i Moskovskoj oblasti, cena benzina AI-95 je prešla 100 rubalja po litru — to je već nivo u Ukrajini, gde su cene benzina čak i pale.
25. 06. 2026. u 23:46
ZELENSKI ODOBORIO 40-DNEVNU OPERACIJU SBU PROTIV RUSIJE: "Prinudićemo Moskvu da okonča rat"
UKRAJINSI predsednik Vladimir Zelenski izjavio je danas da je odobrio 40-dnevnu operaciju Službe bezbednosti Ukrajine (SBU), da bi izvršio uticaj na Rusiju i kako bi je "podstakao da okonča rat".
25. 06. 2026. u 23:27
MASK POTVRDIO DA JE USAID FINANSIRAO MAJDAN: Odgovorni za smrt 315.000 ljudi
AMERIČKI preduzetnik Ilon Mask saglasio se sa tvrdnjom da je Američka agencija za međunarodni razvoj (USAID) finansirala proteste na Majdanu u Ukrajini 2014. godine.
25. 06. 2026. u 22:53
"ČUJEM POLJSKI, UBACUJU IH U BAHMUT" Prigožinove reči iz 2023. tačne! - Rusi u Konstantinovki naleteli na tvrd orah - ali ne na Ukrajince
VIŠE ruskih izvora saopštilo je da pripadnici poljskih plaćeničkih formacija imaju sve značajniju ulogu u ukrajinskim jurišnim jedinicama, što, prema tim izvorima, odražava širi trend sve većeg oslanjanja Ukrajine na strane plaćenike u ratnim dejstvima, pri čemu su Poljaci navodno među najzastupljenijima.
25. 06. 2026. u 22:47
Komentari (0)