KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
DA LI VERUJETE? Koliko bi danas koštala "zastava 101"
NA SAMOM početku prodaje ovog modela tadašnja cena je iznosila - 40.040 dinara, odnosno 2.084 dolara.
02. 04. 2025. u 21:47
OVO JOŠ NISTE VIDELI: Luka Dončić dobio "svoj teren" na drugom kraju sveta (VIDEO)
Slovenački reprezentativac i košarkaš Los Anđeles Lejkersa Luka Dončić je velika zvezda NBA lige, ali i košarkaški ljubimac širom sveta.
02. 04. 2025. u 21:00
"Želeli su da me iskoriste i ponize - ceo život se borim sa njima"
"CEO život se borim sa kritikama"
02. 04. 2025. u 15:59
"NISMO BLISKI" Iskra o Voji: Nikad mu nisam bila prioritet, postoje ti "roditelji narcisi"
ĆERKA Voje Brajovića, glumica Iskra, svojevremeno je otkrila da sa svojim ocem Vojom nema baš savršen odnos.
02. 04. 2025. u 11:00
"BRACO NAJMILIJI, VOLjENI NE UMIRU NIKAD" Bolne čitulje posvećene Željku Rutoviću
JEDAN je od retkih učesnika filma "Vidimo se u čitulji" koji su preživeli burne devedesete, preminuo je 31. marta u Italiji.
02. 04. 2025. u 13:12
BIVŠI ŠAMPION PRONAĐEN MRTAV U ZATVORSKOJ ĆELIJI: Procureli stravični detalji zločina koji je počinio (VIDEO)
Sport je dobio novu tragičnu epizodu.
02. 04. 2025. u 12:33
RUSI ODBILI PREKID VATRE I GOMILAJU JAKE SNAGE KOD LIMANA: Sprema se velika ofanziva, ništa od mira u narednim mesecima!
JUČE je Moskva odbila mirovni predlog i prekid vatre na 30 dana sa Ukrajinom. Visoki zvaničnici Trampove administracije u poslednjim danima vode razgovore o tome da Vašington možda neće biti u stanju da izdejstvuje prekid vatre između Rusije i Ukrajine u narednim mesecima. Za to vreme, Moskva gomila trupe u Donjeckoj oblasti i sprema se za veliku ofanzivu.
02. 04. 2025. u 14:59
SRBI VIŠE NE MOGU DA PUTUJU BESPLATNO U OVU EVROPSKU ZEMLjU: Treba vam posebna dozvola, evo koliko košta
EVROPSKI državljani koji putuju u Veliku Britaniju od danas moraju imati digitalnu propusnicu za ulazak u zemlju, za koju britanska vlada tvrdi da će poboljšati bezbednost granica.
02. 04. 2025. u 10:16
JEDAN RAKIJA, A DRUGI... Nećete verovati KAKO se zovu psi novog ambasadora SAD u Srbiji Marka Brnovića
MARK Brnović je uvek ponosno isticao svoje poreklo, uostalom ćerke mu se zovu - Milena i Sofija.
31. 03. 2025. u 19:31
Najnovije iz rubrike
IZRAEL MENJA PRISTUP U GAZI Netanjahu: "Snage IDF preuzimaju Morag" (VIDEO)
PREMIJER Izraela Benjamin Netanjahu izjavio je danas da izraelska vojska (IDF) uspostavlja novi bezbednosni koridor preko južnog dela Pojasa Gaze.
02. 04. 2025. u 23:55
AMERIKU SU PLJAČKALI I PRIJATELJI I NEPRIJATELJI Tramp najavio potpisivanje nove uredbe: "Danas imamo veoma, veoma dobre vesti"
AMERIČKI predsednik Donald Tramp tokom svog obraćanja iz Ružinog vrta u Beloj kući povodom "Dana oslobođenja", izjavio je da će uskoro potpisati "istorijsku izvršnu uredbu kojom se uspostavljaju recipročne tarife za zemlje širom sveta".
02. 04. 2025. u 22:26
SNIMAK HAPŠENJA NASTAVNICE KRISTINE: Sumnja se da je silovala učenika (15), sad grca u suzama (VIDEO)
UDATA nastavnica u Ilinoisu, optužena za zlostavljanje jednog od svojih učenika tinejdžera, slomila se u jecajima nakon što je saznala za optužbe sa kojima se suočila, pokazali su novi snimci njenog hapšenja.
02. 04. 2025. u 22:24
"MASK ĆE OTIĆI KAD ZAVRŠI POSAO": Bela kuća razrešila sve nedoumice oko odlaska milijardera (FOTO)
AMERIČKI medij Politiko ranije danas je objavio kako je predsednik Sjedinjenih Američkih Država Donald Tramp rekao svojim bliskim saradnicima da će milijarder Ilon Mask uskoro napustiti svoju poziciju u vladi.
02. 04. 2025. u 21:52
OŠTAR DEMANT BELE KUĆE: Volc i NSC nisu koristili lične mejlove za slanje poverljivih materijala
SAVETNIK za nacionalnu bezbednost američkog predsednika Donalda Trampa Majk Volc i članovi Saveta za nacionalnu bezbednost (NSC) nikada nisu koristili svoj lični mejl nalog za slanje poverljivih materijala, saopštila je danas Bela kuća.
02. 04. 2025. u 21:19
Komentari (0)