KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
TRAMP, BRIŽIT, BAJDEN... Oni su napravili najveće modne greške na sahrani pape Franje, prekršili strogi protokol (FOTO)
PRE samo dva dana sahranjen je papa Franja i od tada ne jenjava priča o tome ko je ispoštovao, a ko grubo prekršio potokole...
28. 04. 2025. u 22:24
POJAVIO SE SNIMAK: Tajna prostorija u Cecinoj vili - za nju niko nije znao, a evo čemu služi (VIDEO)
NEDAVNO je isplivao snimak tajne prostorije za koju gotovo niko nije znao.
28. 04. 2025. u 20:37
"DESET PUTA NA DAN!" Lundgren otkrio tajnu braka sa 39 mlađom suprugom
ŠVEDSKI glumac Dolf Lundgren (67) neretko je u središtu medijske pažnje zbog braka sa 39 godina mlađom suprugom. Poznati par izrekao je sudbonosno "da" 2023. godine te iako je njihov brak relativno nov, zvezda filmova "Roki 4" te "Krid 2" objasnio je šta njegov odnos sa suprugom Emom Krokdal (28) čini snažnijim.
28. 04. 2025. u 11:04
JA SAM INSISTIRAO NA RAZVODU: Zbog čega je Žika ostavio Dajanu?
PAR se rastao bez mnogo pompe, pa se nagađalo zašto se nekadašnji par rastao.
28. 04. 2025. u 17:28
NE SKIDA OSMEH SA LICA: Bastijan je u Africi, a šta radi Ana? Prošetala golog stomaka, a evo i sa kim (FOTO)
BIVŠA teniserka nije skidala osmeh sa lica.
28. 04. 2025. u 18:27
UMRO OD GLADI? Zvanični uzrok Hekmanove smrti - otkriven dva meseca posle tragičnih vesti
ZVANIČNI uzrok smrti Džina Hekmana otkriven je – dva meseca posle njegove smrti. Džin je preminuo u 95. godini života u svojoj vili u Santa Feu, u saveznoj državi Novi Meksiko, a pronađen je 26. februara zajedno sa svojom suprugom Betsi Arakava, koja je imala samo 65 godina.
28. 04. 2025. u 07:28
ŠPANIJA PROGLASILA VANREDNO STANjE
MINISTARSTVO unutrašnjih poslova Španije proglasilo je vanredno stanje nakon današnjeg nestanka struje.
28. 04. 2025. u 21:32
MAKRON POSLE RUSKOG NAPADA: Hitno nam je potreban mir
RUSKI raketni napad na grad Sumi na severu Ukrajine naglašava hitnu potrebu za nametanjem primirja Rusiji, izjavio je danas predsednik Francuske Emanuel Makron.
13. 04. 2025. u 15:34
NE MOŽE DA SAKRIJE TUGU: Darko Lazić potpuno slomljen, javno se oglasio (FOTO)
PEVAČ se prisetio svog pokojnog oca...
28. 04. 2025. u 19:35
Najnovije iz rubrike
PROMENIO PLOČU: Zelenski poziva na prekid vatre
PREDSEDNIK Ukrajine Vladimir Zelenski tvrdi da svet ne želi da čeka do 8. maja da bi prekid vatre koji je najavio ruski predsednik Vladimir Putin bio na snazi samo nekoliko dana.
28. 04. 2025. u 23:00
RAT U UKRAJINI: Čečeni priredili pakao za nekoliko grupa VSU
RAT u Ukrajini- 1.160. dan.
28. 04. 2025. u 08:05 >> 22:55
PREDSEDNIK SAD PROTIV "NEPRIJATELJA NARODA" Tramp ankete koje pokazuju pad njegovog rejtinga nazvao lažnim
PREDSEDNIK SAD Donald Tramp je danas kritikovao ankete koje pokazuju pad njegovog rejtinga, nazivajući ih "lažnim" i navodeći da bi trebalo da budu "istražene".
28. 04. 2025. u 22:32
POPTUNI KOLAPS ENERGETSKOG SISTEMA: Zašto će obnavljanje struje Španije i Portugala biti noćna mora?
OBIČNO retko razmišljamo o tome koliko su elektroenergetske mreže neophodne i pouzdane — sve dok ne dođe do njihovog kolapsa. Sada, milioni ljudi širom Španije, Portugala i delova Francuske verovatno ne razmišljaju ni o čemu drugom. Dok su lokalni nestanci struje relativno česti, ono što se dogodilo na Iberijskom poluostrvu predstavlja mnogo ekstremniji slučaj.
28. 04. 2025. u 22:00
"FRANCUZI DA NE STREPE": Vlasti u Parizu su poručile da nema straha od širenja problema sa strujom iz Španije i Portugalije
CELA Španija i dobar deo Portugalije danas su bili bez struje.
28. 04. 2025. u 21:53
Komentari (0)