KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
Dodaj Novosti kao svoj Google izvor
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Klikni na zvezdicu u gornjem desnom uglu i zaprati Novosti na Google News platformi
Pročitajte više
2 dana posle smrti: Žena mu umrla nakon 6 decenija braka, a onda je našao njenu poruku u novčaniku
"TAMO gde ćemo se opet sresti..."
01. 06. 2026. u 20:52
"DESILO SE NEŠTO ČUDNO - PRIZIVAO SAM DUHOVE" Holuvudski superstar ušao u Teslinu sobu i šokirao se
MEĐU brojnim slavnim ličnostima koje su impresionirane delima Nikole Tesle nalazi se i Nikolas Kejdž. Igrao je 2010. u filmu koji se dotiče rada čuvenog Nikole Tesle.
01. 06. 2026. u 19:27 >> 19:28
ŽIKA PROGOVORIO O JK: "Bio sam s njom 6 meseci, zvao sam je Jelenče, verujte mi - ona je sjajan lik"
ŽIKU Jakšića je svojevremeno jedna takmičarka u emisiji "Nikad nije kasno" izgledom podsetila na Jelenu Karleušu, te se voditelj prisetio turneje na kojoj su bili zajedno.
01. 06. 2026. u 20:35
"VEROUČITELjU, KOJA JE NAJVAŽNIJA DUŽNOST ŽENE U BRAKU?" Sveštenik Bojan sve oduševio i nasmejao - jednostavan odgovor
RAZGOVORI sa decom na kraju školskog časa često umeju da odu u pravcu koji niko nije očekivao, a upravo jedna takva situacija dogodila se svešteniku i veroučitelju Bojanu Krstanoviću.
02. 06. 2026. u 09:46
Nestvarna ljubavna priča Halida i Sejde i tragedija zbog koje su imali samo jedno dete
SUPRUGA legendarnog pevača Halida Bešlića, Sejda Bešlić, preminula je danas nakon duže bolesti.
01. 06. 2026. u 21:33
HRVAT SE POLIO BENZINOM I ZAPALIO ZBOG DRLjAČE: "Celog života se borim protiv Srba, a on peva u mom selu!" Bora nije mogao da razume mržnju
HRVAT Stojan Celiščak (1970), učesnik rata u kojem se raspala bivša Jugoslavija, polio se benzinom, a potom zapalio u znak protesta jer je pokojni srpski pevač Bora Drljača svojevremeno imao koncert u njegovom rodnom mestu Lepavina, nadomak Kostajnice.
01. 06. 2026. u 23:16
"TREBA ODATI PRIZNANjE VUČIĆU I SRBIJI, MORAMO ZAŠTITI SRBE OD KURTIJA" Montgomeri očitao lekciju medijima u CG o Kosovu i Metohiji
U INTERVJUU za crnogorski "Dan", Vilijam Montgomeri, bivši američki ambasador u SR Jugoslaviji, osvrnuo se na situaciju na Kosovu i Metohiji.
15. 05. 2026. u 13:16
KRAĐA VEKA U NBA! Nikola Jokić ovakvu nepravdu nije zaslužio, bruka i sramota
NBA liga donela je odluku o MVP igraču NBA lige!
17. 05. 2026. u 16:04 >> 16:14
NAJBOGATIJA PEVAČICA BALKANA: Maja za godinu zaradila 92 miliona i PRESTALA DA PEVA na svadbama
PRE tačno tri godine, pevačica je donela iznenađujuću odluku da trajno prestane da peva na svadbama.
26. 05. 2026. u 20:30
Najnovije iz rubrike
OD BALTIČKOG DO CRNOG MORA: NATO posle incidenta sa dronom u Rumuniji jača istočno krilo
NATO planira da usmeri dodatne snage na istočno krilo Evrope posle incidenta sa dronom u Rumuniji, izjavio je komandant Vojnog komiteta Alijanse, admiral Đuzepe Kavo Dragone.
02. 06. 2026. u 13:49
TRAMVAJ IZLETEO IZ ŠINA: Povređeno najmanje 20 osoba (VIDEO)
NAJMANjE 20 ljudi je povređeno, od kojih troje teže u saobraćajnoj nesreći u Berlinu, kada je tramvaj iskočio iz šina na krivini u istočnom delu grada.
02. 06. 2026. u 13:44
LAVROV POTVRDIO: Rusija ostaje pouzdan snabdevač Jugoistočne Azije energentima i hranom
RUSIJA je bila i ostala pouzdan snabdevač energentima i prehrambenim proizvodima za sve zemlje Jugoistočne Azije, izjavio je ministar spoljnih poslova Rusije Sergej Lavrov u video-obraćanju povodom 50 godina od uspostavljanja diplomatskih odnosa između Rusije i Filipina, prenosi TASS.
02. 06. 2026. u 13:15
U TOKU VELIKA OPERACIJA NEMAČKE POLICIJE: Naoružan muškarac se zabarikadirao u baru, na teren upućene teško naoružane jedinice
NAORUŽANI muškarac navodno se zabarikadirao u jednom baru u centru nemačkog grada Rendsburga na severu zemlje.
02. 06. 2026. u 13:03
"RAT BI MOGAO DA SE ZAVRŠI DO KRAJA DANA": Iz Kremlja otkrili uslov - Zelenski treba da uradi jednu stvar
RAT u Ukrajini će se nastaviti ako Kijev nastavi da odbija "istinske" pregovore i ozbiljne odluke o mirnom rešenju, izjavio je danas portparol Kremlja Dmitrij Peskov, istakavši da Rusija ostaje otvorena za mirovne pregovore o Ukrajini.
02. 06. 2026. u 12:57
Komentari (0)