KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
NEMAČKA VOJSKA SE SPREMA ZA RAT: "Moralo bi da se računa sa 500 do 600 mrtvih na dan"
NOVE tenzije u Evropi i rastuća ruska pretnja, Putinov rat protiv Ukrajine - o čemu nemački mediji svakodnevno izveštavaju - utiču na mnoga područja.
07. 09. 2025. u 20:17
ANĐELA SE UDALA ZA ROĐAKA, RODILA MU DETE: Rizikovala i zatvor, porodica ih odbacila, a završilo se tragedijom
PRIČA o Anđeli Piang i Majklu Liju nije samo priča o zabranjenoj ljubavi, već i o borbi protiv društvenih tabua, porodičnih osuda i zakona koji su mogli da ih pošalju u zatvor.
08. 09. 2025. u 09:51
UMRO TVORAC "BOLjEG ŽIVOTA" Povredio se pre 2 meseca na snimanju, Lidija se potresla: "Divan čovek, mnogo mi je žao"
REŽIRAO je hit serije "Bolji život", "Policajac s Petlovog brda" i "Porodično blago", kao i ostvarenja "Stižu dolari", "Bela lađa", "Junaci našeg doba", "Igra sudbine", "Od jutra do sutra".
07. 09. 2025. u 21:55
Platio komšiji da mu OPLODI suprugu, tužio ga posle 72 neuspela pokušaja - usledio je nezamisliv OBRT
NEVEROVATNA priča koja se navodno dogodila pre nekoliko godina, a koja je dobila i sudski epilog, ponovno kruži društvenim mrežama, piše Feniks. Reč je o tada 29-godišnjem D. S. iz Štutgarta, koji je tužio svog komšiju F. M. jer nije ispunio obavezu iz ugovora.
08. 09. 2025. u 07:50
LjUDI U ŠOKU GLEDAJU ŠTA SE DEŠAVA U MORU U CRNOJ GORI: "Zna li neko šta je ovo, pogledajte kako se brzo kreće" (VIDEO)
NEOBIČAN snimak sa Jadranskog mora zbunio je i meštane i turiste.
06. 09. 2025. u 13:47
VLADA JAPANA OBJAVILA ŠOKANTNI SNIMAK, LjUDI SU U STRAHU: "Ne želimo da dižemo paniku već da se spremimo"
JAPANSKA vlada objavila je uznemirujući, veštački generisan video koji prikazuje scenario erupcije planine Fudži i posledice koje bi mogle pogoditi glavni grad Tokio i okolinu.
06. 09. 2025. u 13:44
SKANDAL U BRITANIJI, PORODICE U ŠOKU: Direktorka mrtvačnice gledala crtani film sa mrtvim bebama u svojoj kući
EJMI Apton (38), osnivačica udruženja Florrie’s Army u Lidsu u Engleskoj, našla se u centru velike afere nakon što su roditelji preminule dece otkrili da su tela njihovih beba držana u njenoj kući umesto u mrtvačnici.
27. 08. 2025. u 17:50
OVO JE DETALjAN SPISAK NAMIRNICA KOJIMA ĆE PASTI CENA: Nove ekonomske mere važne za građane
PRESEDNIK Srbije Aleksandar Vučić istakao je juče prilikom izlaganja o smanjenju marži na kućnu hemiju i prehrambene proizvode, a u okviru predstavljanja novih ekonomskih mera za građane, da sniženje koje će uslediti kao posledica ograničenja trgovačkih marži obuhvata 3000 proizvoda iz 23 grupe.
25. 08. 2025. u 13:15
NEMAČKA VOJSKA SE SPREMA ZA RAT: "Moralo bi da se računa sa 500 do 600 mrtvih na dan"
NOVE tenzije u Evropi i rastuća ruska pretnja, Putinov rat protiv Ukrajine - o čemu nemački mediji svakodnevno izveštavaju - utiču na mnoga područja.
07. 09. 2025. u 20:17
Najnovije iz rubrike
ZAŠTO NEMAČKA ŠALJE VOJSKU U LITVANIJU: Dugoročni plan - očekuje se priliv oko 8.000 vojnika NATO
EVROPA ulazi u novo poglavlje bezbednosne politike, a ovoga puta Nemačka i Litvanija preuzimaju aktivnu ulogu.
08. 09. 2025. u 08:50
TRAMP NAJAVIO: Razgovaraću sa Putinom u narednih nekoliko dana
PREDSEDNIK SAD Donald Tramp izjavio je da planira da u narednih nekoliko dana razgovara sa predsednikom Rusije Vladimirom Putinom.
08. 09. 2025. u 08:40
ODLUČUJUĆI DAN ZA FRANCUSKU: Parlament glasa o poverenju vladi Fransoa Bajrua
FRANCUSKI parlament danas će glasati o poverenju vladi premijera Fransoa Bajrua, a uprkos njegovim naporima da tokom vikenda obezbedi većinu koja bi podržala njegovu vladu, opozicioni lideri širom političkog spektra jasno su stavili do znanja da će glasati za njegovu smenu.
08. 09. 2025. u 07:40
NOVI RAZORAN ZEMLJOTRES POGODIO RUSIJU: Evo gde je bio epicentar
ZEMLjOTRES jačine 5,5 stepeni po Rihteru pogodio je protekle noći područje Tihog okeana u blizini istočne obale ruskog poluostrva Kamčatke, saopštio je jutros kamčatski ogranak Federalnog istraživačkog centra geofizičke službe Ruske akademije nauka.
08. 09. 2025. u 07:20
ORBAN NAJAVIO KRAJ EVROPSKE UNIJE: "Ako se nastavi ovako EU će ući u istoriju kao obeshrabrujući kraj plemenitog eksperimenta
EVROPSKA unija je u stanju raspada i bez radikalnih promena naredni sedmogodišnji budžet mogao bi biti poslednji, izjavio je premijer Mađarske Viktor Orban.
08. 09. 2025. u 07:18
Komentari (0)