KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
SPREMITE SE, STIŽE RETROGRADNI MERKUR: Donosi probleme u komunikaciji i povratak problema iz prošlosti
SPREMA nam se retrogradni Merkur, evo šta će doneti vašem horoskopskom znaku!
14. 07. 2025. u 14:46
"NE MOŽE DA NAĐE 15 MINUTA": Sin je nije posetio 4 meseca - potresna ispovest Vedrane Rudanove o borbi sa rakom
KNjIŽEVNICA Vedrana Rudan je prošle godine otkrila da boluje od raka, a sada je na svom blogu napisala šta ju je duboko potreslo.
14. 07. 2025. u 15:25
HOĆETE LI JE SAD JESTI? Šta dinja uradi organizmu kad se unese
POREKLO vuče iz Azije i Afrike, a već su je stari Egipćani i Rimljani cenili kao poslasticu.
14. 07. 2025. u 14:49
RAZVODI SE IGOR KOJIĆ: Krah braka nakon pet meseci, haos krenuo u maju
KAKO tvrde domaći mediji, Igor i Sofija su zbog čestih nesporazuma u poslednja dva meseca imali dosta nesuglasica
14. 07. 2025. u 20:33
DRUŽIO SE SA TITOM, IMAO AFERU SA DžEKI KENEDI: Zvali su ga "KRALj ITALIJE", živeo je bajku, a onda je sve propalo!
ĐANI Anjeli bio je najpoznatiji Italijan prošlog veka. Zvali su ga Advokat, ali on se advokaturom nikad nije bavio niti je zbog toga bio poznat.
14. 07. 2025. u 12:50
KO JE JANE VESELINOV - NOVI DEČKO JELENE DOKIĆ? Nakon životnog pakla, konačno srećna: "Ti si moje mirno i sigurno mesto" (FOTO)
MENADžER, zaljubljenik u vino i hranu...
14. 07. 2025. u 21:16
FRANCUSKI DOKUMENT: Rusija će napasti Balkan za tri do pet godina, Evropi preti veliki rat
FRANCUSKE vlasti smatraju da je 2030. godine moguć veliki sukob u Evropi, a u koji bi bila uvučena Francuska i njeni saveznici, navodi se u „Strateškom nacionalnom pregledu“ te zemlje za 2025. godinu.
15. 07. 2025. u 11:22
"ZAŠTO NE UDARIŠ NA MOSKVU?!" Detalji razgovora Trampa i Zelenskog, na Rusiju će padati rakete koje Srbi pamte po zlu?
AMERIČKI predsednik Donald Tramp razmatra mogućnost da Ukrajini pošalje krstareće rakete Tomahavk, prenosi Vašington post pozivajući se na izvor upoznat sa razgovorima u Beloj kući. Navedene rakete se još uvek ne nalaze na zvaničnom spisku, ali bi mogle biti uključene u kasnijim paketima pomoći.
15. 07. 2025. u 09:36
Naučnici ajkulama spustili mrtvu kravu na 1.629 metara dubine - nisu mogli da veruju šta su ribe uradile (VIDEO)
"TO POKAZUJE strategiju preživljavanja kod vrsta koje se ne hrane usamljeno."
14. 07. 2025. u 13:06
Najnovije iz rubrike
AMERIKA RASPOREĐUJE NOVE LOVCE F-15 NA OKINAVU: Počinje priprema za sukob sa Kinom?
VAŠINGTON ubrzava modernizaciju snaga u Indo-Pacifiku, a baza Kadena postaje centar američke vazdušne moći nadomak Tajvana.
15. 07. 2025. u 14:09
"RUSIJA ŽELI DA SHVATI" Lavrov: Šta stoji iza Trampove izjave o roku od 50 dana
RUSIJA želi da shvati šta stoji iza izjave američkog predsednika Donalda Trampa o roku od 50 dana za postizanje rešenja za Ukrajinu, rekao je ruski ministar spoljnih poslova Sergej Lavrov, podsetivši da je američki lider i ranije više puta iznosio različite rokove.
15. 07. 2025. u 14:01
NI TOMAHAVK, NI ATAKAMS: Ove rakete će Tramp poslati Ukrajini? Mogu da se lansiraju sa F-16
UKRAJINA možda dobija dalekometne rakete JASSM, koje bi se lansirale sa F-16. Još jedno od nagađanja, direktno uzrokovano najavom predsednika Donalda Trampa da će sada i javno SAD ponovo podržati ukrajinsku armiju.
15. 07. 2025. u 13:40
"ZA KIJEV SU TO SIGNALI ZA RAT" Peskov: Nove izjave Donalda Trampa su veoma ozbiljne
ODLUKU Vašingtona i njegovih satelita u NATO i EU o isporukama oružja u Kijevu doživljavaju ne kao signal za mir, već kao signal za nastavak rata, rekao je portparol Kremlja Dmitrij Peskov.
15. 07. 2025. u 12:26
BIO SLOVEN? Nađen grob viteza, a pre toga i najstarija crkva - bio NATPROSEČNO visok i jak
ARHEOLOZI u poljskom Gdanjsku pronašli su ostatke muškarca za kog se veruje da je bio srednjovekovni vitez, i to na mestu gde se nekada nalazila popularna poslastičarnica. Tokom iskopavanja otkriven je nadgrobni spomenik iz 13. ili 14. veka koji prikazuje viteza u oklopu, sa štitom i mačem.
15. 07. 2025. u 12:12
Komentari (0)