KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
GRAD U KOME NE SMETE DA UMRETE: 70 godina NIJEDAN pokojnik - evo zašto (VIDEO)
ČAK ni ako ste stanovnik ovog grada ne smete da umrete na ovom mestu.
22. 02. 2025. u 21:55
SKANDAL U SAD: "Otac mog sina je Ilon Mask, tražim DNK test - začeli smo ga u januaru 2024. u romantičnoj vezi"
SENT Kler tvrdi da je Mask "priznao roditeljstvo deteta u raznim pisanim prepiskama", uključujući razmenu tekstualnih poruka nakon rođenja R.S.C.
22. 02. 2025. u 19:08 >> 20:23
"MORAJU DA PRIČAJU SRPSKI! JA MOGU DA POBEGNEM, ALI NATALIJA..." Nikola Jokić o ženi, deci, privatnom životu
NAJBOLjI košarkaš sveta Nikola Jokić ne voli preterano da priča o privatnim stvarima, međutim u jednoj emisiji ipak se dotakao i te teme.
22. 02. 2025. u 09:07
ŠOK: Pobednik nacionalnog takmičenja ODBIO da učestvuje na Evroviziji
"SVESTAN sam da je to jedna od onih stvari koje vam se dešavaju možda samo jednom u životu."
22. 02. 2025. u 20:20 >> 20:24
RASPARČAVANjE HRVATSKE: Šešelj o podeli Balkana posle pregovora Rusa i Amera (VIDEO)
PREDSEDNIK SRS dr Vojislav Šešelj izjavio je da očekuje da će Rusi imati ozbiljne pregovore sa Amerikancima.
21. 02. 2025. u 18:38
UMRO MIROSLAV RADONjIĆ Pozorište se oprostilo: "Sa velikom tugom primili smo vest o smrti našeg nekadašnjeg upravnika"
DETALjI o sahrani biće naknadno objavljeni.
22. 02. 2025. u 20:34
PUTIN OTKRIO ZASTRAŠUJUĆE DETALjE O "OREŠNIKU" Bojeva glava izdržava temperaturu kao na Suncu
RUSKI predsednik Vladimir Putin izjavio je da bojeve glave hipersoničnog sistema "orešnik" mogu da izdrže ekstremne temperature, uporedive sa temperaturom na površini Sunca.
21. 02. 2025. u 14:16
NOVINARIMA REKLA SAMO OVU REČENICU: Bivša gradonačelnica Niša sa lisicama na rukama sprovedena u zgradu UKP-a u Nišu (FOTO/VIDEO)
BIVŠA gradonačelnica Niša, Dragana Sotirovski, koja je danas privedena u velikoj akciji policije protiv korupcije, sa lisicama na rukama dovedena je u zgradu Uprave kriminalističke policije u Nišu.
21. 02. 2025. u 13:38
TAST OČITAO LEKCIJU VELjKU Šta je poručio zetu: "To u Beogradu nije mogao videti"
BOGDAN Rodić, otac Bogdane Ražnatović, jednom prilikom govorio je o najmlađoj ćerki koja je danas udata za Veljka Ražnatovića. Bogdan je tada naveo da je odmah na početku veze skrenuo pažnju Veljku pažnju na to kakva je njegova Bogdana.
22. 02. 2025. u 12:26
Najnovije iz rubrike
PREDAJTE PAPIROLOGIJU ILI PODNESITE OSTAVKU: Federalni agenti dobili mejl od DOGE
FEDERALNI radnici dobili su u subotu popodne imejl u kojem se od njih traži da navedu sve što su uradili protekle nedelje, a ukoliko to ne urade moraju da podnesu ostavke.
23. 02. 2025. u 00:52
DUDA POSLE SASTANKA SA TRAMPOM: "Očekujem jačanje saradnje Amerike i Poljske"
POLjSKI predsednik Andžej Duda izjavio je posle kratkog susreta sa američkim predsednikom Donaldom Trampom, na marginama konferencije Konzervativne političke akcije (CPAC) kraj Vašingtona, da je zaključio da SAD neće povlačiti svoje vojnike iz Poljske, već da će, naprotiv, jačati vojnu saradnju sa Varšavom.
23. 02. 2025. u 00:34
RAT U UKRAJINI: Rusija će ojačati svoje vojne kapacitete; U Konstantinovki spasioci iz ruševina izvukli telo žene
RAT u Ukrajini-1.095. dan.
22. 02. 2025. u 06:55 >> 00:17
EKSPLODIRALA GRANATA STARA 25 GODINA: Dvoje dece poginulo u Kambodži
DVOJE dece poginulo je u ruralnom delu Kambodže, kada je u blizini njihovih kuća eksplodirala granata, za koju se pretpostavlja da je stara više od 25 godina, saopštili su lokalni zvaničnici.
22. 02. 2025. u 23:42
JEDAN PILOT MRTAV, DRUGI POVREĐEN: Pucnjava u vazduhoplovnoj bazi u Novom Meksiku
JEDAN pilot je mrtav, a drugi ranjen iz vatrenog oružja tokom pucnjave u kojoj su učestvovale snage bezbednosti u bazi Kirtland u Novom Meksiku rano u subotu.
22. 02. 2025. u 23:34
Komentari (0)