KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
TRAMP UKRAO ŠOU NA ŽREBU ZA SP: Scena koja je obišla svet - Melanija nije krila oduševljenje (VIDEO)
AMERIČKI predsednik Donald Tramp bio je u centru pažnje na izvlačenju grupa za Svetsko fudbalsko prvenstvo 2026. godine, gde je izveo svoj poznati YMCA ples i primio prvu FIFA-inu nagradu za mir.
06. 12. 2025. u 10:31
U SRBIJU STIŽU "NEVIDLjIVI" RADARI: Ne vidiš ih dok snimaju prekršaje - kazne dolaze automatski, a evo kako izgledaju u Nemačkoj
NOVI Zakon o bezbednosti u saobraćaju koji bi trebalo da bude završen do kraja ove godine, dok je njegovo usvajanje najavljeno za januar 2026. godine, donosi i nove "nevidljive" radare koji će pored novine - merenja prosečne brzine kretanja vozila, meriti i ostale prekršaje. Kako je najavljeno, kazne će automatski stizati i bez prisustva policije, dok vozači neće znati gde će se tačno nalaziti, čak ni "Viber grupe" neće moći da ih upozore.
06. 12. 2025. u 08:33
OBJAVILI LISTU NABOLjIH KUHINjA SVETA: Evo koje je mesto zauzela Srbija
TASTE ATLAS, svetska enciklopedija jela i ukusa, objavio je godišnju listu najboljih kuhinja i jela. Najbolja kuhinja na svetu ove godine je italijanska, sa prosečnom ocenom 4.64. Druga je Grčka (4.60), a treći Peru (4.54). Ovogodišnji rezultat temelji se na 590.228 ocena za 16.357 jela.
06. 12. 2025. u 12:36
AJNŠTAJNOVA MOZGALICA: Zna da je reši samo 2% ljudi na svetu
MOZGALICU Alberta Ajnštajna brzo rešavaju retki, tek samo dva posto ljudi na svetu.
05. 12. 2025. u 19:35
DRSKO: Jelisaveta Orašanin BEZ DONjEG VEŠA šeta ulicom (FOTO)
GLUMICA Jelisaveta Orašanin ponovo je privukla svu pažnju kada se pojavila u kombinaciji koja je izazvala pravu buru na mrežama.
06. 12. 2025. u 20:35
STAND UP OPERA SRPSKOG BOČELIJA – OVACIJE ZA NEMANjU CRNATOVIĆA NA PRVOM KONCERTU U FONDACIJI MOZZART
„MUZIKA se ne gleda, muzika se slušaˮ, poručio je supertalentovani tenor posle dva sata spektakla.
25. 11. 2025. u 16:27
EKSKLUZIVNO - URANIJUM I TEŠKI METALI OTKRIVENI U TKIVU GENERALA PAVKOVIĆA: Iz italijanske laboratorije stigli rezultati analiza (FOTO)
U TUMORSKOM tkivu generala Nebojše Pavkovića, koje je 15. septembra poslato na analize u specijalizovanu laboratoriju u Italiji, pronađeni su uranijum i teški metali u ekstremno visokim koncentracijama!
29. 11. 2025. u 08:00
OTAC PADAO U NESVEST, HITNA INTERVENISALA NEKOLIKO PUTA Mučne scene na sahrani Ane Radović - Iz porodične kuće je ispratili na večni počinak
DANAS je na Zlatiborskom groblju sahranjena Ana Radović iz Čajetine, koja je poginula u teškoj sabraćajnoj nesreći na magistralnom putu kod Čačka.
28. 11. 2025. u 14:45
TRAMP UKRAO ŠOU NA ŽREBU ZA SP: Scena koja je obišla svet - Melanija nije krila oduševljenje (VIDEO)
AMERIČKI predsednik Donald Tramp bio je u centru pažnje na izvlačenju grupa za Svetsko fudbalsko prvenstvo 2026. godine, gde je izveo svoj poznati YMCA ples i primio prvu FIFA-inu nagradu za mir.
06. 12. 2025. u 10:31
Najnovije iz rubrike
HITNO UPOZORENJE: Stiže zimska oluja, temperatura i do -20
OKO 19 miliona stanovnika u više saveznih država na zapadu i srednjem zapadu SAD nalazi se pod upozorenjem na sneg, led i mećave, dok kroz region prolazi snažan zimski olujni sistem.
06. 12. 2025. u 22:41
SNAŽAN ZEMLJOTRES POGODIO GRČKU: Epicentar lociran južno od Patre
Zemljotres magnitude 4,7 stepeni po Rihterovoj skali zabeležen je u subotu, 6. decembaar 2025. godine u 21,48 časova, na području Grčke.
06. 12. 2025. u 22:30
POTRESAN SNIMAK Stočar se oprašta od 450 ovaca - smrt jedne rase ZAUVEK! "Kao da nam ubijaju decu pred očima" (VIDEO)
REČ je o poslednjim čistokrvnim grlima ove istorijske lokalne rase, koja je generacijama uzgajana u regionu.
06. 12. 2025. u 22:30
DRAMATIČNO SAOPŠTENJE: "Černobiljski štit ne može više da blokira radijaciju"
ŠTIT je postavljen da bi se zadržao radioaktivni materijal preostao posle katastrofe iz 1986. godine.
06. 12. 2025. u 22:06
RUSI ŽESTOKO NADIRU NA VIŠE FRONTOVA Ukrajinci priznaju: Odbrana se raspada, nema izlaza
DOK SE iza kulisa odvijaju razgovori o mirovnom planu koji promoviše predsednik SAD Donald Tramp, situacija na ukrajinskom ratištu postaje sve teža. Ruske snage napređuju na nekoliko frontova, a predsednik Vladimir Putin, ohrabren uspesima na terenu, ne odustaje od svojih maksimalističkih zahteva.
06. 12. 2025. u 22:06
Komentari (0)