Svet

KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo

Novosti online

12. 08. 2024. u 21:22 >> 21:23

OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole

КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо НЕ, па имитирао глас корисника-потпуно језиво

OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je od‌jednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.

Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.

Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.

OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.

Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.

(Telegraf)

BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba

Preporučujemo

BUDITE LJUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo

Ekonomija

0 2

BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo

27. 07. 2024. u 00:45

PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske

Obrazovanje

0 1

PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske

23. 07. 2024. u 13:53

OTKRIVEN TAMNI KISEONIK: Pronađene metalne grudve na dnu okeana koje proizvode sopstveni kiseonik

Svet

0 0

OTKRIVEN "TAMNI KISEONIK": Pronađene metalne grudve na dnu okeana koje proizvode sopstveni kiseonik

23. 07. 2024. u 07:20

ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u DŽordžiji

Panorama

0 0

ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji

22. 07. 2024. u 14:29

Pratite nas i putem iOS i android aplikacije

Pratite vesti prema vašim interesovanjima

Svet

0 14

NOVE SVETSKE SILE UKLjUČILE SE U SUKOB U UKRAJINI: "Dve na strani Putina, dve žestoko protiv Rusa"

SUMNjE u podršku SAD Ukrajini u slučaju pobede Donalda Trampa na predsedničkim izborima mučile su sve one kojima je cilj da se Kijev obrani od ruske agresije. Tramp je pobedio i tek treba videti u kom će smeru krenuti njegova politika, ali sva ta dešavanja zasenila su drugi važan odnos u tom, ionako komplikovanom, odnosu.

22. 11. 2024. u 09:14

RUSIJA POSTALA GLAVNI IGRAČ U EVROPI: Ovo se desilo prvi put od proleća 2022. godine

Ekonomija

0 4

RUSIJA POSTALA GLAVNI "IGRAČ" U EVROPI: Ovo se desilo prvi put od proleća 2022. godine

RUSIJA je u septembru prvi put od proleća 2022. postala glavni snabdevač gasom Evropske unije, prenosi RIA Novosti, pozivajući se na podatke Evrostata.

21. 11. 2024. u 11:32

SKANDAL TOKOM POSETE Snimak Makrona: Oni su totalni kreteni, rekao posle povika da je Francuska odgovorna za krvoproliće

Svet

0 0

SKANDAL TOKOM POSETE Snimak Makrona: "Oni su totalni kreteni", rekao posle povika da je "Francuska odgovorna za krvoproliće"

"ONI si potpuni kreteni", rekao je francuski predsednik Emanuel Makron o prelaznom telu i dodao da "nikada nisu smeli da ga smene".

22. 11. 2024. u 13:07 >> 13:17

Komentari (0)

Ostavi komentar

Najnovije iz rubrike

UBILA DESETOMESEČNU KĆERKU, PA POKUŠALA DA SE UBIJE: Porodična tragedija u Torinu

Svet

0 0

UBILA DESETOMESEČNU KĆERKU, PA POKUŠALA DA SE UBIJE: Porodična tragedija u Torinu

NESVAKIDAŠNjA porodična tragedija dogodila se u predgrađu Torina gde je majka ubila desetomesečnu kćerku, a zatim pokušala da sebi oduzme život, preneli su danas italijanski mediji.

22. 11. 2024. u 15:48

RAT U UKRAJINI: Hitan sastanak Ukrajine i NATO-a u Briselu

Svet

0 8

uživoRAT U UKRAJINI: Hitan sastanak Ukrajine i NATO-a u Briselu

RAT u Ukrajini – 1003. dan. Ruski predsednik Vladimir Putin rekao je da je Rusija, kao odgovor na napade američkim i britanskim dugodometnim raketama, na ukrajinsku teritoriju ispalila novu balističku raketu srednjeg dometa ''orešnik''. Predsednik Ukrajine Volodimir Zelenski reagovao je na izjavu ruskog predsednika rekavši da je time eskalirala situacija u ratu i da je prekršena Povelja UN.

22. 11. 2024. u 08:19 >> 14:21

Svet

0 2

SVI DETALJI PUTINOVE RAKETE PRED KOJOM KLEČI SVET: "Nemoćni smo protiv 'orešnika'" - Ukrajina priznala poraz (FOTO/VIDEO)

PREDSEDNIK Ruske Federacije Vladimir Putin je, nakon celodnevnih spekulacija, juče pojasnio da je projektil kojim su Rusi gađali ukrajinski grad Dnjepar navodno novo oružje po imenu "orešnik".

22. 11. 2024. u 14:15