KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
ŠTA JE "CRNI LED"? I zašto je toliko opasna pojava koja je okovala Beograd
DANAS su u Beogradu padavine izazvle velike gužve u saobraćaju.
21. 01. 2025. u 18:33
ĆERKA SRPSKE PEVAČICE NA TRAMPOVOJ INAUGURACIJI: Nikolina u prvim redovima, njenoj lepoti nije odoleo ni Madonin sin
PEVAČICA ne krije koliko je ponosna na naslednicu.
22. 01. 2025. u 09:29
BRENA O ODNOSU SA BOBOM: "Čim me ne zove Beki već Fahreta, znam dokle smo stigli"
PEVAČICA Lepa Brena i njen suprug, nekadašnji teniser, Slobodan Boba Živojinović, gradili su odvojene karijere, ona na Balkanu, on na teniskim terenima širom sveta, a onda su zajedničkim snagama izgradili porodicu.
21. 01. 2025. u 09:03
SVI BRUJE O GESTU MELANIJE TRAMP: Ovo je istina o odnosu sa Donaldom (FOTO)
MNOGI su pokušavali da uhvate Melanijin izraz lica...
21. 01. 2025. u 12:48
"NEVIĐENA SRAMOTA" Javnost besna zbog Sanjinih reči: "Isprovocirala si nasilje"
NEDAVNO je u emisiji Sanje Marinković gostovala i Zora Dobričanin Nikodinović. Poznata advokatica dotakla se teme fizičkog nasilja nad ženama, i tom prilikom izazvala lavinu negativnih komentara.
21. 01. 2025. u 22:51
SKANDAL: Saigrač namerno povredio Luku Jovića na treningu?! (VIDEO)
Luka Jović je kao "otpisan" došao u tabor AC Milana, koji je rešio da mu pruži šansu nakon što je mnoge razočarao učinkom u Realu iz Madrida, a onda nije zablistao kako se očekivalo ni u Fiorentini. "Otpisani" Srbin sada čeka pravu šansu u taboru rosonera, ali kako mu se ponašaju saigrači - pitanje je da li je na pravom mestu.
21. 01. 2025. u 13:45
"SRAM TE BILO, OAFE ŠICE" Mask žestoko odgovorio Šolcu zbog onoga što je rekao u Davosu
AMERIČKI milijarder Ilon Mask poručio je nemačkom kancelaru Olafu Šolcu da treba da ga bude sramota nazvavši ga "Oafom Šicom".
22. 01. 2025. u 08:22
"NEMA VIŠE MIRA" Nemački general dao alarmantnu izjavu o ratu sa Rusijom
VIŠE nema mira između Rusije i Nemačke, rekao je general Bundesvera Andre Bodeman u intervjuu za BR24, prenosi RIA Novosti.
20. 01. 2025. u 12:50
KO ĆE ZAMENITI ŽIKU JAKŠIĆA? "Ja najbolje znam šta želim od toga"
"SIGURAN sam da niko ne može da zadovolji moje zahteve i viziju kako ja to zamišljam."
21. 01. 2025. u 19:19
Najnovije iz rubrike
PORTPAROLKA KINE ODGOVORILA TRAMPU: Oštro osudila jedan potez predsednika SAD
PORTPAROLKA kineskog Ministarstva spoljnih poslova Mao Ning izjavila je danas da Kina veruje da nema pobednika u trgovinskom ratu.
22. 01. 2025. u 14:16
ZLOČIN NA ŽELEZNIČKOJ STANICI U JAPANU: Nepoznati muškarac napao ljude nožem - jedna osoba teško ranjena (VIDEO)
VIŠE ljudi izbo je nožem nepoznati napadač na železničkoj stanici u Naganu u centralnom Japanu, a jedan napadnuti muškarac je teško povređen i bez svesti je, saopštila je lokalna policija.
22. 01. 2025. u 14:05
UŽAS U NEMAČKOJ, NAPAO LJUDE NOŽEM USRED BELA DANA: Među žrtvama i dete - ubica pokušao da pobegne preko šina (VIDEO)
NAPAD nožem u parku u nemačkom gradu Ašafenburg, ima mrtvih i ranjenih.
22. 01. 2025. u 13:39
ERDOGAN SA SUPRUGOM DOLAZI NA SAHRANU ŽRTVAMA POŽARA: Katastrofa u kojoj je stradalo 76 ljudi
PREDSEDNIK Turske Redžep Tajip Erdogan i njegova supruga Emine prisustvovaće u Bolu sahrani građana koji su poginuli u požaru u hotelu u skijalištu Kartalkaja, saopštio je danas direktor za komunikacije Fahretin Altun.
22. 01. 2025. u 13:19
uživoRAT U UKRAJINI: Ukrajinci poraženi u Kurskoj oblasti; Ruska vojska zauzela naselje Zapadno
RAT u Ukrajini - 1064. dan.
22. 01. 2025. u 07:46 >> 13:13
Komentari (0)