КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
РУСКИ ЛЕКАРИ ТВРДЕ: Најштетнији доручак, а Срби га често једу, кажу да не постоји ништа горе за тело
РУСКИ лекари објаснили су која је храна најштетнија за доручак. Како кажу, ту спадају „инстант“ каше које драстично повећавају ниво шећера у крви, а такође и мусли, сокови и смутији.
30. 06. 2025. у 09:24
ЗА ВИДОВДАН, НА ХИЛАНДАРУ: Мел Гибсон поносно позира "поред" Чича Драже (ФОТО)
ФОТОГРАФИЈА која кружи друштвеним мрежама изазвала је велику пажњу корисника из Србије, а многи су одушевљени били овим кадровима.
29. 06. 2025. у 16:32
ОТКРИВЕНА ТАЈНА КОЈУ СУ КРИЛИ ГОДИНАМА?! Кристијано Роналдо и Георгина Родригез су све преверили?
Звезда португалске репрезентације и ФК Ал Наср, Кристијано Роналдо, и његова девојка Георгина Родригез већ годинама важе за један од најчувенијих парова који се, притом, упознао као у бајци. Али, може бити - да је све то била лаж...
29. 06. 2025. у 12:42
СУЗАНА ГРЦА У СУЗАМА, ЈЕДВА ГОВОРИ: "Плачем са ћерком када прочитамо нешто лоше о Саши"
СУЗАНА није крила да је потреса све оно што поједини људи износе о покојном Саши Поповићу.
29. 06. 2025. у 10:42
ЈОВАНА ЈОКСИМОВИЋ У ЧУДУ: Шешељ објаснио шта му фали, а у студију прави хаос (ВИДЕО)
Председник СРС др Војислав Шешељ открио је у емисији на Танјуг ТВ да је недавно примио инфузију.
29. 06. 2025. у 17:11
ВАТИКАН ИХ НЕ ПРИЗНАЈЕ: Седевакантизам Мела Гибсона – ”религија без главе”
ХОЛИВУД воли приче о побуњеницима – нарочито када су у питању револуције, ратници и вере које мењају ток историје, али шта се дешава када се побуна одвија не на великом платну, већ унутар саме Католичке цркве? Мел Гибсон, контроверзни глумац и редитељ, познат по филмовима попут Храбро срце и Страдање Христово, већ деценијама живи једну такву побуну – тихо, али одлучно.
29. 06. 2025. у 13:03
НОВИНАР БИ ЗА ОВУ РЕЧЕНИЦУ У СВАКОЈ ДРЖАВИ ЗАВРШИО У ЗАТВОРУ: Полицију и тужилаштво који раде свој посао назива “одметнути део”
ОВО што се назива новинаром Нове С у јутарњем програму изговорио је реченицу због које би у свакој држави завршио у затвору.
30. 06. 2025. у 07:38
ХАМНЕИ ПРЕВАРИО ТРАМПА: Америка гађала празно нуклеарно постројење?
ВИСОКИ ирански извори рекли су Реутерсу да је већина високо обогаћеног уранијума на локацији Фордо уклоњена пре америчког напада.
22. 06. 2025. у 10:37
"СЛАГАЛИЦА" ОВО НЕ ПАМТИ: Такмичар од беса полупао тастер
КВИЗ "Слагалица" ретко има несвакидашње ситуације током емитовања, али се необични тренуци дешавају, као и у сваком програму уживо.
29. 06. 2025. у 14:51
Најновије из рубрике
РУСИ ПРОБИЛИ УКРАЈИНСКУ ГРАНИЦУ! Ова област је нова мета Москве, кренуо јуриш на град
НАКОН што су потиснули украјинске трупе из Курске области, руски војници прешли су границу са Украјином и напредују ка граду Суми, наводи "Волстрит џорнал" (WСЈ), тврдећи да је украјинска погранична Сумска област нова мета Москве, при чему Кремљ користи предност у људству.
30. 06. 2025. у 07:55
уживоРАТ У УКРАЈИНИ: Руска војска изводи жестоке нападе на десну обалу Дњепра
РАТ у Украјини – 1.223. дан
30. 06. 2025. у 07:18
РАТ У УКРАЈИНИ Руски падобранци продрли у центар Каменског у Запорожју; Фронт пред пуцањем: Кијев пребацује резерве у ДНР (МАПА/ВИДЕО)
Рат у Украјини – 1.222. дан
29. 06. 2025. у 07:54 >> 03:05
ТУЖИЛАШТВО ТУЗЛАНСКОГ КАНТОНА: Старица са Озрена није убијена
СМРТ старице Јелене Пејић (76), чије је тело пронађено у породичној кући на Озрену, није последица примене силе неке друге особе и не ради се о убиству, саопштено је из Тужилаштва Тузланског кантона, преноси РТРС.
30. 06. 2025. у 00:45
СА СОВЈЕТСКИМ "ЛУДИМ ИВАНОМ" НЕМА ШАЛЕ: Шта је то и зашто су га се Американци плашили
АМЕРИЧКИ морнари били су истовремено фасцинирани и престрављени совјетским "Лудим Иваном". На питање шта је то - нико није знао тачно да одговори, али су сви добро знали да са тим нема шале.
30. 06. 2025. у 00:35
Коментари (0)