КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
МАЈДОВ ПРОГОВОРИО: Почело је од ЛГБТ застава, а ако ми браниш да се крстим, не играм по тим правилима
Џудиста Немања Мајдов из Источног Сарајева, шампион света и Европе, рекао је да му је важније од тренутне суспензије да се бори за право на исказивање верских осећања и наводи да као хришћанин не може да не реагује на неправду попут ове. изазвано на Олимпијади у Паризу, када се прекрстио пре меча и добио је пет месеци забрану учешћа на турнирима.
06. 10. 2024. у 11:34
ПОТРЕСНА ИСПОВЕСТ НЕБОЈШЕ ИЗ КИКИНДЕ: Отац и ја смо остали без посла 2008, нисмо знали како ћемо да преживимо (ВИДЕО)
НЕБОЈША Поповић из Кикинде радио је у хемијској индустрији "Хемик", некадашњем југословенском гиганту, који пропада доласком бивше власти на чело државе. Године посвећености и рада у "Хемику" биле су избрисане једним потезом политичара. Небојша, као и 130 других радника запослених у "Хемику", међу којима је био и његов отац, остају без посла. Изгубио је све оно у шта је веровао. Живот у Кикинди постао је борба за опстанак.За Небојшу долази до промене 2015. године, када у Кикинду стижу нове фабрике.
06. 10. 2024. у 09:00
РАТ У УКРАЈИНИ: Бајден смислио нови план за Украјину пре одласка са дужности
РАТ у Украјини- дан 956.
06. 10. 2024. у 08:11 >> 16:58
РУСИ ИЗВЕЛИ ВЕЛИКИ НАПАД НА КИЈЕВ: Испаљено 90 пројектила, више од пет сати трајала ваздушна опасност
ЗБОГ руских ваздушних удара, источни део Украјине био је у ваздушној опасности више од пет сати, саопштила је украјинска војска, а Москва је покренула неколико таласа напада на Кијев и друге градове.
06. 10. 2024. у 11:09
ЗАСТРАШУЈУЋЕ УПОЗОРЕЊЕ ИЛОНА МАСКА ЗА АМЕРИКУ: Ако Трамп не победи...
БИВШИ амерички председник и републикански председнички кандидат Доналд Трамп одржао је митинг у граду Батлеру у америчкој савезној држави Пенсилванији, на месту где је 13. јула преживео атентат.
06. 10. 2024. у 08:14
КРАХ КРАЉЕВСКЕ ПОРОДИЦЕ: Аналитичари - Хари и Меган кренули свако својим путем
ПРИНЦ Хари и његова супруга Меган Маркл "кренули су свако својим путем", јер све више живе "одвојеним животима", рекли су краљевски аналитичари, Артур Едвардс и Џени Бонд за британски Сан.
05. 10. 2024. у 20:00
РУСИ ИЗВЕЛИ ВЕЛИКИ НАПАД НА КИЈЕВ: Испаљено 90 пројектила, више од пет сати трајала ваздушна опасност
ЗБОГ руских ваздушних удара, источни део Украјине био је у ваздушној опасности више од пет сати, саопштила је украјинска војска, а Москва је покренула неколико таласа напада на Кијев и друге градове.
06. 10. 2024. у 11:09
ЗАСТРАШУЈУЋЕ УПОЗОРЕЊЕ ИЛОНА МАСКА ЗА АМЕРИКУ: Ако Трамп не победи...
БИВШИ амерички председник и републикански председнички кандидат Доналд Трамп одржао је митинг у граду Батлеру у америчкој савезној држави Пенсилванији, на месту где је 13. јула преживео атентат.
06. 10. 2024. у 08:14
"О ТРИ СТВАРИ НЕ ЖУРИ ГОВОРИТИ" Иза мудрости владике Николаја крије се велика лекција
ВЛАДИКА Николај Велимиропвић истицао је да о три ствари о не треба журити говорити.
06. 10. 2024. у 12:47
Најновије из рубрике
ИРАН ИЗНЕНАДА ОТКАЗАО СВЕ ЛЕТОВЕ: На помолу нова ескалација сукоба?
ЛЕТОВИ са свих иранских аеродрома биће отказани до 6:00 по локалном времену (02:30 ГМТ) у понедељак од 21:00 сат у недељу, објавили су ирански државни медији, позивајући се на портпарола иранске Организације цивилног ваздухопловства.
06. 10. 2024. у 18:58
ПОНОВО ЛОШЕ ВЕСТИ ИЗ БиХ: Покренуло се ново клизиште (ВИДЕО)
У ДОЊОЈ Јабланици покренуло се ново клизиште и то на магистрали М-17.
06. 10. 2024. у 18:54
ПУЦЊАВА У ТРЖНОМ ЦЕНТРУ: Полиција све блокирала, одјекнуло неколико хитаца
ЈЕДНО лице повређено је у пуцњави у тржном центру у југозападном шведском граду Кунгсбака, јавила је у телевизија СВТ, позивајући се на локалну полицију.
06. 10. 2024. у 18:34
И ОНА ПОМАЖЕ У ПОТРАЗИ ЗА ПРЕЖИВЕЛИМА: Зара може да замени и до 30 спасилаца (ФОТО)
ЈЕДАНАЕСТ чланова Хрватске горске службе спасавања (ХГСС) који су отишли према БиХ и данас помажу спасиоцима у јабланичком крају погођеном поплавама. На терену су с четири теренска возила, два пловила и псом трагачом Заром.
06. 10. 2024. у 18:07
НА ПОМОЛУ ХАОС У УКРАЈИНИ? Зеленском предвиђају сурову војну побуну због Угљедара - "Дошло је време"
ШЕФ кијевског режима Владимир Зеленски ће се суочити са војном побуном након предаје Угљедара, сматра Олег Соскин, некадашњи саветник бившег украјинског председника Леонида Кучме.
06. 10. 2024. у 17:54
Коментари (0)