КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
УЗНЕМИРУЈУЋИ СНИМАК: Из пенала убио голмана! (ВИДЕО)
Спорт је задесила трагедија.
05. 09. 2025. у 15:51
УДАВАЛА СЕ ЧАК ТРИ ПУТА: Ово је једина фотографија Лепе Лукић у венчаници - слика са другим мужем који ју је варао (ФОТО
СВАКИ од ових мушкараца оставио је печат у животу певачице народне музике, ипак чини се да је њој одувек најболније било да говори о љубави из младости.
05. 09. 2025. у 11:35
ВЕЛИКО УПОЗОРЕЊЕ МЕДВЕДЕВА: Три земље повећавају војну активност у близини руске територије
ЗАМЕНИК председника Савета безбедности Русије Дмитриј Медведев нагласио је да Москва не може игнорисати чињеницу да је Финска чланица НАТО-а.
05. 09. 2025. у 18:48
БРУКА! Србија покрадена на Евробаскету као нико!
Европско првенство у кошарци, Евробаскет 2025, дошло је до нокаут фазе, али пре меча Србија - Финска љубитељи кошарке су прилично запањени неким видео доказима о томе како су изабраници Светислава Пешића покрадени.
05. 09. 2025. у 14:59
ЉУДИ У ШОКУ ГЛЕДАЈУ ШТА СЕ ДЕШАВА У МОРУ У ЦРНОЈ ГОРИ: "Зна ли неко шта је ово, погледајте како се брзо креће" (ВИДЕО)
НЕОБИЧАН снимак са Јадранског мора збунио је и мештане и туристе.
06. 09. 2025. у 13:47
СПИС СТАР ВЕКОВИМА ОТКРИВА ИСТИНУ: Зашто православни свештеници и монаси носе браду, а католички не
ДОК католички свештеници ретко носе браду, она је нека врста заштитног знака њихових колега са Истока.
05. 09. 2025. у 10:50
СКАНДАЛ У БРИТАНИЈИ, ПОРОДИЦЕ У ШОКУ: Директорка мртвачнице гледала цртани филм са мртвим бебама у својој кући
ЕЈМИ Аптон (38), оснивачица удружења Florrie’s Army у Лидсу у Енглеској, нашла се у центру велике афере након што су родитељи преминуле деце открили да су тела њихових беба држана у њеној кући уместо у мртвачници.
27. 08. 2025. у 17:50
ОВО ЈЕ ДЕТАЉАН СПИСАК НАМИРНИЦА КОЈИМА ЋЕ ПАСТИ ЦЕНА: Нове економске мере важне за грађане
ПРЕСЕДНИК Србије Александар Вучић истакао је јуче приликом излагања о смањењу маржи на кућну хемију и прехрамбене производе, а у оквиру представљања нових економских мера за грађане, да снижење које ће уследити као последица ограничења трговачких маржи обухвата 3000 производа из 23 групе.
25. 08. 2025. у 13:15
"ЦИНИЧАН - У ПОЗИТИВНОМ СМИСЛУ": Москва о Трамповим покушајим да оконча ратове
ПРИСТУП америчког председника Доналда Трампа у вођењу дипломатије кроз склапање трговинских договора "прилично је циничан", али у позитивном смислу, изјавио је у петак представник Кремља Дмитриј Песков.
05. 09. 2025. у 19:51
Најновије из рубрике
ОПСОВАО ПРЕД КАМЕРАМА ЗБОГ ЗАПАДНЕ КОАЛИЦИЈЕ: Медведев побеснео након откривања плана за Украјину (ВИДЕО)
БИВШИ руски председник Дмитриј Медведев рекао је да Коалиција вољних", која планира безбедносне гаранције за Кијев, "вади идеје из разних отвора", извештава Кијев пост.
06. 09. 2025. у 15:59
ПОТЕЗАЛИ СЕ ПИШТОЉИ СА ЕКСЕРИМА: Због скеле избила масовна туча у центру Пуле
У ЦЕНТРУ Пуле у Хрватској избила је масовна туча у којој је учествовало шест особа, а једна је теже повређена.
06. 09. 2025. у 15:32
МИА (23) ОСУЂЕНА НА ДОЖИВОТНУ РОБИЈУ У ДУБАИЈУ: Огласила се њена мајка - направила је једну грешку, то ју је скупо коштало
ВЕСТ о 23-годишњој Мији О’Брајен из Ливерпула потресла је Велику Британију. Миа је осуђена на доживотну казну затвора у Дубаију и тренутно је смештена у затвору Ал-Аwир, који је у прошлости називан "Алкатразом Дубаија".
06. 09. 2025. у 15:27
ТВРДИО ДА ИМА БОМБУ У АУТУ: Поднета кривична пријава против Загрепчанина
ЗАГРЕБАЧКА полиција поднела је кривичну пријаву против 67-годишњака који је у петак на Пантовчаку изазвао лажну узбуну тврдећи да у аутомобилу има бомбу, док је у његовом стану касније пронађена аутоматска пушка са шаржерима и муницијом.
06. 09. 2025. у 15:23
УПРКОС ЗДРАВСТВЕНИМ И ПОЛИТИЧКИМ РИЗИЦИМА: Трамп ипак подржао Кенедија у вези са вакцинама
АМЕРИЧКИ председник Доналд Трамп наставља да непоколебљиво подржава министра здравља Роберта Ф. Кенедија Млађег, који преокрец́е здравствени систем Сједињених Америчких Држава по питању вакцинација, упркос притиску Конгреса, забринутостима за јавно здравље и политичким ризицима, рекли су за Ројтерс извори који су упознати са њиховим односом.
06. 09. 2025. у 15:17
Коментари (0)