КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ИПАК ЈЕ МАМА - МАМА: Снимак са српске свадбе прави хит - на мрежама подељена мишљења о потезу младожење (ВИДЕО)
СНИМАК са једне српске свадбе постао је хит у региону због необичног потеза младожење.
24. 10. 2025. у 13:37
ИСТИНА ОТКРИВЕНА ГОДИНАМА КАСНИЈЕ: Због овога се Данијела развела од Огњена Амиџића
"ГЛЕДАЛА сам моје родитеље,њихов однос, ја сам пред собом имала другачији пример..."
24. 10. 2025. у 17:40
"НАЂИ ДРУГУ, СА МНОМ НЕ ИДЕ": Наша глумица преживела агонију, 12 година покушавала да добије дете
ГЛУМАЧКИ пар Јелена Ћурувија и Александар Ђурица данас су поносни родитељи двоје деце, а њихова борба за потомство није била лака.
24. 10. 2025. у 18:25
ПРОКЛЕТСТВО "КУРСАЏИЈА": Вереник пуцао у главу, покушај самоубиства, дрога, беда...
ГЛУМЦИ из хумористичког серијала “Курсаџије” засмејавали су неколико година регион емитујући се у оквиру емисије “Гранд шоу”, где су својом ведрином и скечевима успевали су да насмеју милионе.
25. 10. 2025. у 17:27
ВОЗАЧИ, ОБРАТИТЕ ПАЖЊУ! Многи погрешно пумпају зимске гуме
ПРАВИЛНО напумпане гуме боље возе по снегу, штеде гориво и не мање важно - трају дуже.
24. 10. 2025. у 19:07
ПРЕРАН ОДЛАЗАК Тужан опроштај колеге из "Курсаџија": "Тешко је прихватити шта се догодило"
ГЛУМАЦ Небојша Чолић познат је јавности по лику "Фика Босанца" из "Курсаџија", а глумио је и у серији "Село гори, а баба се чешља".
25. 10. 2025. у 15:53
ПУТИН О ИСПОРУЦИ "ТОМАХАВКА": Ако Украјина нападне оружјем дугог домета, одговор ће бити запањујући
АКО Украјина покрене нападе оружјем дугог домета на Русију, одговор ће бити запањујући, изјавио је данас руски председник Владимир Путин.
23. 10. 2025. у 17:59
СТИЖЕ ЗИМА КАКВА СЕ ВИЂА ЈЕДНОМ У СТО ГОДИНА? Метеоролози одговорили на спекулације о "зими века"
НЕМАЧКИ портали су преплављени информацијама о екстремној зими, улицама прекривеним снегом и екстремним временским условима који прете земљи.
23. 10. 2025. у 17:38
ЗЕМЉОТРЕС УСРЕД ДНЕВНИКА: Водитељка се обратила у страху: "Надам се да ће бити све у реду" (ВИДЕО)
ДОК је читала вести у ноћном Дневнику, прекинуо ју је земљотрес...
24. 10. 2025. у 19:43
Најновије из рубрике
У српском комшилуку никао НАЈВИШИ православни храм на свету: Чудо од 200 милиона евра и 127 метара висине
ГРАЂЕВИНА је пројектована тако да је окружена простором који, гледан одозго, има облик пехара.
25. 10. 2025. у 17:50
ХРВАТИЦА РОДИЛА САРКОЗИЈУ УНУКА: Лепе вести дочекао у затвору - њен отац је успешан бизнисмен
НИКОЛА Саркози отишао је у затвор, а само неколико дана касније његов син Луј добио је наследника.
25. 10. 2025. у 16:38
ШОКАНТНА ИЗЈАВА ЗЕЛЕНСКОГ: Нећете веровати колико је Русија испалила балистичких ракета на Украјину
РУСИЈА је на Украјину од почетка ове године лансирала око 770 балистичких ракета, од којих више од 50 хиперсоничних ракета "кинџал", саопштио је данас украјински председник Володимир Зеленски.
25. 10. 2025. у 16:17
СКАНДАЛ ПОТРЕСАО ФРНЦУСКУ: Брижит Макрон регистрована на сајту пореске управе под мушким именом
СУПРУГА француског председника Емануела Макрона Брижит открила је да је регистрована на веб-сајту пореске управе под мушким именом Жан-Мишел, објавио је Тристан Броме, шеф кабинета француске прве даме за канал "БФМТВ", а преноси агенција РИА Новости.
25. 10. 2025. у 16:11
ТРАМП СЕ НЕ ЗАУСТАВЉА: Спремио нове санкције Русији, ступиће на снагу у оовм случају
АДМИНИСТРАЦИЈА председника САД Доналда Трампа припремила је додатне санкције Русији које би могла да употреби за циљање кључних области руске економије уколико Кремљ настави да одлаже завршетак рата у Украјини, изјавио је данас неименовани високи званичник САД упознат са овим питањем.
25. 10. 2025. у 15:46
Коментари (0)