КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
БРЕНА ОЧАЈНА ЗБОГ ВИКТОРА: "За све смо криви Боба и ја!"
ВИКТОР Живојиновић, млађи син Лепе Брене и Бобе Живојиновића, дуго се борио с вишком килограма. У једном периоду своје битке са прекомерном килажом, Виктор је имао чак 163 килограма.
17. 04. 2025. у 19:20
"НЕКО ИСПИЈА КАФЕ, ДОК СЕ НЕКО ПОВРЕЂЕН БОРИ ЗА СРБИЈУ": Зашто су Ана Ивановић и Јелена Јанковић деценијама у свађи?
ЉУДИ су се чудили што некадашње тенисерке, с обзиром да су исто време крчиле пут ка упеху у свету белог спорта, нису никада постале блиске пријатељице.
17. 04. 2025. у 12:49
GATES OF OLYMPUS SUPER SCATTER САМО НА SOCCERBET-У
СВЕТСКА ЕКСКЛУЗИВА НА SOCCERBET САЈТУ
15. 04. 2025. у 13:30
САХРАНИЋЕ ЈЕ У БЕОГРАДУ: Водитељка умрла прерано, Даниели ће породица испунити последњу жељу
ЊЕНИ најближи одредили су датум и време када ће новинарка бити испраћена на вечни починак.
17. 04. 2025. у 13:45 >> 13:53
ШВАЈНШТАЈГЕРОВА ТВ КОЛЕГИНИЦА ОБЈАВИЛА: ОЧЕКУЈЕМ ДЕТЕ! Цела Немачка прича о разводу Ане Ивановић и - овоме
"Ана Ивановић и Бастијан Швајнштајгер се раздводе". Тако су јављали многи медији, након почетне информације у немачком Билду како славни спортски пар више не живи заједно. Али, немачки медији сада пажњу скрећу ка - "Швајнијевој" трудној ТВ колегиници, Естер Седлачек...
17. 04. 2025. у 19:20
"ИЗГУБИО САМ ОБА РОДИТЕЉА У 4 ДАНА": Сергеј Ћетковић отворио душу - "Тада је неко поцепао део мене"
ПЕВАЧ Сергеј Ћетковић каже да је кроз неколико дана изгубио оба родитеља.
17. 04. 2025. у 14:44
ВЕЛИКА ПРОМЕНА У ШКОЛАМА У СРБИЈИ: Од данас ништа неће бити исто, односи се на родитеље
РОДИТЕЉИ школараца у Србији од данас добијају аутоматска звучна обавештења када наставник у електронски дневник упише изостанак детета са часа или нову оцену. Мада су деца годинама налазила начине да не кажу родитељима баш сва дешавања у школи, то сада више неће бити могуће.
17. 04. 2025. у 11:29
МАКРОН ПОСЛЕ РУСКОГ НАПАДА: Хитно нам је потребан мир
РУСКИ ракетни напад на град Суми на северу Украјине наглашава хитну потребу за наметањем примирја Русији, изјавио је данас председник Француске Емануел Макрон.
13. 04. 2025. у 15:34
"КОМПЛИТЛИ ФРИ ОФ ЧАРЏ": Да ли сте чули како Путин прича енглески? (ВИДЕО)
РУСКИ председник Владимир Путин имао је у фебруару телефонски разговор с америчким председником Доналдом Трампом о окончању рата у Украјини, а иако тада није саопштено којим су језиком причала двојица државника вероватно се свако користио својим матерњим и ослонио на преводиоце.
17. 04. 2025. у 15:25
Најновије из рубрике
УКРАЈИНА И САД ПОТПИСАЛЕ МЕМОРАНДУМ О РУДАМА Свириденко: Корак ка заједничком споразуму о економском партнерству
УКРАЈИНА и САД потписале су меморандум о споразуму о рудама, саопштила је украјинска министарка економије Јулија Свириденко.
18. 04. 2025. у 00:45
ИРАНСКИ МИНИСТАР: Техеран је спреман да се брани од било каквих претњи
ТЕХЕРАН је спреман да се брани од било каквих мешања и претњи, а цео војни потенцијал је спреман да одбрани земљу, изјавио је данас ирански министар спољних послова Абас Арагчи.
18. 04. 2025. у 00:22
УБИЈЕН АМЕРИЧКИ ДРЖАВЉАНИН: Покушај отмице малог авиона у Белизеу
АМЕРИЧКИ држављанин отео је данас мали авион компаније Тропик ер у Белизеу, ранивши три путника пре него што је упуцан и убијен, известили су амерички медији.
18. 04. 2025. у 00:11
НЕБЕНЗЈА: Прекид ватре у Украјини тренутно нереалан
ПРЕКИД ватре у Украјини је нереалан „у овој фази“, изјавио је стални представник Русије при УН Василиј Небензја.
18. 04. 2025. у 00:07
ВЕЛИКО НАУЧНО ОТКРИЋЕ: Откривени до сада најјачи докази о постојању живота на другој планети
ПЛАНЕТА удаљена 124 светлосне године од Земље донела је најјачи доказ до сада да би живот могао да постоји ван Сунчевог система, саопштили су астрономи.
18. 04. 2025. у 00:00
Коментари (0)