КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ПАРИЦА "ОТИШЛА ИЗ КУЋЕ": Коме је припао долар из Бренине чеснице? (ФОТО)
ПАРИЦА означава благостање и богатство у наредној години.
08. 01. 2025. у 11:11
"РАДУЈЕМ СЕ СВЕМУ ШТО ДОЛАЗИ" Анастасија на Божић поделила срећне вести: "После много година..." (ФОТО)
АНАСТАСИЈА се прво похвалила на мрежама, а онда је послала и јасну поруку.
08. 01. 2025. у 10:20
ПАНИКА У ПРИШТИНИ: Кикл добио мандат за формирање нове аустријске владе, за њега Косово није држава
ЛИДЕР крајње десничарске Слободарске партије Аустрије (ФПО) Херберт Кикл добио је данас мандат за формирање нове аустријске владе, а његова странка упутила је прошле године предлог резолуције аустријској Скупштини којом захтева да се парламент изјасни против признања тзв. Косова.
06. 01. 2025. у 19:41
ОГЛАСИЛА СЕ МИЛОРАДОВА БИВША ЖЕНА: У поноћ поделила снимак са ћерком, а онда му упутила последњи поздрав (ФОТО)
РЕДИТЕЉ нас је напустио изненада, а умро је у порти цркве у Јабуковцу где је отпутовао да прослави Божић.
07. 01. 2025. у 17:14
БИВША СУПРУГА ПЕМИНУЛОГ ТРАГАЧА: Глумицу гледамо у популарној серији, а овако је говорила о разводу
РЕДИТЕЉ, сценариста и трагач популарне "Потере" Милорад Милинковић Дебели преминуо је синоћ, сазнаје Информер. Он је преминуо у 60. години.
07. 01. 2025. у 12:16
"МИРНО СПАВАЈ, СЛАВА ТИ" Познати сломљени због смрти трагача: "Мора ли и Божић да крене лошим вестима?"
СРЦЕ великог уметника и квизомана престало је да куца изненада у порти цркве у Јабуковцу где је отпутовао да прослави Божић.
07. 01. 2025. у 14:21
ТРАМП ЗАПАЛИО СВЕТ ИЗЈАВОМ: Не могу да искључим могућност употребе војне силе!
НОВОИЗАБРАНИ председник САД Доналд Трамп изјавио је данас да не може да искључи могућност употребе војне силе или економске принуде, укључујући повећање царина, када је у питању преузимање контроле над Гренландом и Панамским каналом.
07. 01. 2025. у 18:50
"ОСВЕТА МАЂАРСКОЈ ЗБОГ ПОДРШКЕ ДОНАЛДУ ТРАМПУ" Сијарто оштро о санкцијама САД-а Орбановом шефу кабинета
МИНИСТАР спољних послова Мађарске Петер Сијарто данас је критиковао одлуку Вашингтона да уведе санкције шефу кабинета мађарског премијера Виктора Орбана, Анталу Рогану, због сумње да је умешан у корупцију у Мађарској.
07. 01. 2025. у 18:12
НИЈЕ НИ СЛУТИО ТРАГИЧНУ ВЕСТ: Мемедовић поделио слику са Милорадом дан пре његове смрти (ФОТО)
МИЛИНКОВИЋ је отишао у цркву на литургију где му је изненада позлило.
07. 01. 2025. у 13:21
Најновије из рубрике
РУСИ ЗАУЗЕЛИ ГРАД ШЕВЧЕНКО: Пало једно од највећих налазишта литијума, Американци га хтели у замену за оружје
ТОКОМ викенда, руска војска је заузела град Шевченко, који се налази изнад једног од највећих налазишта литијума на украјинској територији, саопштава DeepState, отворена онлајн платформа за праћење операција у руско-украјинском рату.
08. 01. 2025. у 10:40
СЛОМЉЕНЕ РУКЕ И НАПЕТЕ ПУШКЕ: Насилна мобилизација у Украјини ескалирала (ВИДЕО)
РЕГРУТНИ официри прибегавају насиљу како би послали више регрута на линију фронта, према више видео снимака.
08. 01. 2025. у 10:34
ОН ЈОШ НИЈЕ ПРЕДСЕДНИК: Захарова о Трамповим изјавама о Гренланду и Канади
НОВОИЗАБРАНИ председник САД Доналд Трамп још није преузео дужност, подсетила је портпаролка руског министарства спољних послова Марија Захарова, коментаришући изјаве политичара о Гренланду и Канади.
08. 01. 2025. у 10:22
"У ТОКУ СУ РАЗГОВОРИ" Баро: Санкције Сирији би могле бити брзо укинуте
ФРАНЦУСКИ министар спољних послова Жан Ноел Баро изјавио је данас да би санкције Европске уније Сирији, које тренутно ометају испоруку хуманитарне помоћи и опоравак земље, могле убрзо бити укинуте.
08. 01. 2025. у 10:01
ДРАМА У ЛОС АНЂЕЛЕСУ: Ватра гута град, резиденција Камале Харис у зони евакуације
РЕЗИДЕНЦИЈА потпредседнице Сједињених Америчких Држава Камале Харис налази се у источном делу зоне евакуације због пожара који је избио у Пацифик Палисадсу, предграђу Лос Анђелеса, пренео је данас Ен-Би-Си њуз.
08. 01. 2025. у 09:46
Коментари (0)