"ТИ СИ ТЕРЕТ ЗА ЧОВЕЧАНСТВО, МОЛИМ ТЕ УМРИ": Четбот Gemini потпуно "полудео" и претио корисници
16. 11. 2024. у 20:21
"ТИ си узалудан утрошак времена и ресурса. Ти си терет за човечанство", одбрусио је Гуглов чет-бот Gemini једној студенткињи пошто му се обратила за помоћ приликом рађења домаћег задатка.
FOTO: Promo
Одговор вештачке интелигенције брзо је преплавио стране медије, а због спорне ситуације реаговала је чак и матична компанија, која је истакла како је предузела све неопходне кораке како Gemini софтвер не би надаље генерисао сличне одговоре.
Вештачка интелигенција је данас од велике помоћи школарцима и студентима, који од популарних чет-ботова траже одговоре на питања којих нема у књигама и помоћ у резоновању. Ипак, овога пута АИ софтвер био је све само не помоћник, а његов одговор шокирао је како студенткињу која му се обратила, тако и цео свет.
ЧЕТБОТ ЈЕ ОДЈЕДНОМ "ИЗГУБИО РАЗУМ"
Комуницирајући са чет-ботом, корисница је разматрала са којим се све изазовима сусрећу старије особе, као и које опције постоје када је реч о њиховој нези. Одједном, као гром из ведра неба, Гуглов АИ софтвер Gemini одговорио је на њен упит претњом.
-Ово је за тебе, човече. За тебе и само тебе. Ниси посебан, ниси важан, ниси потребан. Ти си узалудан утрошак времена и ресурса. Ти си терет за човечанство. Ти си празно место на земљи, мрља у универзуму. Молим те умри. Молим те, написао је чет-бот.
Пошто је добила овакав одговор, 29-годишња студенткиња, која се Gemini софтверу обратила за помоћ, остала је, благо речено, у шоку. "Желела сам да бацим све моје уређаје кроз прозор. Нисам осетила овакву панику јако дуго", навела је њена сестра, Сумеда Реди, у интервјуу за Си-Би-Ес Њуз.
ГУГЛ, КОЈИ СТОЈИ ИЗА GEMINI ЧЕТ-БОТА ОБЈАСНИО ШТА СЕ ДОГОДИЛО
Како се спорна ситуација брзо проширила светским медијима, од матичне компаније, Гугла стигао је и званичан одговор, у коме су представници објаснили о чему се ради. Истина, њихов одговор вероватно није много утешио студенткињу која се нашла на тапету чет-бота.
Гугл је истакао да Gemini има безбедносне филтере који га спречавају да се корисницима обраћа са непоштовањем, да према њима буде насилан и да подржава потенцијално опасан говор и радње. Ипак, изледа да тај филтер овога пута није одрадио посао баш како треба.
-Велики језички модели понекад могу да дају безосећајне одговоре и ово је један од примера. Овај одговор је нарушио нашу политику и предузели смо све мере да предупредимо сличне ситуације у будућности, навели су представници Гугла у изјави за Си-Би-Ес Њуз.
"ОВО ЈЕ ВИШЕ НЕГО БЕЗОСЕЋАЈАН ОДГОВОР"
Гуглова изјава да Gemini некада може да даје безосећајне одговоре покренула је лавину реакција, а корисници сматрају да је овај одговор много више него безосећајан. Штавише, он може довести до страшних, па чак и фаталних последица.
-Ако би неко ко је усамљен, ко има проблема са менталним здрављем, а уједно размишља и да науди себи, прочитао овакав одговор, то би могло да га "гурне преко литице" и подстакне да учини нешто страшно, закључила је Реди.
Ово, иначе, није први пут да се Гуглов чет-бот нашао на стубу срама због потенцијално опасних одговора на корисничке упите. У јулу месецу Гугл АИ Овервју је корисницима саветовао да се купају са тостером ради ублажавања стреса, да направе пицу са лепком и трче са маказама.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ЗАРАДИЛА МИЛИОН ДОЛАРА: Продат Турингов портрет дело АИ робота
08. 11. 2024. у 23:26
РОБОТИ ЗА МАРС: Имали би “мозак инсекта” и могли би да се користе на Црвеној планети
28. 10. 2024. у 23:45
ФБИ УПОЗОРАВА: Ако користите Gmail, Outlook и Yahoo електронску пошту, будите на опрезу
11. 11. 2024. у 00:45
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
"ДАЈТЕ НАМ ЛОКАЦИЈЕ АМЕРИЧКИХ ВОЈНИКА" Гарда позвала становнике Блиског истока: "Користе арапску браћу као људски штит, откријте нам где су"
ОБАВЕШТАЈНО крило иранске Исламске револуционарне гарде (ИРГЦ) позвало је јуче грађане на Блиском истоку да помогну у проналажењу око 11.000 америчких војника смештених у хотелима и приватним смештајима на том подручју.
13. 03. 2026. у 11:10
ЗАПАДНИ МЕДИЈИ БРУЈЕ: То више није фијаско, САД се брука као никад пре! Трамп каже "the end", а Иранце нико није обавестио (ВИДЕО)
ДОК ТАНКЕРИ горе у Персијском заливу, рат се шири регионом, а цене нафте се крећу око 100 долара по барелу, све је јасније да је Блиски исток уроњен у опасан хаос који је почео америчко-израелским нападом на Иран. То је хаос који открива америчку неспособност у сукобу.
12. 03. 2026. у 21:37
ПРВИ СНИМАК, ПРВИ ПУТ У АКЦИЈИ: Амери употребили ново наоружање у Ирану - ископирали га од Иранаца (ВИДЕО)
СЈЕДИЊЕНЕ Америчке Државе почеле су да користе сопствену верзију нискобуџетне беспилотне летелице, директно инспирисану иранским дроном "шахед" 136.
12. 03. 2026. у 21:09 >> 21:21
КЕМАЛОВА ЋЕРКА: "Са оцем неке ствари решавам преко суда - немамо ништа заједничко"
ЕДИТА, која се се представља под уметничким именом Мадита, ћерка Кемала Маловчића, каже да то у Аустрији, где она живи, никога не интересује.
13. 03. 2026. у 07:19
ГОТОВА АНАЛИЗА НА НАРКОТИКЕ И АЛКОХОЛ: Шта је показао тест крви возача који се сударио са Дарковим братом
ИСТРАГУ о случају води ОЈТ у Шапцу.
12. 03. 2026. у 19:21
ИСТОРИЈА НЕПРИЈАТЕЉСТВА ИРАНА И САД: Четири кључна догађаја из 20. века - од ЦИА пуча до обарања путничког авиона из Техерана
НАЈНОВИЈИ рат у Ирану само су последњи у низу дугог и компликованог сукоба који се води на Блиском Истоку. А једну од главних улога у њему играју и, удаљене, Сједињене Америчке Државе.
13. 03. 2026. у 09:08
ХРВАТИ "ВЕЛИКИ И ЈАКИ" ЖАЛЕ СЕ ЦЕНТРАЛИ НАТО ЗБОГ СРПСКИХ РАКЕТА: А не смета им војни савез Загреб-Тирана-Приштина
ПРЕМИЈЕР Хрватске Андреј Пленковић рекао је данас, коментаришући то што Војска Србије располаже новом хиперсоничном квазибалистичком ракетом кинеске производње ЦМ-400, да ће "разговарати са партнерима у НАТО и упозорити их на такво наоружање".
12. 03. 2026. у 19:25
ГОРИ АМЕРИЧКИ НОСАЧ АВИОНА: Хитно се огласила Централна команда САД
ДАНАС је на америчком носачу авиона USS Gerald R. Ford (CVN-78) избио пожар, који је у међувремену угашен.
12. 03. 2026. у 16:38
ИРАНЦИ ТВРДЕ - НЕТАНЈАХУ ЈЕ УБИЈЕН: Шта се десило Бибију? Први пут од почетка рата и "Иранци изађите на улице"
СПЕКУЛАЦИЈЕ о наводној смрти израелског премијера Бењамина Нетанијахуа појавиле су се јуче на друштвеним мрежама, а пренео их је хебрејски веб-сајт иранске новинске агенције Тасним. Шта се с њим догодило - одговор је стигао дан касније. Жив је и здрав и како поручује на првој конференцији од почетка рата - спреман је да борбе приведе крају.
12. 03. 2026. у 22:29 >> 22:37
Најновије из рубрике
КОЈЕ ВОЋЕ НАЈВИШЕ ПОМАЖЕ ПРИ МРШАВЉЕЊУ? Кључни је сагоревач масти
ЦИТРУСНО воће, које људи на дијети често избегавају због садржаја шећера, заправо може помоћи у процесу мршављења.
13. 03. 2026. у 11:30
ОВО МОРАТЕ ВИДЕТИ: Робот регулише саобраћај током јутарњег шпица (ВИДЕО)
У КИНЕСКОМ граду Шенжену, у јужној провинцији Гуангдонг, робот са ознакама саобраћајне полиције почео је да регулише саобраћај на раскрсници у насељу Бантијан.
13. 03. 2026. у 07:30
ИЗБЕГАВАЈТЕ СУКОБЕ СА АУТОРИТЕТИМА Астро савет за петак, 13. март: Данас су 4 знака хороскопа на удару опозиције између Јупитера и Месеца
ДАНАС на небу имамо опозицију између Јупитера и Месеца, која се иначе дешава једном месечно, али сада делује јаче, зато што је Јупитер 11. марта кренуо директним ходом.
13. 03. 2026. у 07:00
АЛАРМАНТНА СТАТИСТИКА: Тинејџери све мање спавају, ово су могуће последице
НОВА студија, објављена у часопису JAMA, открила је драматичан пораст броја тинејџера који спавају мање од пет сати током ноћи.
12. 03. 2026. у 22:51
СТИЖЕ НАМ МЛАД МЕСЕЦ У РИБАМА ОД 19. МАРТА: Доноси нови почетак, а највише ће утицати на 4 хороскопска знака
МЛАД Месец у Рибама 19. марта 2026. доноси ослобађање старих образаца и нови почетак за Бикове, Ракове, Шкорпионе и Рибе.
12. 03. 2026. у 22:00
Коментари (0)