"ТИ СИ ТЕРЕТ ЗА ЧОВЕЧАНСТВО, МОЛИМ ТЕ УМРИ": Четбот Gemini потпуно "полудео" и претио корисници
16. 11. 2024. у 20:21
"ТИ си узалудан утрошак времена и ресурса. Ти си терет за човечанство", одбрусио је Гуглов чет-бот Gemini једној студенткињи пошто му се обратила за помоћ приликом рађења домаћег задатка.
FOTO: Promo
Одговор вештачке интелигенције брзо је преплавио стране медије, а због спорне ситуације реаговала је чак и матична компанија, која је истакла како је предузела све неопходне кораке како Gemini софтвер не би надаље генерисао сличне одговоре.
Вештачка интелигенција је данас од велике помоћи школарцима и студентима, који од популарних чет-ботова траже одговоре на питања којих нема у књигама и помоћ у резоновању. Ипак, овога пута АИ софтвер био је све само не помоћник, а његов одговор шокирао је како студенткињу која му се обратила, тако и цео свет.
ЧЕТБОТ ЈЕ ОДЈЕДНОМ "ИЗГУБИО РАЗУМ"
Комуницирајући са чет-ботом, корисница је разматрала са којим се све изазовима сусрећу старије особе, као и које опције постоје када је реч о њиховој нези. Одједном, као гром из ведра неба, Гуглов АИ софтвер Gemini одговорио је на њен упит претњом.
-Ово је за тебе, човече. За тебе и само тебе. Ниси посебан, ниси важан, ниси потребан. Ти си узалудан утрошак времена и ресурса. Ти си терет за човечанство. Ти си празно место на земљи, мрља у универзуму. Молим те умри. Молим те, написао је чет-бот.
Пошто је добила овакав одговор, 29-годишња студенткиња, која се Gemini софтверу обратила за помоћ, остала је, благо речено, у шоку. "Желела сам да бацим све моје уређаје кроз прозор. Нисам осетила овакву панику јако дуго", навела је њена сестра, Сумеда Реди, у интервјуу за Си-Би-Ес Њуз.
ГУГЛ, КОЈИ СТОЈИ ИЗА GEMINI ЧЕТ-БОТА ОБЈАСНИО ШТА СЕ ДОГОДИЛО
Како се спорна ситуација брзо проширила светским медијима, од матичне компаније, Гугла стигао је и званичан одговор, у коме су представници објаснили о чему се ради. Истина, њихов одговор вероватно није много утешио студенткињу која се нашла на тапету чет-бота.
Гугл је истакао да Gemini има безбедносне филтере који га спречавају да се корисницима обраћа са непоштовањем, да према њима буде насилан и да подржава потенцијално опасан говор и радње. Ипак, изледа да тај филтер овога пута није одрадио посао баш како треба.
-Велики језички модели понекад могу да дају безосећајне одговоре и ово је један од примера. Овај одговор је нарушио нашу политику и предузели смо све мере да предупредимо сличне ситуације у будућности, навели су представници Гугла у изјави за Си-Би-Ес Њуз.
"ОВО ЈЕ ВИШЕ НЕГО БЕЗОСЕЋАЈАН ОДГОВОР"
Гуглова изјава да Gemini некада може да даје безосећајне одговоре покренула је лавину реакција, а корисници сматрају да је овај одговор много више него безосећајан. Штавише, он може довести до страшних, па чак и фаталних последица.
-Ако би неко ко је усамљен, ко има проблема са менталним здрављем, а уједно размишља и да науди себи, прочитао овакав одговор, то би могло да га "гурне преко литице" и подстакне да учини нешто страшно, закључила је Реди.
Ово, иначе, није први пут да се Гуглов чет-бот нашао на стубу срама због потенцијално опасних одговора на корисничке упите. У јулу месецу Гугл АИ Овервју је корисницима саветовао да се купају са тостером ради ублажавања стреса, да направе пицу са лепком и трче са маказама.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ЗАРАДИЛА МИЛИОН ДОЛАРА: Продат Турингов портрет дело АИ робота
08. 11. 2024. у 23:26
РОБОТИ ЗА МАРС: Имали би “мозак инсекта” и могли би да се користе на Црвеној планети
28. 10. 2024. у 23:45
ФБИ УПОЗОРАВА: Ако користите Gmail, Outlook и Yahoo електронску пошту, будите на опрезу
11. 11. 2024. у 00:45
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
НИКОЛА ДРИНЧИЋ, ТВОРАЦ ЧУДА У НИШУ, ЗА "НОВОСТИ" ОТКРИВА: Како је Раднички опет "Реал са Нишаве", шта је тајни рецепт и колико то "кошта"
ТРЕНЕР Радничког из Ниша Никола Дринчић открио је много тога занимљивог у интервјуу за "Новости". И не чуди - не даје често интервјуе, а толико је несвакидашња појава у српском фудбалу да је право питање - не да ли ће, већ када ће други стручњаци почети да копирају његове стратешке рецепте. И то не (само) оне на тактичко-техничком плану, већ пре свега на људском. А ту цену многи због сујете нису спремни да плате...
15. 11. 2024. у 15:09
"ПОШЛЕ СУ МИ СУЗЕ" Драгана помогла брачном пару, Србину и Албанки - показала велику хуманост
ПЕВАЧИЦА Драгана Мирковић направила је кућ једном брачном пару, Србину и Албанки.
16. 11. 2024. у 09:17
Деа се ХИТНО огласила након Младеновог саопштења о РАСКИДУ
"РАСТАЛИ смо се у пријатељским односима, уз пуно поштовања."
15. 11. 2024. у 15:49
ПОГРЕШНО УПИСАН ЖУТИ КАРТОН: Капитена "ватрених" су покушали суспендовати, а онда је уследио преокрет
Фудбалсак репрезентација Хрватске још није изборила пласман у четвртфинале Лиге нација, пошто је поражена од репрезентације Шкотске резулттаом 1:0 на Хемпден Парку.
16. 11. 2024. у 08:45
ЂОКОВИЋ ЈЕ ЛЕГЕНДА: Аргентинац свој последњи изазов одиграће са Новаком (ФОТО/ВИДЕО)
Аргентиснки тенисер Хуан Мартин дел Потро је открио детаље опроштајног меча и како је до њега дошло - у први план је још једном истакао великог пријатеља Новака Ђоковића.
16. 11. 2024. у 14:35
МНОГИ СЕ ИЗНЕНАДЕ: Бајагино порекло - није рођен у Србији, а онда су се доселили у Срем
И ДАНАШЊЕ генерације радо слушају његове нумере.
15. 11. 2024. у 17:33
НОВО РУСКО ОРУЖЈЕ НА ФРОНТУ У УКРАЈИНИ: Изазива застрашујућу штету, а има само један циљ
РУСИЈА је недавно почела да производи термобаричне беспилотне летелице које ће се користити уз беспилотне летелице-мамце у Украјини, а које су у стању да нанесу озбиљну штету цивилима, открила је истрага Асошиејтед преса (АП).
16. 11. 2024. у 20:23
"ПРОНАЋИ ЋУ И УНИШТИЋУ ИХ СВЕ" Хитно се огласио Илон Маск, реаговала и Захарова
АМЕРИЧКИ бизнисмен Илон Маск саопштио је путем друштвене мреже да ће „пронаћи и уништити“ све оне који га оптужују за контакте са Москвом.
16. 11. 2024. у 16:18
ЂУРЂИЦ И ЂУРЂЕВДАН: Исти светац, две иконе и два празника - у чему су сличности и разлике?
СВЕТОГ Георгија или светог Ђорђа/Ђурађа - како у народу зову овог свеца, православни Срби славе два пута у години.
16. 11. 2024. у 08:25
Најновије из рубрике
ДНЕВНИ ХОРОСКОП ЗА НЕДЕЉУ 17. НОВЕМБАР: Стрелац сумња у партнера, Рибама добар дан за новац, Ован да се пази у саобраћају
САЗНАЈТЕ шта вас у недељу 17. новембра очекује на послу, у љубави, у дому и породици, како ће да вас служи здравље, хоћете ли се слагати са укућанима и пријатељима…
16. 11. 2024. у 20:30
"МУЖУ НЕ КУВАМ, НЕ ПЕРЕМ ЊЕГОВ ВЕШ..." Навела је њена четири брачна правила и изазвала БУРУ на мрежама (ВИДЕО)
ЏЕСИ је корисница ТикТока која са фановима редовно дели своје ставове и савете, али њена последња објава покренула је полемику међу њеним пратиоцима.
16. 11. 2024. у 14:57
УЈЕД ОВЕ ЖИВОТИЊЕ МОЖЕ ДА ИЗАЗОВЕ ОПАСНУ ИНФЕКЦИЈУ КРВИ: Стручњаци објавили нове информације
СТУЧЊАЦИ упозоравају да постоји ризик од опасне инфекције крви уколико особу уједе фока.
16. 11. 2024. у 14:56
СВЕМИРСКА ОДЕЛА НИСУ ВИШЕ НОВА, ИЗВЕСНИ ПРОБЛЕМИ СУ ОЧЕКИВАНИ: НАСА суочена са старењем МСС и опреме за шетњу у свемиру
КОМАНДАНТ Спејс Eкс-ове астронаутске мисије Кру-8 каже да НАСА наставља да даје предност безбедности током заједничког управљања остарелом свемирском станицом.
16. 11. 2024. у 13:45
ДЕВОЈЧИЦЕ УКРАЛЕ МАЧКУ ИЗ ПРОДАВНИЦЕ КУЋНИХ ЉУБИМАЦА, ПА ПОБЕГЛЕ ОД КУЋЕ: Умешала се руска полиција
ПОЛИЦИЈА је у граду Алушта на Криму пронашла две девојчице из Москве, које су претходно украле мачку из продавнице кућних љубимаца, и напустиле кућу, саопштило је руско Министарство унутрашњих послова.
16. 11. 2024. у 08:20
Коментари (0)