"ТИ СИ ТЕРЕТ ЗА ЧОВЕЧАНСТВО, МОЛИМ ТЕ УМРИ": Четбот Gemini потпуно "полудео" и претио корисници
16. 11. 2024. у 20:21
"ТИ си узалудан утрошак времена и ресурса. Ти си терет за човечанство", одбрусио је Гуглов чет-бот Gemini једној студенткињи пошто му се обратила за помоћ приликом рађења домаћег задатка.
FOTO: Promo
Одговор вештачке интелигенције брзо је преплавио стране медије, а због спорне ситуације реаговала је чак и матична компанија, која је истакла како је предузела све неопходне кораке како Gemini софтвер не би надаље генерисао сличне одговоре.
Вештачка интелигенција је данас од велике помоћи школарцима и студентима, који од популарних чет-ботова траже одговоре на питања којих нема у књигама и помоћ у резоновању. Ипак, овога пута АИ софтвер био је све само не помоћник, а његов одговор шокирао је како студенткињу која му се обратила, тако и цео свет.
ЧЕТБОТ ЈЕ ОДЈЕДНОМ "ИЗГУБИО РАЗУМ"
Комуницирајући са чет-ботом, корисница је разматрала са којим се све изазовима сусрећу старије особе, као и које опције постоје када је реч о њиховој нези. Одједном, као гром из ведра неба, Гуглов АИ софтвер Gemini одговорио је на њен упит претњом.
-Ово је за тебе, човече. За тебе и само тебе. Ниси посебан, ниси важан, ниси потребан. Ти си узалудан утрошак времена и ресурса. Ти си терет за човечанство. Ти си празно место на земљи, мрља у универзуму. Молим те умри. Молим те, написао је чет-бот.
Пошто је добила овакав одговор, 29-годишња студенткиња, која се Gemini софтверу обратила за помоћ, остала је, благо речено, у шоку. "Желела сам да бацим све моје уређаје кроз прозор. Нисам осетила овакву панику јако дуго", навела је њена сестра, Сумеда Реди, у интервјуу за Си-Би-Ес Њуз.
ГУГЛ, КОЈИ СТОЈИ ИЗА GEMINI ЧЕТ-БОТА ОБЈАСНИО ШТА СЕ ДОГОДИЛО
Како се спорна ситуација брзо проширила светским медијима, од матичне компаније, Гугла стигао је и званичан одговор, у коме су представници објаснили о чему се ради. Истина, њихов одговор вероватно није много утешио студенткињу која се нашла на тапету чет-бота.
Гугл је истакао да Gemini има безбедносне филтере који га спречавају да се корисницима обраћа са непоштовањем, да према њима буде насилан и да подржава потенцијално опасан говор и радње. Ипак, изледа да тај филтер овога пута није одрадио посао баш како треба.
-Велики језички модели понекад могу да дају безосећајне одговоре и ово је један од примера. Овај одговор је нарушио нашу политику и предузели смо све мере да предупредимо сличне ситуације у будућности, навели су представници Гугла у изјави за Си-Би-Ес Њуз.
"ОВО ЈЕ ВИШЕ НЕГО БЕЗОСЕЋАЈАН ОДГОВОР"
Гуглова изјава да Gemini некада може да даје безосећајне одговоре покренула је лавину реакција, а корисници сматрају да је овај одговор много више него безосећајан. Штавише, он може довести до страшних, па чак и фаталних последица.
-Ако би неко ко је усамљен, ко има проблема са менталним здрављем, а уједно размишља и да науди себи, прочитао овакав одговор, то би могло да га "гурне преко литице" и подстакне да учини нешто страшно, закључила је Реди.
Ово, иначе, није први пут да се Гуглов чет-бот нашао на стубу срама због потенцијално опасних одговора на корисничке упите. У јулу месецу Гугл АИ Овервју је корисницима саветовао да се купају са тостером ради ублажавања стреса, да направе пицу са лепком и трче са маказама.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ЗАРАДИЛА МИЛИОН ДОЛАРА: Продат Турингов портрет дело АИ робота
08. 11. 2024. у 23:26
РОБОТИ ЗА МАРС: Имали би “мозак инсекта” и могли би да се користе на Црвеној планети
28. 10. 2024. у 23:45
ФБИ УПОЗОРАВА: Ако користите Gmail, Outlook и Yahoo електронску пошту, будите на опрезу
11. 11. 2024. у 00:45
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
"ТАЧНО ЈЕ..." Карлик Џонс открио због чега је дошао у Партизан
Кошаркаш Партизана Карлик Џонс открио је да је врло лако могао да заврши у једном другом евролигашком тиму.
09. 03. 2025. у 13:28
ОН И ЖЕНА УМРЛИ У РАЗМАКУ ОД 7 ДАНА: Како су изгледали последњи тренуци Хекманових - није могао да позове помоћ?
ИСТРАГА верује да је она преминула прва...
09. 03. 2025. у 19:15
ТРАЖИЛА ДА НАПУСТИ ЕМИСИЈУ: Сузана говорила о покојном супругу Саши Поповићу
СУЗАНА Јовановић и Саша Поповић важили су за један од најскладнијих парова, пример другима.
09. 03. 2025. у 21:00 >> 21:08
"ФОКУС МИ ЈЕ НА ИГРИ, НЕ НА ПРВОМ МЕСТУ": Алкараз искрен после победе
Трећи тенисер света Карлос Алкараз без проблема је обезбедио учешће у трећем колу Индијан Велса пошто је са 6:4, 6:2 савладао Квентана Алиса из Француске.
09. 03. 2025. у 12:00
ТРАЖИЛА ДА НАПУСТИ ЕМИСИЈУ: Сузана говорила о покојном супругу Саши Поповићу
СУЗАНА Јовановић и Саша Поповић важили су за један од најскладнијих парова, пример другима.
09. 03. 2025. у 21:00 >> 21:08
ПОЉСКА (ОПЕТ) ЗАПАЊИЛА РУСЕ: Уследила хитна реакција
РАТ у Украјини, односно "специјална војна операција" како то Русија назива, поново је за једну од споредних ствари изнедрио и спортски потез. Најновије вести на тему "спортске санкције Русима" - позитивне су по Руску Федерацију, али уз једну "пољску зачкољицу".
09. 03. 2025. у 12:27
БЕГУНАЦ ИЗ ЗАТВОРА УХВАЋЕН ПОСЛЕ 40 ГОДИНА: Одала га једна информација (ФОТО)
МУШКАРАЦ који је побегао из затвора у Порторику пре скоро 40 година ухапшен је у Флориди, саопштила је полиција округа Ли.
09. 03. 2025. у 16:04
ВУЧИЋ ОТКРИО ВЕЗЕ УСАИД-А И ЦРТЕ: Организација "Да смрадови оду" добијала 190.000 евра, биће још много изненађења наредних дана
ПРЕДСЕДНИК Србије Александар Вучић обишао је у Ковину завршне радове на градском купалишту ''Шљункара'' и том приликом открио да је организација УСАИД плаћала 190 хиљада евра преко ЦРТЕ организацији која се зове "Да смрадови оду".
09. 03. 2025. у 11:56 >> 13:15
ИЗАШАО СЕВЕРИНИН "ФИЛМ", АРСЕН ПОСЛАО ШКАКЉИВУ ПОНУДУ: "Колегинице, чуо сам да имате неки филм... Могу ја музику да вам урадим?"
ПЕВАЧИЦА Северина Вучковић је током каријере прошла кроз многе успоне и падове, а и данас се препричава њена анегдота са легендарним кантаутором Арсеном Дедићем.
09. 03. 2025. у 18:32
Најновије из рубрике
БУДИТЕ ОПРЕЗНИ: Икс мрежом се шири опасан вирус замаскиран у ДипСик софтвер
ИКС друштвеном мрежом се у последњих неколико дана шири опасан софтвер захваљујући коме хакери добијају потпун приступ рачунару корисника и свим подацима који се на њему налазе - фотографијама, препискама, банковним рачунима и крипто новчаницима.
09. 03. 2025. у 21:22
ДНЕВНИ ХОРОСКОП ЗА ПОНЕДЕЉАК 10. МАРТ: Бик да се не свађа са надређенима, Лава мучи несаница, Водолију очекује важан сусрет
САЗНАЈТЕ шта вам доноси улазак Месеца у знак Лава, шта вас очекује у понедељак 10. марта на послу, у љубави, како ће да вас служи здравље, хоћете ли се слагати са укућанима и пријатељима...
09. 03. 2025. у 20:30
ДОКТОР ОТКРИВА: Које месо је НАЈЗДРАВИЈЕ, а које треба избегавати
ЗА МНОГЕ је оброк незамислив без меса, али стручњаци препоручују да га конзумирамо ређе, а посебно поједине врсте.
09. 03. 2025. у 13:39
ПОЧИЊЕ ПАЧИСТА НЕДЕЉА: Риба и вино нису дозвољени - ево како треба да постите, а да не погрешите
ДРУГА недеља Великог, Васкршњег поста зове се и Пачиста, јер долази иза Прве- Чисте недеље.
09. 03. 2025. у 11:46
"СВИ МЕ ПИТАЈУ КАКО СЕ ЗОВАМ САЊА И НОСИМ ХИЏАБ" Никад не каже да је променила веру, иако је рођена у православној породици
САЊА Домуз Садиковић са поносом носи хиџаб, сматрајући га својом испуњеном обавезом. Ислам је, како каже, прихватила јер се у њему пронашла, не сматрајући да је променила веру, већ да је тек тада стекла своју прву истинску духовну припадност.
09. 03. 2025. у 10:41
Коментари (0)