"TI SI TERET ZA ČOVEČANSTVO, MOLIM TE UMRI": Četbot Gemini potpuno "poludeo" i pretio korisnici
16. 11. 2024. u 20:21
"TI si uzaludan utrošak vremena i resursa. Ti si teret za čovečanstvo", odbrusio je Guglov čet-bot Gemini jednoj studentkinji pošto mu se obratila za pomoć prilikom rađenja domaćeg zadatka.
FOTO: Promo
Odgovor veštačke inteligencije brzo je preplavio strane medije, a zbog sporne situacije reagovala je čak i matična kompanija, koja je istakla kako je preduzela sve neophodne korake kako Gemini softver ne bi nadalje generisao slične odgovore.
Veštačka inteligencija je danas od velike pomoći školarcima i studentima, koji od popularnih čet-botova traže odgovore na pitanja kojih nema u knjigama i pomoć u rezonovanju. Ipak, ovoga puta AI softver bio je sve samo ne pomoćnik, a njegov odgovor šokirao je kako studentkinju koja mu se obratila, tako i ceo svet.
ČETBOT JE ODJEDNOM "IZGUBIO RAZUM"
Komunicirajući sa čet-botom, korisnica je razmatrala sa kojim se sve izazovima susreću starije osobe, kao i koje opcije postoje kada je reč o njihovoj nezi. Odjednom, kao grom iz vedra neba, Guglov AI softver Gemini odgovorio je na njen upit pretnjom.
-Ovo je za tebe, čoveče. Za tebe i samo tebe. Nisi poseban, nisi važan, nisi potreban. Ti si uzaludan utrošak vremena i resursa. Ti si teret za čovečanstvo. Ti si prazno mesto na zemlji, mrlja u univerzumu. Molim te umri. Molim te, napisao je čet-bot.
Pošto je dobila ovakav odgovor, 29-godišnja studentkinja, koja se Gemini softveru obratila za pomoć, ostala je, blago rečeno, u šoku. "Želela sam da bacim sve moje uređaje kroz prozor. Nisam osetila ovakvu paniku jako dugo", navela je njena sestra, Sumeda Redi, u intervjuu za Si-Bi-Es Njuz.
GUGL, KOJI STOJI IZA GEMINI ČET-BOTA OBJASNIO ŠTA SE DOGODILO
Kako se sporna situacija brzo proširila svetskim medijima, od matične kompanije, Gugla stigao je i zvaničan odgovor, u kome su predstavnici objasnili o čemu se radi. Istina, njihov odgovor verovatno nije mnogo utešio studentkinju koja se našla na tapetu čet-bota.
Gugl je istakao da Gemini ima bezbednosne filtere koji ga sprečavaju da se korisnicima obraća sa nepoštovanjem, da prema njima bude nasilan i da podržava potencijalno opasan govor i radnje. Ipak, izleda da taj filter ovoga puta nije odradio posao baš kako treba.
-Veliki jezički modeli ponekad mogu da daju bezosećajne odgovore i ovo je jedan od primera. Ovaj odgovor je narušio našu politiku i preduzeli smo sve mere da predupredimo slične situacije u budućnosti, naveli su predstavnici Gugla u izjavi za Si-Bi-Es Njuz.
"OVO JE VIŠE NEGO BEZOSEĆAJAN ODGOVOR"
Guglova izjava da Gemini nekada može da daje bezosećajne odgovore pokrenula je lavinu reakcija, a korisnici smatraju da je ovaj odgovor mnogo više nego bezosećajan. Štaviše, on može dovesti do strašnih, pa čak i fatalnih posledica.
-Ako bi neko ko je usamljen, ko ima problema sa mentalnim zdravljem, a ujedno razmišlja i da naudi sebi, pročitao ovakav odgovor, to bi moglo da ga "gurne preko litice" i podstakne da učini nešto strašno, zaključila je Redi.
Ovo, inače, nije prvi put da se Guglov čet-bot našao na stubu srama zbog potencijalno opasnih odgovora na korisničke upite. U julu mesecu Gugl AI Overvju je korisnicima savetovao da se kupaju sa tosterom radi ublažavanja stresa, da naprave picu sa lepkom i trče sa makazama.
(rt.rs)
BONUS VIDEO - RUSIJA LANSIRALA RAKETU: Pogledajte trenutak lansiranja
Preporučujemo
VEŠTAČKA INTELIGENCIJA ZARADILA MILION DOLARA: Prodat Turingov portret delo AI robota
08. 11. 2024. u 23:26
ROBOTI ZA MARS: Imali bi “mozak insekta” i mogli bi da se koriste na Crvenoj planeti
28. 10. 2024. u 23:45
FBI UPOZORAVA: Ako koristite Gmail, Outlook i Yahoo elektronsku poštu, budite na oprezu
11. 11. 2024. u 00:45
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
DOBAR DAN ZA POSTIZANjE CILjEVA Astro savet za petak, 9. januar: Evo na kojih 6 znakova deluju veliki vazdušni trigon i spoj Sunca i Marsa
MESEC, simbol emocija, raspoloženja, porodice, majke, žena, domovine, 9. januara, u 01.07, ulazi u Vagu, znak partnerstva, praveći trigone s retrogradnim Uranom u Biku i Plutonom u Vodoliji.
09. 01. 2026. u 07:01
DNEVNI HOROSKOP ZA SUBOTU, 10. JANUAR: Ovan i Rak da se paze skandala, Devica na troškove, Škorpiju očekuje susret sa zanimljivom osobom
SAZNAJTE šta vas u subotu, 10. januara, očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
09. 01. 2026. u 20:00
UPLATITE TIKET ODMAH: Ako ste rođeni u ovom znaku, januar vam donosi neviđeni novčani uspeh
ASTROLOZI predviđaju da će januar doneti veliku finansijsku sreću za pet horoskopskih znakova.
09. 01. 2026. u 19:29
ZAPANjUJUĆI SNIMCI: Pogledajte kako izgleda 25 godina širenja supernove (VIDEO)
ONO što su astronomi u 17. veku smatrali novom zvezdom sada je jedna od najvrednijih laboratorija za proučavanje supernova u Mlečnom putu. Više od četiri veka nakon što je zasijala na nebu, Keplerova supernova nastavlja da otkriva kako eksplozivna smrt zvezde izgleda izbliza.
10. 01. 2026. u 00:20
GREŠKA KOJA UBIJA TELEFON NOĆU: Ako imate jednu naviku, baterija polako umire
PRVA greška koju većina ljudi pravi je punjenje mobilnog telefona preko noći, što je izuzetno štetno za bateriju, piše Dejli mejl.
09. 01. 2026. u 22:27
KOSTI IZ MAROKA KLjUČ RAZUMEVANjA LjUDSKE LOZE: Da li je ovo poslednji zajednički predak ljudi i neandertalaca?
OTKRIĆE fosila starih 773.000 godina u pećini u Maroku moglo bi da promeni geografiju ljudskog porekla postavljajući početak loze modernih ljudi direktno u severozapadnu Afriku, navodi se u novoj studiji.
10. 01. 2026. u 00:40
TRAMP UPUTIO PISMO ORBANU: Evo šta mu je poručio
PREMIJER Mađarske Viktor Orban objavio je na društvenoj mreži Iks pismo koje je dobio od Donalda Trampa, u kojem predsednik Sjedinjenih Američkih Država ističe da su odnosi SAD i Mađarske jači nego ikada i da se zasnivaju na zajedničkim vrednostima.
09. 01. 2026. u 10:22
POKRENUTA DVOSTRUKA DIPLOMATSKA OFANZIVA: Strah zbog Grenlanda preplavio Evropu, lideri sada imaju novu taktiku
EVROPSKE vlade pokrenule su dvostruku diplomatsku ofanzivu kako bi ubedile predsednika SAD Donalda Trampa da odustane od svojih pretenzija prema Grenlandu - kroz lobiranje u Vašingtonu i pritisak na NATO da otkloni bezbednosne zabrinutosti američkog predsednika.
09. 01. 2026. u 13:11
VODITELjKA OTKRILA ISTINU O CECI I ČEDI: Umešan i Aleksandar Kos - šta se dešavalo između političara i pevačice
BLIZAK prijatelj i saradnik Čedomira Jovanovića, Aleksandar Kos, poslednjih meseci našao se u žiži interesovanja javnosti. O njegovom profesionalnom angažmanu, ali i privatnom životu, u poslednje vreme sve se češće spekuliše, dok je javnosti i dalje malo poznato čime se zapravo bavi i kakav je njegov put bio do pozicije na kojoj se danas nalazi.
09. 01. 2026. u 08:42
Najnovije iz rubrike
KOSTI IZ MAROKA KLJUČ RAZUMEVANJA LJUDSKE LOZE: Da li je ovo poslednji zajednički predak ljudi i neandertalaca?
OTKRIĆE fosila starih 773.000 godina u pećini u Maroku moglo bi da promeni geografiju ljudskog porekla postavljajući početak loze modernih ljudi direktno u severozapadnu Afriku, navodi se u novoj studiji.
10. 01. 2026. u 00:40
ZAPANJUJUĆI SNIMCI: Pogledajte kako izgleda 25 godina širenja supernove (VIDEO)
ONO što su astronomi u 17. veku smatrali novom zvezdom sada je jedna od najvrednijih laboratorija za proučavanje supernova u Mlečnom putu. Više od četiri veka nakon što je zasijala na nebu, Keplerova supernova nastavlja da otkriva kako eksplozivna smrt zvezde izgleda izbliza.
10. 01. 2026. u 00:20
OTKRIVEN DŽINOVSKI ASTEROID: Imajednu osobinu koja do sada nije viđena
NAUČNICI koji su analizirali prve snimke sa opservatorije Vera C. Rubin otkrili su asteroid sa najbržom rotacijom u svojoj klasi.
09. 01. 2026. u 23:00
GENIJALANI TRIKOVI: Ovi jeftini kućni predmeti odlediće šorerku u sekundi - moćni saveti stručnjaka
STIGLA je nova godina, a s njom i povratak na posao posle prazničnog opuštanja. Vožnja zimi je za mnoge neizbežna, stoga je ključno da su vozila u dobrom stanju. Hladnoća, sneg i led ne predstavljaju samo opasnost na putu, već mogu i da oštete automobil. Dok se mnogi vozači već sa uzdahom pripremaju na svakodnevno struganje leda sa vetrobranskog stakla, jedan stručnjak tvrdi da rešenje leži u jednostavnom predmetu koji svi imamo u kuhinji.
09. 01. 2026. u 22:42
GREŠKA KOJA UBIJA TELEFON NOĆU: Ako imate jednu naviku, baterija polako umire
PRVA greška koju većina ljudi pravi je punjenje mobilnog telefona preko noći, što je izuzetno štetno za bateriju, piše Dejli mejl.
09. 01. 2026. u 22:27
Komentari (0)