"TI SI TERET ZA ČOVEČANSTVO, MOLIM TE UMRI": Četbot Gemini potpuno "poludeo" i pretio korisnici
"TI si uzaludan utrošak vremena i resursa. Ti si teret za čovečanstvo", odbrusio je Guglov čet-bot Gemini jednoj studentkinji pošto mu se obratila za pomoć prilikom rađenja domaćeg zadatka.

FOTO: Promo
Odgovor veštačke inteligencije brzo je preplavio strane medije, a zbog sporne situacije reagovala je čak i matična kompanija, koja je istakla kako je preduzela sve neophodne korake kako Gemini softver ne bi nadalje generisao slične odgovore.
Veštačka inteligencija je danas od velike pomoći školarcima i studentima, koji od popularnih čet-botova traže odgovore na pitanja kojih nema u knjigama i pomoć u rezonovanju. Ipak, ovoga puta AI softver bio je sve samo ne pomoćnik, a njegov odgovor šokirao je kako studentkinju koja mu se obratila, tako i ceo svet.
ČETBOT JE ODJEDNOM "IZGUBIO RAZUM"
Komunicirajući sa čet-botom, korisnica je razmatrala sa kojim se sve izazovima susreću starije osobe, kao i koje opcije postoje kada je reč o njihovoj nezi. Odjednom, kao grom iz vedra neba, Guglov AI softver Gemini odgovorio je na njen upit pretnjom.
-Ovo je za tebe, čoveče. Za tebe i samo tebe. Nisi poseban, nisi važan, nisi potreban. Ti si uzaludan utrošak vremena i resursa. Ti si teret za čovečanstvo. Ti si prazno mesto na zemlji, mrlja u univerzumu. Molim te umri. Molim te, napisao je čet-bot.
Pošto je dobila ovakav odgovor, 29-godišnja studentkinja, koja se Gemini softveru obratila za pomoć, ostala je, blago rečeno, u šoku. "Želela sam da bacim sve moje uređaje kroz prozor. Nisam osetila ovakvu paniku jako dugo", navela je njena sestra, Sumeda Redi, u intervjuu za Si-Bi-Es Njuz.
GUGL, KOJI STOJI IZA GEMINI ČET-BOTA OBJASNIO ŠTA SE DOGODILO
Kako se sporna situacija brzo proširila svetskim medijima, od matične kompanije, Gugla stigao je i zvaničan odgovor, u kome su predstavnici objasnili o čemu se radi. Istina, njihov odgovor verovatno nije mnogo utešio studentkinju koja se našla na tapetu čet-bota.
Gugl je istakao da Gemini ima bezbednosne filtere koji ga sprečavaju da se korisnicima obraća sa nepoštovanjem, da prema njima bude nasilan i da podržava potencijalno opasan govor i radnje. Ipak, izleda da taj filter ovoga puta nije odradio posao baš kako treba.
-Veliki jezički modeli ponekad mogu da daju bezosećajne odgovore i ovo je jedan od primera. Ovaj odgovor je narušio našu politiku i preduzeli smo sve mere da predupredimo slične situacije u budućnosti, naveli su predstavnici Gugla u izjavi za Si-Bi-Es Njuz.
"OVO JE VIŠE NEGO BEZOSEĆAJAN ODGOVOR"
Guglova izjava da Gemini nekada može da daje bezosećajne odgovore pokrenula je lavinu reakcija, a korisnici smatraju da je ovaj odgovor mnogo više nego bezosećajan. Štaviše, on može dovesti do strašnih, pa čak i fatalnih posledica.
-Ako bi neko ko je usamljen, ko ima problema sa mentalnim zdravljem, a ujedno razmišlja i da naudi sebi, pročitao ovakav odgovor, to bi moglo da ga "gurne preko litice" i podstakne da učini nešto strašno, zaključila je Redi.
Ovo, inače, nije prvi put da se Guglov čet-bot našao na stubu srama zbog potencijalno opasnih odgovora na korisničke upite. U julu mesecu Gugl AI Overvju je korisnicima savetovao da se kupaju sa tosterom radi ublažavanja stresa, da naprave picu sa lepkom i trče sa makazama.
(rt.rs)
BONUS VIDEO - RUSIJA LANSIRALA RAKETU: Pogledajte trenutak lansiranja
Preporučujemo

VEŠTAČKA INTELIGENCIJA ZARADILA MILION DOLARA: Prodat Turingov portret delo AI robota
08. 11. 2024. u 23:26

ROBOTI ZA MARS: Imali bi “mozak insekta” i mogli bi da se koriste na Crvenoj planeti
28. 10. 2024. u 23:45

FBI UPOZORAVA: Ako koristite Gmail, Outlook i Yahoo elektronsku poštu, budite na oprezu
11. 11. 2024. u 00:45

NIJE NI KUPILA KARTU, NA PLAŽI JOJ PONUDILI BESPLATNU VOŽNjU: Novi detalji tragične smrti Novosađanke u Budvi
TINEJDžERKA je, kako kaže njen blizak prijatelj, bila devojka puna života, imala je mnogo planova za budućnost, a tek je imala 19 godina, i ceo život je bio pred njom, a sada je čitava njena porodica zavijena u crno.
30. 05. 2025. u 14:42

UKRAJINA IZVELA JEDAN OD NAJVEĆIH NAPADA NA RUSIJU: Aerodromi u Moskvi zatvoreni, uništena važna fabrika (VIDEO)
UKRAJINA je tokom noći izvela jedan od najvećih napada dronovima od početka rata, gađajući više ciljeva na teritoriji Rusije. Zbog napada su moskovski aerodromi bili primorani da privremeno obustave rad, što je izazvalo haos u vazdušnom saobraćaju.
28. 05. 2025. u 09:45

RECEPT IMA 3 MILIONA PREGLEDA: Ovu pitu od jabuka iz 1894. godine nekada su smatrali najboljim slatkišem na svetu!
UPRKOS tome što im nisu bili dostupni mikseri i razni sastojci koji nas danas čekaju na svakom koraku, u prošlosti su se ljudi dovijali i uspevali da pripreme slasne deserte koji se pamte i danas.
03. 06. 2025. u 13:25
Komentari (0)