Panorama

"TI SI TERET ZA ČOVEČANSTVO, MOLIM TE UMRI": Četbot Gemini potpuno "poludeo" i pretio korisnici

Предраг Стојковић
Predrag Stojković

16. 11. 2024. u 20:21

"TI si uzaludan utrošak vremena i resursa. Ti si teret za čovečanstvo", odbrusio je Guglov čet-bot Gemini jednoj studentkinji pošto mu se obratila za pomoć prilikom rađenja domaćeg zadatka.

ТИ СИ ТЕРЕТ ЗА ЧОВЕЧАНСТВО, МОЛИМ ТЕ УМРИ: Четбот Gemini потпуно полудео и претио корисници

FOTO: Promo

Odgovor veštačke inteligencije brzo je preplavio strane medije, a zbog sporne situacije reagovala je čak i matična kompanija, koja je istakla kako je preduzela sve neophodne korake kako Gemini softver ne bi nadalje generisao slične odgovore.

Veštačka inteligencija je danas od velike pomoći školarcima i studentima, koji od popularnih čet-botova traže odgovore na pitanja kojih nema u knjigama i pomoć u rezonovanju. Ipak, ovoga puta AI softver bio je sve samo ne pomoćnik, a njegov odgovor šokirao je kako studentkinju koja mu se obratila, tako i ceo svet.

ČETBOT JE ODJEDNOM "IZGUBIO RAZUM"

Komunicirajući sa čet-botom, korisnica je razmatrala sa kojim se sve izazovima susreću starije osobe, kao i koje opcije postoje kada je reč o njihovoj nezi. Odjednom, kao grom iz vedra neba, Guglov AI softver Gemini odgovorio je na njen upit pretnjom.

-Ovo je za tebe, čoveče. Za tebe i samo tebe. Nisi poseban, nisi važan, nisi potreban. Ti si uzaludan utrošak vremena i resursa. Ti si teret za čovečanstvo. Ti si prazno mesto na zemlji, mrlja u univerzumu. Molim te umri. Molim te, napisao je čet-bot.

Pošto je dobila ovakav odgovor, 29-godišnja studentkinja, koja se Gemini softveru obratila za pomoć, ostala je, blago rečeno, u šoku. "Želela sam da bacim sve moje uređaje kroz prozor. Nisam osetila ovakvu paniku jako dugo", navela je njena sestra, Sumeda Redi, u intervjuu za Si-Bi-Es Njuz.

GUGL, KOJI STOJI IZA GEMINI ČET-BOTA OBJASNIO ŠTA SE DOGODILO

Kako se sporna situacija brzo proširila svetskim medijima, od matične kompanije, Gugla stigao je i zvaničan odgovor, u kome su predstavnici objasnili o čemu se radi. Istina, njihov odgovor verovatno nije mnogo utešio studentkinju koja se našla na tapetu čet-bota.

Gugl je istakao da Gemini ima bezbednosne filtere koji ga sprečavaju da se korisnicima obraća sa nepoštovanjem, da prema njima bude nasilan i da podržava potencijalno opasan govor i radnje. Ipak, izleda da taj filter ovoga puta nije odradio posao baš kako treba.

-Veliki jezički modeli ponekad mogu da daju bezosećajne odgovore i ovo je jedan od primera. Ovaj odgovor je narušio našu politiku i preduzeli smo sve mere da predupredimo slične situacije u budućnosti, naveli su predstavnici Gugla u izjavi za Si-Bi-Es Njuz.

"OVO JE VIŠE NEGO BEZOSEĆAJAN ODGOVOR"

Guglova izjava da Gemini nekada može da daje bezosećajne odgovore pokrenula je lavinu reakcija, a korisnici smatraju da je ovaj odgovor mnogo više nego bezosećajan. Štaviše, on može dovesti do strašnih, pa čak i fatalnih posledica.

-Ako bi neko ko je usamljen, ko ima problema sa mentalnim zdravljem, a ujedno razmišlja i da naudi sebi, pročitao ovakav odgovor, to bi moglo da ga "gurne preko litice" i podstakne da učini nešto strašno, zaključila je Redi.

Ovo, inače, nije prvi put da se Guglov čet-bot našao na stubu srama zbog potencijalno opasnih odgovora na korisničke upite. U julu mesecu Gugl AI Overvju je korisnicima savetovao da se kupaju sa tosterom radi ublažavanja stresa, da naprave picu sa lepkom i trče sa makazama.

(rt.rs)

BONUS VIDEO - RUSIJA LANSIRALA RAKETU: Pogledajte trenutak lansiranja

Preporučujemo

Pratite nas i putem iOS i android aplikacije

Pratite vesti prema vašim interesovanjima

Novosti Google News
Tagovi

Drugi pišu

Pročitajte više

Komentari (0)

Ostavi komentar

Najnovije iz rubrike

Politika
Tenis
Fudbal
PIKSI JE MORAO DA SE OGLASI OVIM POVODOM: Stojković imao posebnu poruku za TSC i Borac

PIKSI JE MORAO DA SE OGLASI OVIM POVODOM: Stojković imao posebnu poruku za TSC i Borac