SKLOPILI SMO OPASAN PAKT SA TEHNOLOGIJOM: Može li se veštačka inteligencija obuzdati, ili nas čeka scenarao iz naučnofantastičnih filmova

TEHNOLOGIJE koje danas oduševljeno prihvatamo - veštačka inteligencija (VI) i sintetička biologija - mogle bi sutra da postanu sile koje nećemomoći da obuzdamo.

Foto: Shuterstock

Ako je Hladni rat bio trka za političku prevlast, onošto nas sada čeka je trka za preživljavanje vrste. Ovoga puta, neprijateljne dolazi spolja, već se razvija u laboratorijama, u algoritmima, ukodovima.

U knjizi "Talas koji dolazi" Mustafa Sulejman, suosnivač DeepMinda, jedne od vodećih svetskih kompanija u oblasti veštačke inteligencije, upozorava da nam je ostalo još malo vremena. I to ne da zaustavimo razvoj tehnologije - već da ga preusmerimo pre nego što nas poplavi. 

O ovom modernom manifestu iz pera sadašnjeg izvršnog direktora za VI u "Majkrosoftu", ali i dilemi u kojoj se svet nalazi, razgovarali smo sa inženjerom Vojislavom Mokrićem, koji je knjigu objavio na srpskom jeziku. Mokrić radi za "Majkrosoft" u Beogradu, na razvoju veštačke inteligencije.

- Nadolazeći talas veštačke inteligencije učiniće sledeću deceniju najboljom u ljudskoj istoriji. Ili najgorom - kaže Mokrić. - Ona će nam organizovati živote, voditi poslove i upravljati ključnim vladinim službama. Sklopili smo pakt sa tehnologijom, a svaki tehnološki alat nosi potencijal za dobro i snagu za zlo. Sulejman ne mašta o naučnofantastičnim scenarijima. On je čovek iz srca Silicijumske doline, koji upozorava da nas tehnologija može nadjačati, ako ne uspostavimo kontrolu.

D.Matović

Autor "Talasa koji dolazi" predviđa budućnost u kojoj će veštačka inteligencija i sintetička biologija preoblikovati svet. Od brzog otkrića lekova i davanja dijagnoze za retke bolesti, do optimizacije saobraćaja i potencijalno - genetičkog inženjeringa u kućnim uslovima. Ali, Sulejman upozorava i na pandemije stvorene u laboratoriji, masovnu nezaposlenost, gubitak kontrole nad sistemima koji sami uče, odlučuju i deluju.

- Nije suština u tome da li će veštačka inteligencija doći - ona je već tu. Pitanje je šta mi kao društvo radimo povodom toga - kaže naš sagovornik. - Više nije naučna fantastika da mašine obučavaju mašine. Softveri međusobno komuniciraju, razmenjuju podatke, uče jedni od drugih, stvaraju nove algoritme. Čovek iz te jednačine lagano nestaje.

U rusko-ukrajinskom ratu dronovi su promenili način ratovanja. To više nisu samo spravice za snimanje - to su oružja koja mogu da komuniciraju sa maticom. I u laboratorijama se dešavaju tihe revolucije, zahvaljujući VI rešen je problem savijanja proteina, što je zahtevalo decenije eksperimentisanja. Napravljena je baza od 300 miliona proteinskih struktura (ranije je bilo samo 1.000), moći će da se menja DNK, što je korak ka stvaranju novih oblika života. Za razliku od prethodnih revolucija, koje su zamenile fizički rad, veštačka inteligencija preti da zameni mentalni. Najugroženiji su dizajneri, marketinški stručnjaci, pa i programeri. Iako modeli još uvek ne mogu da pišu složen i pouzdan program, pitanje je vremena kada će i to savladati.

- Strah je opravdan, VI će tiho, algoritamski, zameniti veliki broj ljudi. A sve pod maskom efikasnosti - upozorava Mokrić. - Jedan program VI može da ispiše teksta koliko celo čovečanstvo. Model za generisanje može da skine sve slike sa interneta i smesti ih u sopstveni alat. Sićušna intervencija na nivou molekula patogena mogla bi da rasplamsa pandemiju. Kvantni računar mogao bi celokupnu svetsku kriptografsku infrastrukturu da učini neupotrebljivom. Međusobna povezanost u ovom talasu može da se kaskadno odrazi na ceo svet. Jedan VI model proizvodi izlaze koji obučavaju drugi VI model.

Foto: Shuterstock

VI sve češće odluke donosi samostalno, a razvija se eksponencijalnom brzinom.

- Čini mi se da ako bismo kao medved prespavali zimu, probudili bismo se u totalno drugačijem svetu ne samo na polju veštačke inteligencije nego uopšte - kaže Mokrić. - U toj sam industriji svakodnevno i svedočim o brzini promena koje više ne možemo da ispratimo. Paradoks nadolazećeg talasa je u tome što u velikoj meri ne razumemo najfinije detalje njegovih tehnologija, a ipak smo sposobni da ih stvaramo i koristimo. Stvarajući nešto inteligentnije od nas samih, mogli bismo se naći u poziciji svojih rođaka - primata. Najnoviji četbotovi mogu da rezonuju. Jedino je još matematika za VI tvrd orah, čini se.

Mokrić smatra da bi razvoj veštačke inteligencije trebalo da bude sporiji:

- Trka u svetu je takva da ne može sporije. Mnoge svetske sile su uključene i razvijaju VI da ne bi drugi bili nadmoćniji, bez obzira na to što to može da ugrozi njih, njihove interese i nacionalne države. Političari, pritom, ne vole pesimistične scenarije.

Foto: pixabay

Može li se veštačka inteligencija obuzdati?

- Ključna reč je regulacija. Među predloženim merama su formiranje međunarodne etičke komisije, finansiranje bezbednosnih istraživanja, globalni sporazumi. Većina tih mera deluje kao dobra namera bez realnog mehanizma sprovođenja. Dok EU razmatra strogu zabranu upotrebe VI u javnom prostoru, drugi delovi sveta su u trci za profitom i dominacijom. Duh iz boce je izašao, teško je predvideti šta će biti - rekao je Mokrić.

Mokrić kaže da je zabluda da neko stoji iza svega i upravlja, jer današnja tehnologija je kao orkestar bez dirigenta. Pojedini centri moći samo delimično upravljaju. Postoji pretnja da se neke zemlje pretvore u zombi države, druge da postanu tehnokratske, treće da se pretvore u tehnofeudalne, ili tehnofašističke.

- Doći će do hezbolahizacije u svetu - navodi Mokrić. - Stvaraće se kvazidržave koje će imati svoju autonomiju ili poluautonomiju. Sve što je čovek proizveo može da se koristi u dobre i u loše svrhe. I, ako ne naučimo da plivamo u tom talasu, možda nas on samo - odnese.

Pratite nas i putem iOS i android aplikacije