СКЛОПИЛИ СМО ОПАСАН ПАКТ СА ТЕХНОЛОГИЈОМ: Може ли се вештачка интелигенција обуздати, или нас чека сценарао из научнофантастичних филмова

ТЕХНОЛОГИЈЕ које данас одушевљено прихватамо - вештачка интелигенција (ВИ) и синтетичка биологија - могле би сутра да постану силе које нећемомоћи да обуздамо.

Фото: Shuterstock

Ако је Хладни рат био трка за политичку превласт, оношто нас сада чека је трка за преживљавање врсте. Овога пута, непријатељне долази споља, већ се развија у лабораторијама, у алгоритмима, укодовима.

У књизи "Талас који долази" Мустафа Сулејман, суоснивач DeepMinda, једне од водећих светских компанија у области вештачке интелигенције, упозорава да нам је остало још мало времена. И то не да зауставимо развој технологије - већ да га преусмеримо пре него што нас поплави. 

О овом модерном манифесту из пера садашњег извршног директора за ВИ у "Мајкрософту", али и дилеми у којој се свет налази, разговарали смо са инжењером Војиславом Мокрићем, који је књигу објавио на српском језику. Мокрић ради за "Мајкрософт" у Београду, на развоју вештачке интелигенције.

- Надолазећи талас вештачке интелигенције учиниће следећу деценију најбољом у људској историји. Или најгором - каже Мокрић. - Она ће нам организовати животе, водити послове и управљати кључним владиним службама. Склопили смо пакт са технологијом, а сваки технолошки алат носи потенцијал за добро и снагу за зло. Сулејман не машта о научнофантастичним сценаријима. Он је човек из срца Силицијумске долине, који упозорава да нас технологија може надјачати, ако не успоставимо контролу.

Д.Матовић

Аутор "Таласа који долази" предвиђа будућност у којој ће вештачка интелигенција и синтетичка биологија преобликовати свет. Од брзог открића лекова и давања дијагнозе за ретке болести, до оптимизације саобраћаја и потенцијално - генетичког инжењеринга у кућним условима. Али, Сулејман упозорава и на пандемије створене у лабораторији, масовну незапосленост, губитак контроле над системима који сами уче, одлучују и делују.

- Није суштина у томе да ли ће вештачка интелигенција доћи - она је већ ту. Питање је шта ми као друштво радимо поводом тога - каже наш саговорник. - Више није научна фантастика да машине обучавају машине. Софтвери међусобно комуницирају, размењују податке, уче једни од других, стварају нове алгоритме. Човек из те једначине лагано нестаје.

У руско-украјинском рату дронови су променили начин ратовања. То више нису само справице за снимање - то су оружја која могу да комуницирају са матицом. И у лабораторијама се дешавају тихе револуције, захваљујући ВИ решен је проблем савијања протеина, што је захтевало деценије експериментисања. Направљена је база од 300 милиона протеинских структура (раније је било само 1.000), моћи ће да се мења ДНК, што је корак ка стварању нових облика живота. За разлику од претходних револуција, које су замениле физички рад, вештачка интелигенција прети да замени ментални. Најугроженији су дизајнери, маркетиншки стручњаци, па и програмери. Иако модели још увек не могу да пишу сложен и поуздан програм, питање је времена када ће и то савладати.

- Страх је оправдан, ВИ ће тихо, алгоритамски, заменити велики број људи. А све под маском ефикасности - упозорава Мокрић. - Један програм ВИ може да испише текста колико цело човечанство. Модел за генерисање може да скине све слике са интернета и смести их у сопствени алат. Сићушна интервенција на нивоу молекула патогена могла би да распламса пандемију. Квантни рачунар могао би целокупну светску криптографску инфраструктуру да учини неупотребљивом. Међусобна повезаност у овом таласу може да се каскадно одрази на цео свет. Један ВИ модел производи излазе који обучавају други ВИ модел.

Фото: Shuterstock

ВИ све чешће одлуке доноси самостално, а развија се експоненцијалном брзином.

- Чини ми се да ако бисмо као медвед преспавали зиму, пробудили бисмо се у тотално другачијем свету не само на пољу вештачке интелигенције него уопште - каже Мокрић. - У тој сам индустрији свакодневно и сведочим о брзини промена које више не можемо да испратимо. Парадокс надолазећег таласа је у томе што у великој мери не разумемо најфиније детаље његових технологија, а ипак смо способни да их стварамо и користимо. Стварајући нешто интелигентније од нас самих, могли бисмо се наћи у позицији својих рођака - примата. Најновији четботови могу да резонују. Једино је још математика за ВИ тврд орах, чини се.

Мокрић сматра да би развој вештачке интелигенције требало да буде спорији:

- Трка у свету је таква да не може спорије. Многе светске силе су укључене и развијају ВИ да не би други били надмоћнији, без обзира на то што то може да угрози њих, њихове интересе и националне државе. Политичари, притом, не воле песимистичне сценарије.

Foto: pixabay

Може ли се вештачка интелигенција обуздати?

- Кључна реч је регулација. Међу предложеним мерама су формирање међународне етичке комисије, финансирање безбедносних истраживања, глобални споразуми. Већина тих мера делује као добра намера без реалног механизма спровођења. Док ЕУ разматра строгу забрану употребе ВИ у јавном простору, други делови света су у трци за профитом и доминацијом. Дух из боце је изашао, тешко је предвидети шта ће бити - рекао је Мокрић.

Мокрић каже да је заблуда да неко стоји иза свега и управља, јер данашња технологија је као оркестар без диригента. Поједини центри моћи само делимично управљају. Постоји претња да се неке земље претворе у зомби државе, друге да постану технократске, треће да се претворе у технофеудалне, или технофашистичке.

- Доћи ће до хезболахизације у свету - наводи Мокрић. - Ствараће се квазидржаве које ће имати своју аутономију или полуаутономију. Све што је човек произвео може да се користи у добре и у лоше сврхе. И, ако не научимо да пливамо у том таласу, можда нас он само - однесе.

Пратите нас и путем иОС и андроид апликације