Početna > Izdanja > Broj 102 > Edukacija - Svet - AI

Mardžori Blumental, Endru Parasiliti, www.techcrunch.com

Nade i rizici veštačke inteligencije

Ranije ove godine, 116 velikana tehnologije potpisalo je otvoreno pismo u kom traže od Ujedinjenih nacija da zabrane „sisteme smrtonosnog autonomnog oružja“, upozoravajući da bi oni mogli omogućiti „odvijanje oružanih sukoba u razmerama većim nego ikada“. Prema listu Independent „ovo pismo je značajno jer su u njemu stručnjaci za veštačku inteligenciju i kompanije koje se bave robotikom prvi put zauzeli jedinstveni stav o nekom problemu“.

Doduše, nisu svi toliko zabrinuti; Endru Ng, doskorašnji glavni naučnik kompanije Baidu, zaključuje da je „brinuti se zbog robota-ubica isto kao brinuti se zbog prenaseljenosti na Marsu – imaćemo dosta vremena da to rešimo.“

Početkom 21.. veka, veštačka inteligencija bila je jedna od tema koje su izazivale najviše interesovanja i najžustrije debate, počevši od samog razumevanja tog termina: ovog marta nastala je čak i pošalica da „definicija veštačke inteligencije ima onoliko koliko i istraživača koji se bave razvojem te tehnologije.“ Robi Vajting, osnivač kompanije za savetovanje brendova Junior, tvrdi da „veštačka inteligencija nije poštapalica i ona će promeniti svet“.

Iako bi ovaj termin trebalo koristiti oprezno i uzdržati se preuveličavanja, veštačka inteligencija već potpuno menja najrazličitije oblasti kao što su transport (uključujući autonomna vozila), finansije i zdravstvo. Tehnički direktor kompanije Facebook smatra da ona „može rešiti probleme koji zahvataju celu planetu“. S druge strane, Ilon Mask tvrdi da ona predstavlja „fundamentalnu pretnju za postojanje ljudske civilizacije“. Tehnologije uglavnom suštinski nisu ni povoljne ni štetne; zapravo se treba osvrnuti na to ko ih koristi i za šta.

Neosporno je da veštačka inteligencija napreduje mnogo brže od napora da se shvate njena kompleksna priroda, mnogobrojne dimenzije i dalekosežne posledice po nacionalnu bezbednost. Skorašnji izveštaj studenata sa univerziteta Harvard Gregorija Alena i Tanijela Čena pozvao je američku vladu da ustanovi „nešto poput organizacije za istraživanje i razvoj RAND Corporation za veštačku inteligenciju“.

Kao istraživači organizacije RAND, slažemo se sa timom univerziteta Harvard u poređenju izazova veštačke inteligencije sa nuklearnim naoružanjem; tokom Hladnog rata, istraživači organizacije RAND potpuno su promenili način na koji razmišljamo o bezbednosti, zastrašivanju i preživljavanju.

Uzmite u obzir četiri arene u kojima će uticaj veštačke inteligencije verovatno biti značajan, ali i neizvestan.

Poslovi:

Kai-Fu Li, direktor kompanije Sinovation Ventures, ocenio je da je veštačka inteligencija „spremna da prouzrokuje nestanak velikog broja poslova“ i pritom akumulira još veće bogatstvo u rukama kompanija koje je razvijaju i/ili koje će je usvojiti. Drugi odgovaraju da su takvi strahovi pratili pojavu svake revolucionarne tehnologije još od izuma štampe u 15. veku.

List Economist ohrabruje svoje čitaoce tvrdeći da veštačka inteligencija „stvara potrebu za novim poslovima“ sa rastućim brojem pojedinaca širom sveta koji „pružaju digitalne usluge na mreži“. Koje će kompanije i države procvetati u eri veštačke inteligencije? Koji će sektori biti eliminisani, izmenjeni i/ili stvoreni? Kako će se promeniti priroda posla?

Ratovanje:

Zagovarači naoružanih dronova tvrde da takvo oružje može da pogodi metu mnogo preciznije nego čovek; smatra se da što veću ulogu ovakvi dronovi imaju na ratnom polju, to će manje vojnici morati da se suočavaju s opasnošću.

Međutim, šta ako takvo oružje postane previše nezavisno, tj. šta ako počne da deluje nezavisno, mimo ljudske komande? Da li bi pomeranje rata izvan domašaja ljudi moglo da stvori novu, neobuzdaniju trku u naoružavanju?

Otvoreno pismo objavljeno 2015. godine na Međunarodnoj objedinjenoj konferenciji o veštačkoj inteligenciji (International Joint Conference on Artificial Intelligence) upozorava na to da autonomno oružje „ne zahteva skupe sirovine ili sirovine koje je teško nabaviti, pa će ono postati opšteprisutno i povoljno za masovnu proizvodnju svih važnijih vojnih sila“. Da li će era automatizovanih sukoba generalno gledano biti mirnija ili će u njoj, pak, biti još više nasilja?

Istraživači organizacije RAND pozvali su na analizu i međunarodni pristup u raspravi o upotrebi dalekosežnih naoružanih dronova u borbi protiv terorizma i ciljanom ubijanju.

Donošenje odluka:

Tvorci politika lako mogu biti sputani količinom izbora koje moraju napraviti i rasponom podsticaja na koje nailaze – a oni su još veći danas, u eri društvenih mreža, nego u prethodnim decenijama. Sa takvim naletom informacija teško je nositi se i tokom jedne krize, a kamoli tokom više njih.

Skorašnji članak iz časopisa POLITICO Magazine predstavio je ideju da kompjuter „prođe kroz sve odluke koje predsednik treba da donese – ne da bi sam doneo konačnu odluku, već da bi pomogao i sproveo čoveka-glavnog šefa“.

Međutim, iako veštačka inteligencija deluje savršeno, nedavno istraživanje organizacije RAND ukazuje na rizike algoritamskog favorizovanja u filtriranju vesti koje stižu do nas, što utiče na određivanje pravde u kažnjavanju, pa čak i pružanje povlastica socijalnog osiguranja. Koje odluke bi trebalo poveriti veštačkoj inteligenciji? Koje odluke bi trebalo ostaviti u ljudskoj nadležnosti? Koje odluke bi trebalo prepustiti timovima u kojima ljudi i veštačka inteligencija rade zajedno?

Kreativnost:

Svet se već navikao na to da veštačka inteligencija može izvršiti spektakularne kompjuterske poduhvate i pobediti ljudska bića u popularnim društvenim igrama (prošlo je tek dvadesetak godina od čuvene pobede superkompjutera Deep Blue kompanije IBM nad šahovskim velemajstorom Garijem Kasparovim). Na koji način će kontinuirani napredak veštačke inteligencije uticati na ljudsku kreativnost?

Istraživač veštačke inteligencije Džesi Engel smatra da će ona „preoblikovati ljudski kreativni proces…uvećavajući ga inteligentnijim alatima koji donose nove mogućnosti izražavanja“. Drugi nisu tako optimistični. Novinarka lista Atlantic Adrijen Lafrans ukazuje na to da veštačka inteligencija već ume da „flertuje“, „piše romane“ i „falsifikuje poznate slike sa neverovatnom preciznošću“. Šta znači biti kreativan? Ili, još uopštenije, šta znači biti ljudsko biće?

Diskusije o veštačkoj inteligenciji često idu iz krajnosti u krajnost, s jedne strane obećavajući utopiju, u kojoj nema ljudske patnje, a s druge strane upozoravajući na opasnosti distopije, u kojoj bi roboti mogli porobiti svoje tvorce – ljude. Neophodna je uravnotežena, stroga analiza kako bi se osmislila politika koja bi mogla da kontroliše rizike, a pojača pogodnosti. Trebalo bi preduzeti neophodne korake kako bi se prevazišle brige da će veštačka inteligencija prevazići sposobnosti prilagođavanja vlade i društva.

Kako bi veštačka inteligencija mogla da utiče na osnovne nacionalne interese Sjedinjenih Američkih Država? Da li bi neke vrste veštačke inteligencije trebalo smatrati strateškim tehnologijama koje podležu ograničenjima vlade SAD-a i koje? Gde bi tržišne sile trebalo da imaju najveću ulogu, gde bi se trenutni politički okviri mogli prilagoditi novim tehnologijama, i gde bi imalo smisla uvesti nove pristupe (u okviru SAD-a ili na međunarodnom nivou)?

Iako veštačka inteligencija predstavlja odličnu inspiraciju za naučnofantastične filmove, ovo su goruća pitanja koja se tiču stvarnosti.

Ovom članku doprineo je i Ali Vajn, politički analitičar u neprofitnoj, nepristrasnoj organizaciji RAND Corporation.

20.8.2017.

Hari Kokburn

www.independent.co.uk

„Jednom kada Pandorina kutija bude otvorena, biće teško zatvoriti je.“

Preko stotinu stručnjaka u oblasti robotike i veštačke inteligencije apeluju na Ujedinjene nacije da zabrane razvoj i upotrebu robota-ubica i uvrste ih u listu „nemoralnog“ oružja koja već uključuje zaslepljujuće lasere i hemijsko oružje.

Mustafa Sulejman iz kompanije Google i Ilon Mask iz kompanije Tesla Inc. neka su od najznačajnijih imena na listi od 116 stručnjaka u oblasti tehnologije koji su potpisali otvoreno pismo u kom od Ujedinjenih nacija traže da zabrane autonomna oružja u naporu da spreče trku u naoružavanju.

Decembra 2016. godine Ujedinjene nacije izglasale su početak formalnih razgovora o budućnosti takvog naoružanja, uključujući tenkove, dronove i automatske puške. Do sada je 19 od 123 države pozvalo na izričitu zabranu smrtonosnog autonomnog oružja.

Jedan od glavnih organizatora pisma, Tobi Volš, profesor veštačke inteligencije na Univerzitetu u Novom Južnom Velsu u Australiji, predstavio je pismo na otvaranju Međunarodne objedinjene konferencije o veštačkoj inteligenciji (International Joint Conference on Artificial Intelligence) u Melburnu.

Ovo pismo je značajno jer su u njemu stručnjaci za veštačku inteligenciju i kompanije koje se bave robotikom prvi put zauzeli jedinstveni stav o nekom problemu.

U pismu se navodi: „Smrtonosna autonomna oružja prete da postanu treća revolucija u ratovanju. Kada se razviju, omogućiće odvijanje oružanih sukoba u razmerama većim nego ikada i za vreme brže nego što ljudska bića to mogu da razumeju.

Ovo oružje biće oružje terora, oružje tiranina koje će teroristi koristiti protiv nevinih ljudi, i oružje koje će biti moguće hakovati tako da deluje na nepoželjne načine.

Nemamo mnogo vremena. Jednom kada Pandorina kutija bude otvorena, biće teško zatvoriti je.“

Pismo se završava hitnim pozivom Ujedinjenim nacijama da „pronađu način da nas sve zaštite od ovih opasnosti.“

Neki od značajnijih potpisnika ovog pisma su:

  • Mustafa Sulejman, suosnivač i direktor odeljenja za primenjenu veštačku inteligenciju u kompaniji DeepMind Technologies koja posluje u okviru kompanije Google (Ujedinjeno Kraljevstvo)
  • Ilon Mask, osnivač kompanija Space X i OpenAI (SAD)
  • Tobi Volš, profesor veštačke inteligencije na Univerzitetu u Novom Južnom Velsu (Australija)
  • Esben Estergord, osnivač i tehnički direktor kompanije Universal Robotics (Danska)
  • Jošua Bendžio, vodeći stručnjak u oblasti dubokog učenja i osnivač kompanije Element AI (Kanada)
  • Žerom Monso, osnivač kompanije Aldebaran Robotics, tvoraca robota Nao i Peper (Švajcarska)

Profesor Volš je dodao: „Gotovo svaki oblik tehnologije može se koristiti u dobre i u loše svrhe, a veštačka inteligencija nije izuzetak od ovog pravila. Ona može pomoći u rešavanju mnogih gorućih problema sa kojima se društvo danas suočava: neravnopravnost i siromaštvo, izazovi koje postavljaju klimatske promene i aktuelna svetska finansijska kriza.

Ipak, ista ta tehnologija može se iskoristiti i u razvoju autonomnog oružja u industrijalizaciji rata. Moramo doneti odluke danas kako bismo izabrali jednu od ovih budućnosti.“


Berza

investicioni fondovi

kursna lista