Luke Robinson: Što se događa kada nas umjetna inteligencija u vlasništvu tvrtki poznaje bolje od nas samih? Ta se moć može upotrijebiti protiv nas!

Autor:

  • Karla Juničić

25.10.2019.

Zagreb, 111019.
Kras auditorium.
Intervju Luke Robinson, akademski strucnjak i znanstvenik na podrucju Eticke umjetne inteligencije.
Foto: Srdjan Vrancic / CROPIX
Srdjan Vrancic / CROPIX

Luke Robinson, akademski stručnjak s iskustvom rada na Sveučilištima Cambridge i Oxford i partner u kompaniji Post Urban Ventures

Synth-etika, popularni naziv za primjenu etike i morala u novim inovacijama i umjetnoj inteligenciji (AI), dobiva na sve većoj važnosti budući da su  ljudski aspekt te prava privatnosti i kontrole nužni dio razvoja novih tehnologija.

Luke Robinson, akademski stručnjak i trenutni partner u kompaniji za razvoj tehnoloških rješenja u umjetnoj inteligencije Post Urban Ventures, smatra da umjetna inteligencija ima ogroman potencijal da nam omogući veću autonomiju, odnosno da nam omogući novi stupanj slobode. S druge strane može nas još više udaljiti u sociološkom smislu pa trebamo biti pažljivi u tome kako je koristimo.

- Kako ljudi pružaju sve više privatnih podataka tvrtkama i postaju sve ovisniji o tehnologijama kojima upravlja AI, moć nad ljudima i skupinama vjerojatno će preuzeti tvrtke koje imaju najveći pristup ljudima i podacima – rekao je Robinson u intervjuu za Euractiv.hr.

- No znamo da se ta moć može upotrijebiti protiv nas!

Koji su to etički problemi koji nastaju s razvojem umjetne inteligencije? Možete li ih opisati?

Etičke dileme se često javljaju kada se stvari koje cijenimo okrenu jedna protiv drugih. Te vrijednosti mogu biti pojedinačno dobro ili kolektivno dobro, kratkoročna ili dugoročna vrijednost, lokalne ili globalne, nove u odnosu na stare itd. Danas korištenje ljudske inteligencije za donošenje odluka ima veliku vrijednost u globalnoj ekonomiji, ali to možda i nije uvijek slučaj. Malo po malo, AI i modeli strojnog učenja se osposobljavaju tako da smanje utjecaj koji korištenje skupe ljudske inteligencije ima na ekonomiju u sve više poslovnih procesa.

Prenošenje ljudske inteligencije na strojeve standardizira ljudsku inteligenciju, inteligencija koja se prenosi na stroj može se umnožavati i koristiti širom svijeta brzinom svjetlosti. To masovno smanjuje troškove korištenja ljudskog oblika inteligencije u gospodarstvu, što čini mnoge stvari znatno jeftinijim i bržim. No te će biti i nedostatak jer će ljudski poslovi i njihove vještine postati suvišni. Ljudi kojima vještina više nije potrebna trebat će se prekvalificirati, a za to će trebati novca i vremena što će staviti veliki pritisak na gospodarstvo i socijalne institucije.


Mnogo je jednostavnih načina na koje AI može donijeti vrijednost ekonomiji, ljudskom zdravlju i blagostanju, ali već lažne vijesti i ciljano oglašavanje utječu na naš život i zaista moramo duboko razmisliti o tome što se događa kada nas tehnologija AI u vlasništvu tvrtki poznaje bolje nego što mi znamo sebe. Što se događa s našom neovisnošću, povjerenjem i društvenim sustavima, kada ljudi više nemaju sposobnost pravilno razlikovati što je stvarno, a što nije?

Google pretraga umanjila je pamćenje jednostavnih podataka. Što se događa kada ne moramo tražiti odgovore, kad nam odgovori i prijedlozi stignu, kada je sve prilagođeno nama, kada vojska algoritama pokušava sve brže zadovoljiti svaku našu potrebu? Kad sve bude personalizirano, što će nam biti zajedničko? Što gubimo ako odustanemo od kontrole? Kakav će biti utjecaj ovisnosti?

 

Zagreb, 111019.
Kras auditorium.
Intervju Luke Robinson, akademski strucnjak i znanstvenik na podrucju Eticke umjetne inteligencije.
Foto: Srdjan Vrancic / CROPIX
Srdjan Vrancic / CROPIX

Luke Robinson prilikom predavanja na konferenciji o umjetnoj inteligenciji AI2FUTURE

Poslovi su sve automatiziraniji. U kojoj će mjeri AI utjecati na tržište rada?

Tržište rada će biti korjenito promijenjeno i stavljat će veliki pritisak na obrazovne sustave i načine na koji obrazujemo ljude. Ljudi će se morati prekvalificirati, a vlade će morati financirati prekvalificiranje jer će doći do velikog problema nezaposlenosti. Jedan od sljedećih koraka je ljudska suradnja s AI-om koja podrazumijeva da ljudi podučavaju umjetnu inteligenciju ljudskim radnjama. Kad u gospodarstvu ljudske vještine budu prenesene na strojeve, ljudi više neće trebati raditi određene poslove. Vjerujem da će AI stvoriti ogroman broj novih prilika jer će se njime postići nova razina autonomije, ali to će istovremeno stvoriti razliku između ljudi koji će se opirati promjenama, koji će biti fleksibilniji i prilagoditi se, a mnogi će se i boriti. To će pogoršati jaz u godinama, u bogatstvu, vještinama, geografskoj pripadnosti itd. Osim pritiska na obrazovne i socijalne sustave pojačat će se diskriminaciju između bogatih i siromašnih.

Većina ljudi ima malo ili nimalo znanja o tome kako bi AI, blockchain, Internet stvari (IoT) ili genetski inženjering mogao utjecati na njihov život. Kolika je vjerojatnost da će ovi tehnološki trendovi i transformacija predstavljati egzistencijalne izazove čovječanstvu u sljedećim desetljećima?

Kad idete na godišnji odmor, često imate potrebu isključiti se od svega. Vjerojatno će postojati ljudi koji će moći odabrati život bez AI-a jer ne žele biti kontrolirani ili ovisni o tome. Nisam zabrinut zbog njih jer će imati pravo na izbor, no ljudi zbog kojih sam zabrinut su oni koji ne uspijevaju održati korak i koji se nalaze na rubovima svjetskog gospodarstva te se bore za prilagodbu i pronalaženje načina za ekonomski doprinos u gospodarstvu. Znamo da se svijet tehnološkog razvoja i znanosti kreće sve brže. Ljudi koji rade na ovim područjima moraju neprekidno učiti u svom poslu i naučeni su na to. Ne kažem da će svi morati postati programeri ili znanstvenici podataka, ali mnogi će ljudi morati naučiti nove vještine. Velik dio ovog novonastalog vala inovacija usmjerenih na AI pružit će korisnicima koji će moći raditi s AI i novom tehnologijom veći stupanj slobode. AI će osnažiti one koji će ju znati koristiti i koji će ju moći naučiti.

Ne smatram da će se uskoro stvoriti nova klasa, ali ove će sile vjerojatno djelovati na razlike između nas, i ako budemo nepažljivi, razdvojit će nas još više na one koji su povezani i koji mogu pratiti promjene i one koji to ne mogu. Najveći egzistencijalni rizik proizlazit će iz činjenice da će se kroz razdvajanje - kroz stvaranje razlika u našim prihodima, vještinama ili dobnim granicama – umanjiti povjerenje između nas i naših institucija. S time će se sposobnost čovječanstva da se suoči s egzistencijalnim rizicima poput klimatskih promjena ozbiljno umanjiti.

 

Zagreb, 111019.
Kras auditorium.
Intervju Luke Robinson, akademski strucnjak i znanstvenik na podrucju Eticke umjetne inteligencije.
Foto: Srdjan Vrancic / CROPIX
Srdjan Vrancic / CROPIX

Moć koju ove kompanije imaju nad nama i nad društvom čiji smo dio samo će se povećavati jer će alati o kojima ovisimo biti sve sofisticiraniji u kontroli naših života

Zašto je razina povjerenja u AI i nove tehnologije sve niža kod korisnika, unatoč činjenici da su mjere privatnosti sve veće?

Sve više i više ljudi počinje shvaćati koliko su neki oglasi na internetu ciljani na njih. Sve više ljudi je postalo svjesno da se sofisticiranost ovih oglasa vrlo brzo poboljšala, a s time su svjesni da tvrtke koje predstavljaju reklame znaju puno o nama. Vjerojatno znaju što nam sve sviđa ili ne bolje od naših prijatelja ili obitelji. Ljudi su postali svjesni da beskrupulozne tvrtke mogu upotrebljavati podatke protiv nas i mogu nas pokušati izmanipulirati. Svima nam je stalo do privatnosti, no ljudi sve više osjećaju da se prešla linija.

Očito je da su ljudi sve svjesniji, jer su curenje privatnosti i hakirani podaci sada velika vijest. Tvrtke su sada svjesne da curenje osobnih podataka njihovih klijenata može značajno utjecati na to koliko im klijenti vjeruju i to također utječe na cijene dionica kompanija. Tvrtke počinju shvaćati da je prikupljanje sve više podataka o svojim klijentima rizik i obveza. Tvrtke tek počinju shvaćati da moraju primijeniti načine kako smanjiti ovu odgovornost u odnosu na tehnologije za poboljšanje privatnosti poput različitih privatnosti i sintetičkih podataka koje razvija primjerice Hazy (ovo je jedna od naših tvrtki).

Složenost globalne ekonomije i uloge koju ljudi igraju u velikim tvrtkama znači da se mnogi ljudi često osjećaju daleko od onoga što bi prirodno osjećali, što stvara vrijednost za društvo. AI može učiniti da se ljudi osjećaju sve više i više otuđeni od onoga što rade i onoga do čega im je zaista stalo.

Koje su najvažnije mjere za uspostavljanje pouzdanosti između čovjeka i stroja?

Važno je pogurati prava na podatke i vratiti kontrolu ljudima. Otvoreni podaci i transparentnost je važna. Bolja povezanost čovjeka i stroja je također važna. Moramo educirati znanstvenike i inženjere strojnog učenja ne samo matematičim vještinama, već im osigurati i komunikacijske vještine. Edukacija o AI i etici bit će presudna. Trebat će se izmisliti nove tehnologije vizualizacije i objašnjenja. Neće to biti lako.

Kako izbjeći da se AI ne koristi u svrhe s negativnim posljedicama kao što su provjera ili prepoznavanje lica bez pristanka koja krše zakone o privatnosti?

Privatnost i povjerenje je vrlo važno. Ali to je često i kulturološki. S pozicije regulacije ne možemo uvijek znati hoće li utjecaj tehnologije biti dobar ili loš. Tehnologije se često koriste na načine koje je nemoguće predvidjeti. Ako tvrtke i akademici imaju jasne etičke politike koje su sposobne komunicirati i usmjeravaju njihov rad, to može pomoći jer su one na začelju inovacija, a regulatori po definiciji nisu. Kad je u pitanju regulacija, vlade moraju zaposliti ljude koji razumiju tehnologije prije nego što je reguliraju. Vlade moraju stvoriti okruženje gdje bi se nove tehnologije mogle brzo testirati ili proučiti prije no što se puste u širu uporabu. U protivnom će njihovo gospodarstvo biti u zaostatku.

Zagreb, 111019.
Kras auditorium.
Intervju Luke Robinson, akademski strucnjak i znanstvenik na podrucju Eticke umjetne inteligencije.
Foto: Srdjan Vrancic / CROPIX
Srdjan Vrancic / CROPIX

'EU bi trebala stvoriti okruženje gdje se AI može testirati u kontroliranom okruženju'

EU je poprilično napredna u postavljanju regulatornih procesa koja ponekad usporavaju inovacije. Što treba poboljšati na razini EU po pitanju regulacije?

Globalni gospodarski prinosi sada dolaze iz ekonomije inovacija, a znanost o podacima i AI tehnologija su na prvom mjestu. EU će zaostajati ako ne pronađe načine za rast i održavanje lokalnih ekosustava obrazovanja, istraživanja, poduzetništva i rizičnog kapitala. Kako bi upravljali rizikom, a ujedno iskoristili priliku da AI sektor predstavlja EU, trebalo bi uložiti u stvaranje plodnog tla i okruženja i prostora za izvođenje testiranja gdje su regulacije manje i gdje se modeli umjetne inteligencije i autonomni sustavi mogu eksperimentirati i usporediti. Stvaranje izoliranog okruženja i prostora za testiranje umjetne inteligencije, dostupnog istraživačima i startupima, ključno je za razumijevanje rizika i prilika. Ta određena mjesta – gradovi, medicinski centri, baze podataka, zračni prostor ili ceste – kojima treba upravljati oprezno su apsolutno nužni ako EU želi ostati konkurentna i razumjeti regulatorna pitanja.

Zatim, bit će bitno izgraditi međunarodno konkurentne AI tvrtke. Iz perspektive financiranja i inovacija, EU fondovi se ne bi trebali orijentirati samo na bespovratna sredstva koja bi trebala poduprijeti stvaranje malih investicijskih fondova za duboku tehnologiju u ranoj fazi usmjerenih već na iskusne poduzetnike. Europa treba izgraditi i uvježbati kvalificiranu klasu investicijskih poduzetnika. Inovacija je proces odozdo prema gore, EU prečesto pokušava koristiti bespovratna sredstva kako bi ih upravljala odozgo prema dolje. Bila ona dobra ili loša, ne možete znati rezultat inovacije. Sve tvrtke s rizičnim kapitalom znaju da trebate uložiti u mnoge pogreške kako biste pronašli savršenog 'jednoroga'.

Koji su rizici unaprjeđenja umjetne inteligencije?

Budući da AI postaje sve pametniji, mnogi će se novi poslovi stvoriti no mnogi se neće uspjeti održati i bit će zamijenjeni i ukinuti. Ovaj ekonomski šok, gubitak ili smanjena važnost, biti će najveći izazov za naše društvo. Naši sustavi obrazovanja i socijalne podrške nisu spremni za to. Kao primjer možemo navesti njemačku automobilsku industriju. Što će se dogoditi s njihovim gospodarstvom i socijalnim sustavima ako njihova automobilska industrija ne uspije na vrijeme reagirati na novi niz inovativnih automobilskih startupa kao što je Tesla. Ako ekonomije nisu dizajnirane da podrže sigurne inovacije i nose se s poremećajima, one će zaostajati.

Kako ljudi pružaju sve više privatnih podataka tvrtkama i postaju sve ovisniji o podršci tehnologijama koje upravljaju AI .... moć nad ljudima i skupinama vjerojatno će preuzeti tvrtke koje imaju najveći pristup ljudima i podacima.  Znamo da se ta moć može upotrijebiti protiv nas, kao što je vidljivo u ciljanom oglašavanju i što se vidjelo u utjecaju Cambridge Analytice na demokratske procese u mnogim zemljama. Moć koju ove kompanije imaju nad nama i nad društvom čiji smo dio samo će se povećavati jer će alati o kojima ovisimo biti sve sofisticiraniji u poznavanju, pomoći, upravljanju i kontroli naših života.