Ulli Waltinger: 'Što smo povezaniji, prijetnje u kibernetičkom svijetu će sve više rasti, a s njima i potreba za sigurnošću u industrijskom sektoru'

Autor:

  • Karla Juničić

14.10.2019.

Hanza Media

Ulli Waltinger, osnivač i suvoditelj AI lab-a u kompaniji Siemens Corporate Technology

Bila je srijeda ujutro kada je Ulli Waltinger primio poruku svoje kolegice: 'Vaš let je otkazan, aviokompanija je u financijskom gubitku'. Prvo što mu je palo na pamet bilo je: 'Je li mi netko hakirao telefon, kako je to moguće?'.

Pomislili bismo da je to nešto što može pretpostaviti samo osoba poput dr. Waltingera, voditelja istraživačke skupine Machine Intelligence te osnivač i suvoditelj Siemensovog AI laboratorija u kompaniji Siemens Corporate Technology. No, to je pogrešna pretpostavka. Živimo u svijetu u kojem svaka lažna vijest predstavlja sigurnosnu prijetnju i može utjecati na naš svakodnevni život.

- Što smo digitaliziraniji i što smo više međusobno povezani, potrebe za kibernetičkom sigurnošću će se povećati' - rekao je Waltinger.

Zrakoplov Adria Airwaysa je tog dana zaista ostao na tlu i slovenska kompanija je bankrotirala u lančanoj reakciji sljedeći svog kolegu Thomasa Cooksa u Ujedinjenoj Kraljevini. No unatoč svim zbrkama u stvarnosti ili u kibernetičkom svijetu, Ulli Waltinger je sletio sigurno na svoj intervju s Euractivom.

Često raspravljamo kako umjetna inteligencija (AI) može unaprijediti digitalnu transformaciju, no ne bez ljudske pomoći. Ipak, čini se da inovacije u AI idu mnogo brže i dalje od samog ljudskog znanja. Ako ljudi nisu upoznati s nečim, to ih isključuje iz cijelog procesa. Kako možemo postići bolju povezanost između novih tehnoloških izuma i ljudi?

Što je šire područje primjene algoritama i umjetne inteligencije u svijetu računalnih programa, to će šira biti zajednica u cjelokupnom životnom ciklusu softvera i algoritama u implementaciji AI-a. U tom smislu moramo razmisliti o korištenju podataka, osigurati nepristranost, optimizirati sustave itd.

No trebalo bi se bolje osigurati kako bi rezultati bili objašnjivi ili barem priopćivi stvarnom svijetu i zajednici. Trenutno je obrazovanje i razvoj AI-a posvećen vrlo uskom krugu ljudi koji ne odražavaju široku primjenu i implikacije koje AI sve može imati. U digitalnom pogledu mislim da živimo u društvu kojim dominira konzumerizam. On se oslanja na tri stupa: praktičnost, odabir i jeftina cijena. Kada komunicirate na društvenim mrežama, poslovnim platformama ili trgovačkim platformama nije vas briga za složenost postupka nego za praktičnost. Nije vas briga ako proizvod koji želite mora proći tri kontinenta, tri zemlje ili tri regije. Želite ga imati sutra!

Drugi aspekt je da želite imati mogućnost izbora koji nije složen tj. želite birati između: malih, srednjih ili velikih. Treći aspekt je cijena - želimo platiti onoliko koliko nešto i vrijedi. Živimo u svijetu koji je vrlo složen. U jednom trenutku zahtijevamo veću transparentnost u tehničkom smislu. S druge strane, već imamo složen sustav pa zahtijevamo pojednostavljenje. Primjerice, svi znamo da se naši podaci koriste na društvenim mrežama, ali prihvaćamo tu činjenicu jer je korist od besplatnog e-mail računa veća. Živimo i u B2C svijetu (business to consumer) u kojem se i mi sami pretvaramo u proizvod. Ako ne plaćamo za nešto, mi postajemo proizvod. Koristimo uslugu, čak i kad znamo da netko čita naše e-mailove tehnologijom strojnog učenja (machine learning), ali istovremeno ne plaćamo tu pogodnost besplatne komunikacije.

Razmotrimo činjenicu: 'što je postrojenje umreženje, kibernetička sigurnost je važnija'? Možete li objasniti važnost i ulogu kibernetičke sigurnosti u današnjem poslovnom okruženju?

U pogonima gdje su spojene različite jedinice te gdje su povezani njihovi proizvodi, one ulaze u kibernetički prostor u kojem se pojavljuju nove prijetnje, posebno sigurnosne prijetnje. Kako biste bili sigurni da je prostor osiguran i da ga nitko neće srušiti ili izmanipulirati podacima? Zbog toga razvijamo nove tehnologije, a digitalizacija, kao i razvoj AI-a, dolazi s potrebama. Potrebe će se povećati s povećanjem sigurnosnih mjera. Alati koji se razvijaju zahvaljujući novim tehnologijama koriste se za hakiranje, razbijanje vatrozida ili infrastrukture. Nastojimo koristiti naše kompetencije da poboljšamo svoju obranu. Većina prijetnji u kibernetičkoj sigurnosti se ne temelji na tehnologiji, već na ljudskim osnovama. Moramo biti sigurni i osposobljeni da znamo koje sve zamke postoje prilikom uključivanja u digitalne i AI sustave.

S porastom prijetnji u kibernetičkom svijetu sve će biti važnija sigurnost i u industrijskom sektoru. To moramo prihvatiti i provesti suradnju kao partner i kao mreža; osigurati da imamo okruženje u kojem se mi sami i svi u industriji angažiramo i razvijamo povjerenje.

Kako komentirate porast učestalosti kibernetičkih napada u današnjem globalnom okruženju?

Povećavat će se što se više digitaliziramo te što smo povezaniji. Potrošači su svakog dana pod sve većim utjecajem. Naši pametni domovi u kojima ćemo živjeti bit će pogođeniji ovim oblikom napada. Mislim da će mobilnost biti sljedeći aspekt kojeg će biti potrebno osigurati. Kako osigurati da autonomni automobili ne budu ugroženi kibernetičkim napadom?

Ako nastavimo s razvojem tehnologije, trebali bismo istovremeno ulagati u sigurnost. U tehnološkoj zajednici to nazivamo ekosustavom. Na primjer, Siemens je potaknuo stvaranje Povelje o povjerenju koja okuplja partnere koji dijele jednake vrijednosti. Podržavamo se međusobno u areni kibernetičke sigurnosti.

Jesu li ljudi dovoljno svjesni kako kibernetička sigurnost može utjecati na njihov svakodnevni život?

Ljudsko promišljanje i ljudski aspekti su u ovoj petlji jako važni. Važno je razmisliti da je primljena poruka neželjena pošta, a ne hakerski napad te biti oprezan pri otvaranju stranica ili priloga. U industrijskom se sektoru na sličan način borimo s virusima i računalnim programima. No, pitanje je jesu li sadašnji industrijski igrači na to spremni?

Kod kuće moramo napraviti kontrolni popis sigurnosti: imamo li instaliran vatrozid, je li ažuriran virusni program, je li on instaliran na svim uređajima. Mi radimo slične popise u industriji i postrojenjima. Potrebni su nam takvi procesi koji pomažu u postizanju transparentnosti te da se u digitalnom svijetu razmišlja o digitalnoj strategiji u kibernetičkoj sigurnosti.

Korištenjem autonomne tehnologije sve se veća pažnja posvećuje odnosu između ljudi i stroja. Kako se može postići bolje povjerenje između ljudi i AI-a?

Povjerenje ne podrazumijeva samo transparentnost. Radi se više o interakciji koju imamo s tehnologijama. Mislim da se ne radi o tome 'kako možemo vjerovati strojevima', već vjerujemo li pružatelju usluge, onome tko nam pruža tehnologiju koju koristimo. Ne postavljamo pitanja 'vjerujete li svom mobilnom telefonu' nego se pitate: vjerujete li svom operateru; vjerujete li pružatelju usluga u pozadini ili programeru aplikacije; znam li što se događa s mojim podacima; jesam li profiliran; do koje razine? Stoga ovi aspekti na kojim se gradi pouzdanost dobivaju više pozornosti. Ovi aspekti nas vode i u stvaranju smjernica pouzdanosti i transparentnosti na europskoj razini.

U posljednje vrijeme bili smo svjedoci mnogih skandala s privatnošću, uključujući nedavni skandal u Londonu gdje sigurnosne kamere na King Crossu koristile AI tehnologiju za prikupljane informacija o prolaznicima. Kako postići da sigurnosni sustavi i kontrole ne prelaze granice kršenja ljudskih prava?

U Siemensu smo razvili okvir koji se zove 'Odgovoran AI' koji strukturira sposobnosti, a sustav nadzora jedna je od tih mogućnosti. Ponekad svijet nije crno-bijeli, ponekad morate razmišljati o mogućnostima, ali i rizicima. Iz naše perspektive, kada vršimo nadzor, on se ne podrazumijeva nužno samo na razini sigurnosti ili profiliranja - primjerice kada šaljemo dronove u analizu gradilišta. Istovremeno pokušavamo dati smjernice i najbolju praksu u upravljanju zamkama i rizicima poput onih kako zaštiti lica i ljude.

Na europskoj razini, posebice na razini B2C-a, tehnologija prepoznavanja lice je nešto što me zabrinjava. To je nešto o čemu trebamo više razmisliti, a sličnim mjerama zabrane svjedočimo već u SAD-u: San Francisco je zabranio prepoznavanje lica, Microsoft razvija principe zaštite. Svijet je složen i sigurnost je važan aspekt našeg života. Moramo u društvu i u zajednici razgovarati više o tome koliko se daleko treba razvijati tehnologija.

Trenutno se razvija mnogo različitih AI strategija, poput one europske ili strategije SAD-a... No, čini se da kineska strategija AI-a predstavlja neku vrstu prijetnje. Je li to uistinu tako?

Postoje brojne strategije AI. Zemlje i kompanije smatraju da su AI strategije dobre jer u njima vide značajne implikacije tehnologije poput AI-a i strojnog učenja u društvu te među proizvodnim procesima. 

AI strategiju u SAD-u pokreću tehnološki divovi i napredak je zaista veličanstven na području istraživanja i doprinosa AI-u koji je više usredotočen na B2C razinu. Mislim da je strategija Kine vrlo zanimljiva. Ona ne predstavlja prijetnju već pokazuje velike nade i velika očekivanja jedne zemlje. U tehnologiji se fokusiraju na talent, puno govore o obuci i obrazovanju. Oni govore kako zapravo prikupiti i pružiti podatke, govore o implikacijama na infrastrukturu i energetskoj učinkovitosti. To nije nužno prijetnja. Vidite slične pristupe i u Europi: europski prostor podataka, edukacije, mreže laboratorija, mreže infrastrukture.

Ne bih išao u smjeru i rekao da je strategija određene tvrtke koja se fokusira na obrazovanje, talente i podatke prijetnja Europi. Mislim da mogućnosti postoje i ako skrenete pažnju na industrijski AI i AI na razini poduzeća, alati koji se koriste su ujedno i europski poput RapidMinera, Knimea,  nadzornog sustava rasvjete - ALCMS. Prve ideje autonomne vožnje su temeljene na idejama koje su razvijene u Europi.

Iz moje perspektive, Europa treba više raditi na PR-u, tj.razvijanju bolje promocije onoga što je postignuto do sada te onog što su budući izazovi. To se ne ističe dovoljno u javnosti i medijima koji govore o SAD-u i Kini.

Čini da postoji veliko suparništvo u razvoju inovacija ili 5G mreže, posebno u Europi gdje inovacije predvodi mali broj zemalja poput Njemačke ili Francuske?

Komplicirano je. Dakle, mreža 5G jedan je od glavnih stupova u digitalizaciji. 5G će nam omogućiti veću učinkovitost i bolju povezanost uređaja i mreža. Strategija u Europi je specifična jer postoji više dobavljača, što znači da više dobavljača pruža tu infrastrukturu.

Na lokalnoj razini u tvrtkama vidimo kako se radi na umrežavanju i organiziranju, a ne natjecanju. To vidimo i na globalnom planu. Europa je uvijek vrlo aktivna u pregovorima i ima različita mišljenja u demokratskom smislu. Većina europskih zemalja identificirala je snagu i mogućnosti koje ima Europa. To je ono što trebamo prepoznati. Mislim da postoji pozitivan utjecaj europskog programa Obzor (Horizon). On čini solidnu okosnicu u smislu suradnje. Trenutno sudjelujemo u mojoj maloj grupi u 4 različita projekta, zajedno s više od 30 industrijskih igrača širom Europe, oblikujući utjecaj AI-a u Europi.

Što smatrate da bi buduća europska strategija AI-a trebala sadržavati?

Na europskoj su razini predložena tri aspekta koja mislim da su poprilično dobra, no smatram da nisu optimalna. Prvi se fokusira na financiranje na europskoj međunarodnoj razini i podržavanje suradnje između sveučilišta, istraživačkih centara i industrije.

Drugi se odnosi na podatke: kakva je uloga, europska pozicija ili europska razina o privatnosti podataka, razmjeni podataka, GDPR-a. Nije sve savršeno, ali to je prvi pokušaj. Moramo poboljšati u određenim aspektima i napraviti još bolju praksu u zaštiti podataka na europskoj razini. Treći aspekt je razvijanje povjerenja i transparentnosti. Promicanje tog angažmana na globalnoj razini nešto je na čemu bismo trebali više raditi.

Trenutno je potražnja za financijama u istraživanjima na tako visokoj razini da si većina Sveučilišta ni ne može priuštiti istraživanja. Kako osigurati da se istraživanje AI-a može provoditi na sveučilišnim razinama bez velikih ulaganja? Trenutno su svi modeli strojnog učenja i sveučilišni radovi posvećeni velikim industrijama koje si mogu priuštiti takva istraživanja. Mislim da bi EU trebala širiti mrežu sveučilišta koja imaju mogućnost istraživanja AI-a jer trenutno samo nekoliko sveučilišta ima financijske ovlasti za primjenu istraživanja.

A kako poboljšati rodnu ravnopravnost u razvoju AI, sektora kojim trenutno dominiraju muškarci?

Različitost je važna jer nas ona čini ljepšima. Ako pogledate, na razvoj AI-a trenutno utječe mala skupina stručnjaka. Raznolikost se ne očituje samo u rodu, već je puno šira i uključuje geografsku pripadnost, jezične razlike, obrazovanje itd. Moramo uključiti sve zajednice u razvoj, od edukacije do primjene.

Trebamo razmišljati o našim vrijednostima i biti nepristrani u interakciji s tehnologijom.  Povjerenje u tehnologiji se neće postići jer je nešto nepristrano. U Siemensu imamo podršku sa svih strana i vidimo važnost poslovnih mreža za podršku. Postoji izreka Madeleine Albright (bivša američka državna tajnica):''Postoji posebno mjesto u paklu rezervirano za žene koje ne pomažu drugim ženama''.